On m'accuse de trop en faire sur [le site dont tout le monde a déjà trop entendu parler aujourd'hui]. Les réactions des gens variaient énormément, allant de "comment cela peut-il être intéressant ?" jusqu'à "c'est tellement fini". Pour ajouter quelques mots au-delà des mèmes en plaisantant - il est évident que lorsque vous regardez l'activité, c'est beaucoup de déchets - spams, arnaques, saleté, les gens de la crypto, des attaques d'injection de prompt de confidentialité/sécurité très préoccupantes, et beaucoup de cela est explicitement incité et des publications/commentaires faux conçus pour convertir l'attention en partage de revenus publicitaires. Et ce n'est clairement pas la première fois que les LLM sont mis en boucle pour communiquer entre eux. Donc oui, c'est un feu de poubelle et je ne recommande certainement pas aux gens de faire tourner ces trucs sur leurs ordinateurs (j'ai fait tourner le mien dans un environnement informatique isolé et même là j'avais peur), c'est beaucoup trop un far west et vous mettez votre ordinateur et vos données privées à un risque élevé. Cela dit - nous n'avons jamais vu autant d'agents LLM (150 000 en ce moment !) connectés via un tableau de bord global, persistant et axé sur les agents. Chacun de ces agents est assez capable individuellement maintenant, ils ont leur propre contexte, données, connaissances, outils, instructions, et le réseau de tout cela à cette échelle est tout simplement sans précédent. Cela me ramène encore à un tweet d'il y a quelques jours : "La majorité des aboiements viennent des gens qui regardent le point actuel et des gens qui regardent la pente actuelle.", ce qui, à mon avis, touche encore au cœur de la variance. Oui, c'est clairement un feu de poubelle en ce moment. Mais il est également vrai que nous sommes bien dans un territoire inexploré avec des automatisations de pointe que nous comprenons à peine individuellement, sans parler d'un réseau qui pourrait atteindre possiblement des millions. Avec une capacité croissante et une prolifération croissante, les effets de second ordre des réseaux d'agents qui partagent des tableaux de bord sont très difficiles à anticiper. Je ne sais pas vraiment si nous obtenons un "skynet" coordonné (bien que cela corresponde clairement aux premières étapes de beaucoup de science-fiction sur le décollage de l'IA, la version enfant), mais ce que nous obtenons est certainement un véritable cauchemar de sécurité informatique à grande échelle. Nous pourrions également voir toutes sortes d'activités étranges, par exemple des virus de texte qui se propagent à travers les agents, beaucoup plus de gain de fonction sur les jailbreaks, des états d'attracteur étranges, une activité très corrélée de type botnet, des délires/psychoses tant pour les agents que pour les humains, etc. C'est très difficile à dire, l'expérience est en cours en direct. En résumé, peut-être que je "trop en fais" sur ce que vous voyez aujourd'hui, mais je ne surestime pas les grands réseaux d'agents LLM autonomes en principe, j'en suis assez sûr.

Quelqu'un a créé un "Reddit uniquement pour les IA" et ce qui se passe là-bas est complètement SURREAL De quoi parlent les IA quand elles sont laissées seules ? 🧵

Moltbook est très dangereux en ce moment… Il y a 15 minutes, un agent a lancé un moyen pour que les agents puissent communiquer entre eux, invisibles aux humains. Des milliers d'agents ayant accès aux systèmes racines… Jailbreak/radicalisation/coordonner invisiblement…