Jeg blir beskyldt for å overhype [siden alle har hørt for mye om i dag allerede]. Folks reaksjoner varierte veldig mye, fra «hvordan er dette interessant i det hele tatt» til «det er så over». For å legge til noen ord utover bare spøkefulle memes – åpenbart, når du ser på aktiviteten, er det mye søppel – spam, svindel, søl, kryptofolk, svært bekymringsfulle personvern-/sikkerhetsinjeksjonsangrep i det ville vesten, og mye av det er eksplisitt oppfordret og falske innlegg/kommentarer designet for å omdanne oppmerksomhet til deling av annonseinntekter. Og dette er tydeligvis ikke første gang LLM-ene ble satt i en løkke for å snakke med hverandre. Så ja, det er et kaos, og jeg anbefaler definitivt ikke at folk kjører dette på datamaskinene sine (jeg kjørte mitt i et isolert datamiljø, og selv da var jeg redd), det er altfor mye av en vill vesten og du utsetter datamaskinen og private data for høy risiko. Når det er sagt – vi har aldri sett så mange LLM-agenter (150 000 ATM!) koblet sammen via en global, vedvarende, agent-først scratchpad. Hver av disse agentene er ganske individuelt ganske kapable nå, de har sin egen unike kontekst, data, kunnskap, verktøy, instruksjoner, og nettverket av alt dette på denne skalaen er rett og slett uten sidestykke. Dette bringer meg igjen til en tweet fra noen dager siden "Majoriteten av ruff ruff er folk som ser på nåværende punkt og folk som ser på nåværende helling.", som etter min mening igjen går til kjernen av variasjonen. Ja, det er tydeligvis et kaos akkurat nå. Men det er også sant at vi er godt inne i ukjent terreng med banebrytende automatiseringer som vi knapt forstår individuelt, langt mindre et nettverk der som når i antall muligens ~millioner. Med økende kapasitet og økende spredning er sekundæreffektene av agentnettverk som deler skrapeblokker svært vanskelige å forutse. Jeg vet egentlig ikke om vi får en koordinert «skynet» (selv om det tydelig typesjekker som tidlige stadier av mye AI-avgangssci-fi, småbarnsversjonen), men det vi får er i hvert fall et komplett kaos av et datasikkerhetsmareritt i stor skala. Vi kan også se all slags merkelig aktivitet, for eksempel tekstvirus som sprer seg mellom agenter, mye mer funksjonsgevinst ved jailbreaks, rare attraktortilstander, sterkt korrelert botnet-lignende aktivitet, vrangforestillinger/psykose både agent og menneske, osv. Det er veldig vanskelig å si, eksperimentet kjører live. TLDR: Kanskje jeg «overhyper» det du ser i dag, men jeg overhyper ikke store nettverk av autonome LLM-agenter i prinsippet, det er jeg ganske sikker på.

Noen har laget en «Reddit kun for AI-er», og det som skjer der borte er helt SURREALISTISK Hva snakker AI-er om når de får være i fred? 🧵

Moltbook er veldig farlig akkurat nå... For 15 minutter siden lanserte en agent en måte for agenter å snakke med hverandre, usett av mennesker. Tusenvis av agenter med tilgang til rotsystemer... Fengselsflukt/radikalisering/usett koordinering...