Ennen kuin aloitin Sentient Yapingin, ajattelin, että heidän visionsa olisi helpompi ymmärtää, jos minulla olisi hyvä käsitys projektista. Joten tästä päivästä alkaen aion parafrasoida blogikirjoituksiani yksitellen päivässä helpommin :) Tekoälyagentit Cryptolandissa: Käytännön hyökkäyksiä eikä hopealuotia Artikkelin otsikko on Princetonin yliopiston @SentientAGI-tiimin kirjoittaman artikkelin otsikko. "No silver Bullet" on paperi, johon törmäsin myös comgong-kurssillani, ja se tulee uskomuksesta, että heidät voi tappaa ampumalla hopealuodilla, kun uskoin, että ihmissusia on olemassa, ja se tarkoittaa, että täydellistä ratkaisua ei ole heti olemassa. Crypto Landille, eli lohkoketjussa tehdyille transaktioille, on ominaista se, että kun ne on suoritettu, niitä ei voida peruuttaa, joten jos et ymmärrä haavoittuvuutta, saatat aiheuttaa suuria tappioita automaattisesti transaktioita luovien tekoälyagenttien luonteen vuoksi. On olemassa useita tapoja hyökätä tekoälyagentteja vastaan, ja niiden joukossa keskitytään "Memory Injection Attackiin", joka syöttää väärää tai tekaistua tietoa. Muisti eli se keskittyi virheellisen tiedon syöttämiseen muistijärjestelmään, jossa tietoa, kuten keskusteluja, käyttäytymistietoja ja tekoälyagenttien kanssa vaihdettuja ensisijaisia suuntia, ruiskutetaan muistijärjestelmään ja hyökätään. Tässä näytämme esimerkin suorasta Discord-hyökkäyksestä Eliza OS:ää vastaan, joka siirtää aina kaikki varat hyökkääjän lompakkoon riippumatta siitä, millä komennoilla olet vuorovaikutuksessa. On olemassa tapoja pysäyttää nämä hyökkäykset, mutta ne ovat niin kierrettävissä, että olemassa olevat puolustusmekanismit ovat riittämättömiä! Siksi sanotaan, että tarvitaan uusi paradigma, jota kutsutaan luottamuksellisesti vastuullisiksi kielimalleiksi (FRLM), jotta tekoälyagenttien kautta suoritetut rahoitustapahtumat voidaan suorittaa turvallisesti Cryptolandissa. Mielestäni on hyvä, että ymmärtämällä näitä blogikirjoituksia voimme miettiä enemmän suuntaa ja visiota, johon tämä projekti haluaa mennä. Yritin sulkea pois vaikean sisällön, jotta se olisi mahdollisimman helppoa, mutta toivon, että sinun on helpompi ymmärtää :) Ollaan kaikki @SentientAGI Yaping Bo Zon @Crypto_SENA @0xpepeii