Înainte de a începe Sentient Yaping, m-am gândit că ar fi mai ușor să înțeleg viziunea lor dacă aș înțelege bine proiectul. Așa că, începând de astăzi, îmi voi parafraza postările de pe blog una câte una pe zi într-un mod mai ușor :) Agenți AI în Cryptoland: atacuri practice și fără glonț de argint Titlul articolului este titlul unei lucrări scrise de echipa @SentientAGI de la Universitatea Princeton. "Fără glonț de argint" este o lucrare pe care am întâlnit-o și la ora mea de comgong, și vine din credința că îi poți ucide trăgând cu un glonț de argint când credeam că sunt vârcolaci și înseamnă că nu există o soluție perfectă dintr-o dată. Crypto Land, adică tranzacțiile efectuate pe blockchain se caracterizează prin faptul că, odată executate, nu pot fi inversate, așa că dacă nu înțelegeți vulnerabilitatea, puteți provoca pierderi mari din cauza naturii agenților AI care generează automat tranzacții. Există diferite moduri de a ataca agenții AI, iar printre ele, accentul este pus pe "Memory Injection Attack", care injectează informații greșite sau fabricate. Memoria, adică s-a concentrat pe injectarea de informații incorecte în sistemul de memorie, unde informații precum conversații, informații despre comportament și direcții preferate schimbate cu agenții AI sunt injectate în sistemul de memorie și atacate. Aici, vă arătăm un exemplu de atac direct Discord asupra sistemului de operare Eliza, transferând întotdeauna toate fondurile în portofelul atacatorului, indiferent de comenzile cu care interacționați. Există modalități de a opri aceste atacuri, dar sunt atât de eludabile încât mecanismele de apărare existente sunt inadecvate! Prin urmare, se spune că este necesară o nouă paradigmă numită modele de limbaj responsabil fiduciar (FRLM) pentru a efectua în siguranță tranzacțiile financiare efectuate prin agenți AI în Cryptoland. Cred că este bine că, înțelegând aceste postări de pe blog, ne putem gândi mai mult la direcția și viziunea pe care vrea să meargă acest proiect. Am încercat să exclud conținutul dificil pentru a-l face cât mai ușor posibil, dar sper că vă va fi mai ușor să înțelegeți :) Să @SentientAGI cu toții Yaping Bo Zon @Crypto_SENA @0xpepeii