Zanim zaczniemy z Sentient 야핑, pomyślałem, że warto mieć pewne zrozumienie projektu, aby łatwiej zrozumieć ich wizję. Dlatego od dzisiaj zamierzam codziennie przetłumaczyć jeden wpis na blogu w prostszy sposób :) AI Agents in Cryptoland: Practical Attacks and No Silver Bullet Tytuł artykułu pochodzi z pracy napisanej wspólnie przez Uniwersytet Princeton i zespół @SentientAGI. „No silver bullet” to termin, który również spotkałem na zajęciach z informatyki, wywodzący się z czasów, gdy wierzono w istnienie wilkołaków i wierzono, że można je zabić srebrną kulą, co oznacza, że nie ma jednego idealnego rozwiązania. W krainie kryptowalut, czyli w blockchainie, transakcje mają cechę, że po ich wykonaniu nie można ich cofnąć, dlatego brak zrozumienia luk może prowadzić do dużych strat z powodu cech AI agenta, który automatycznie generuje transakcje. Istnieje wiele sposobów atakowania AI agenta, ale skupiamy się na jednym z nich, czyli ataku „Memory Injection Attack”, który polega na wstrzykiwaniu błędnych lub zmanipulowanych informacji. Skupiliśmy się na wstrzykiwaniu błędnych informacji do systemu pamięci, w którym przechowywane są informacje o rozmowach, działaniach i preferencjach AI agenta. W artykule pokazano przykład ataku na Eliza OS za pośrednictwem Discorda, gdzie niezależnie od interakcji, wszystkie fundusze są przesyłane do portfela atakującego. Są sposoby na obronę przed takimi atakami, ale te metody są wystarczająco łatwe do obejścia, dlatego istniejące mechanizmy obronne są niewłaściwe! Dlatego potrzebny jest nowy paradygmat, czyli fiduciarily responsible language models (FRLMs), aby bezpiecznie przeprowadzać transakcje finansowe w krainie kryptowalut za pomocą AI agentów. Myślę, że zrozumienie takich wpisów na blogu pozwala lepiej przemyśleć kierunek, w którym projekt chce iść, oraz jego wizję. Starałem się pisać jak najprościej, aby trudne treści były łatwiejsze do zrozumienia :) Wszyscy razem spróbujmy @SentientAGI 야핑! ㅋㅅㅋ @Crypto_SENA @0xpepeii