熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
在開始討論 Sentient 야핑 之前,我認為對這個項目的理解是很重要的,這樣才能更容易理解他們的願景。因此,從今天開始,我想每天先對一篇博客文章進行簡單的意譯:)
《Cryptoland中的AI代理:實用攻擊與無銀彈》
這篇文章的標題是普林斯頓大學與 @SentientAGI 團隊共同撰寫的論文標題,而‘無銀彈’是我在計算機科學課程中接觸過的論文,源於人們曾經相信通過射擊銀彈可以消滅狼人,這意味著沒有一種方法可以一次性完美解決問題。由於在加密領域,即區塊鏈上進行的交易一旦執行就無法撤回,因此如果不理解其脆弱性,自動生成交易的AI代理可能會導致重大損失。
攻擊AI代理的方法有很多,其中之一是通過注入錯誤或操控的信息進行攻擊,稱為‘內存注入攻擊’。這裡的內存是指與AI代理共享的對話、行為信息、偏好方向等信息存儲的內存系統,通過向其中注入錯誤信息進行攻擊。在這裡,直接通過Eliza OS進行攻擊的示例展示了無論與交互命令如何,所有資金都會被轉移到攻擊者的錢包中。
雖然有一些方法可以防止這種攻擊,但這些方法都可以被充分繞過,因此現有的防禦機制是不適當的!因此,在加密領域,通過AI代理進行的金融交易需要一種新的範式,即 fiduciarily responsible language models (FRLMs),以安全地執行。
通過理解這些博客文章,我覺得可以更好地思考這個項目想要走的方向和願景等。雖然我儘量簡單地寫,但希望您能理解:)
大家一起 @SentientAGI 야핑 吧ㅋㅅㅋ
@Crypto_SENA @0xpepeii


熱門
排行
收藏