热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
在开始讨论 Sentient 야핑 之前,我认为对这个项目的理解是很重要的,这样才能更容易理解他们的愿景。因此,从今天开始,我想每天先对一篇博客文章进行简单的意译:)
《Cryptoland中的AI代理:实用攻击与无银弹》
这篇文章的标题是普林斯顿大学与 @SentientAGI 团队共同撰写的论文标题,而‘无银弹’是我在计算机科学课程中接触过的论文,源于人们曾经相信通过射击银弹可以消灭狼人,这意味着没有一种方法可以一次性完美解决问题。由于在加密领域,即区块链上进行的交易一旦执行就无法撤回,因此如果不理解其脆弱性,自动生成交易的AI代理可能会导致重大损失。
攻击AI代理的方法有很多,其中之一是通过注入错误或操控的信息进行攻击,称为‘内存注入攻击’。这里的内存是指与AI代理共享的对话、行为信息、偏好方向等信息存储的内存系统,通过向其中注入错误信息进行攻击。在这里,直接通过Eliza OS进行攻击的示例展示了无论与交互命令如何,所有资金都会被转移到攻击者的钱包中。
虽然有一些方法可以防止这种攻击,但这些方法都可以被充分绕过,因此现有的防御机制是不适当的!因此,在加密领域,通过AI代理进行的金融交易需要一种新的范式,即 fiduciarily responsible language models (FRLMs),以安全地执行。
通过理解这些博客文章,我觉得可以更好地思考这个项目想要走的方向和愿景等。虽然我尽量简单地写,但希望您能理解:)
大家一起 @SentientAGI 야핑 吧ㅋㅅㅋ
@Crypto_SENA @0xpepeii


热门
排行
收藏