在开始讨论 Sentient 야핑 之前,我认为对这个项目的理解是很重要的,这样才能更容易理解他们的愿景。因此,从今天开始,我想每天先对一篇博客文章进行简单的意译:) 《Cryptoland中的AI代理:实用攻击与无银弹》 这篇文章的标题是普林斯顿大学与 @SentientAGI 团队共同撰写的论文标题,而‘无银弹’是我在计算机科学课程中接触过的论文,源于人们曾经相信通过射击银弹可以消灭狼人,这意味着没有一种方法可以一次性完美解决问题。由于在加密领域,即区块链上进行的交易一旦执行就无法撤回,因此如果不理解其脆弱性,自动生成交易的AI代理可能会导致重大损失。 攻击AI代理的方法有很多,其中之一是通过注入错误或操控的信息进行攻击,称为‘内存注入攻击’。这里的内存是指与AI代理共享的对话、行为信息、偏好方向等信息存储的内存系统,通过向其中注入错误信息进行攻击。在这里,直接通过Eliza OS进行攻击的示例展示了无论与交互命令如何,所有资金都会被转移到攻击者的钱包中。 虽然有一些方法可以防止这种攻击,但这些方法都可以被充分绕过,因此现有的防御机制是不适当的!因此,在加密领域,通过AI代理进行的金融交易需要一种新的范式,即 fiduciarily responsible language models (FRLMs),以安全地执行。 通过理解这些博客文章,我觉得可以更好地思考这个项目想要走的方向和愿景等。虽然我尽量简单地写,但希望您能理解:) 大家一起 @SentientAGI 야핑 吧ㅋㅅㅋ @Crypto_SENA @0xpepeii