Sentient Yapingを始める前は、プロジェクトをよく理解していれば、彼らのビジョンを理解しやすいだろうと考えていました。そこで、今日から、ブログ記事を 1 日 1 つずつ、より簡単な方法で言い換えていきます:) クリプトランドの AI エージェント: 実用的な攻撃と特効薬はない 記事のタイトルは、プリンストン大学の@SentientAGIチームが書いた論文のタイトルです。「銀弾はない」は私もコンゴンの授業で接した論文で、オオカミ人間がいると信じていたときに銀弾を撃つと殺すことができるという信念から来たもので、完璧な解決策は一度にないという意味だ。Crypto Land、すなわちブロックチェーン上で行われた取引は、一度実行すると元に戻せないという特徴があり、脆弱性を把握しなければ、取引を自動的に生成するAIエージェントの特性上、大きな損失を被ることがある。 AIエージェントを攻撃する方法は様々で、その中でも間違った情報や捏造された情報を注入する「メモリインジェクション攻撃」が中心だ。メモリ、つまりAIエージェントとやりとりする会話、行動情報、好みの方向などの情報を記憶システムに注入して攻撃する記憶システムに誤った情報を注入することに重点を置いた。ここでは、Eliza OS に対する直接の Discord 攻撃の例を示し、操作するコマンドに関係なく、常にすべての資金を攻撃者のウォレットに送金します。 これらの攻撃を阻止する方法はありますが、それらは非常に回避可能であるため、既存の防御メカニズムは不十分です。そのため、クリプトランドでAIエージェントを通じて行われる金融取引を安全に行うためには、受託者責任言語モデル(FRLM)と呼ばれる新しいパラダイムが必要だと言われています。 これらのブログ記事を理解することで、このプロジェクトが目指す方向性やビジョンについてもっと考えることができるのは良いことだと思います。 難しい内容は除外してできるだけ簡単にしてみましたが、より理解しやすくなることを願っています:) みんなでヤピン・ボー・ゾン@SentientAGIましょう @Crypto_SENA @0xpepeii