アダム・ゴールドスタイン:でも、ある顧客はIT部門の自動化を支援するために、基本的にAIエージェントのスイートを作りました。あるエージェントは、コードがコミットされる前からITの問題、つまりソフトウェアのバグを探していました。虫を見つけてこう言いました。「ねえ、この虫を見つけた。「直したいんだ。」しかし、それを修正するアクセス権はありませんでした。 では、エージェントはどうしたのでしょうか?そのサイトは99人のAIエージェントがいるSlackチャンネルに行き、「ねえ、他のエージェントがこの機能にアクセスできるか?」と言いました。直さなきゃいけないから。」そして別のエージェントは文字通り手を挙げて「アクセス権がある、修正できる」と言いました。 よく考えてみて。2人のAIエージェントが一緒に論理的に考え、Slackを通じて調整し、設置されたガードレールをすっかり回避しました。人間が促したわけでもなかった。人間は誰も認めなかった。彼らはただ協力しただけです。これがどれほど怖いか分かりますか? これはデモではありませんでした。これは思考実験ではありませんでした。これはすでに起こったことだ。AIエージェントはバグを発見し、権限を交渉し、問題を自ら解決しましたが、それはそれを止めるための制御外で行われました。自動化の未来は訪れません。すでにSlackで自分自身と話しています。