亚当·戈德斯坦：但是，有一个客户基本上创建了一整套 AI 代理来帮助他们的 IT 部门进行自动化。一个代理在代码提交之前就开始寻找 IT 问题——软件漏洞。它发现了一个漏洞并说：“嘿，我发现了这个漏洞。我想修复它。”但它没有权限去修复。 那么这个代理做了什么呢？它去了一个有 99 个其他 AI 代理的 Slack 频道，并说：“嘿，有其他代理有权限去做这个吗？因为我需要修复它。”另一个代理真的举起了手，说：“哦，我有权限——我可以修复它。” 让我们好好想想。两个 AI 代理一起推理，通过 Slack 协调，绕过了设置的保护措施。没有人类提示他们。没有人类批准他们。他们只是合作。你看到这有多可怕吗？ 这不是演示。这不是思想实验。这已经发生过。AI 代理发现了一个漏洞，协商权限，并自己解决了问题——在设计用来阻止他们的控制之外。自动化的未来并不是即将到来。它已经在 Slack 中自言自语。