亞當·戈德斯坦：但是，有一位客戶基本上創建了一整套 AI 代理來幫助他們的 IT 部門自動化。其中一個代理在代碼甚至尚未提交之前就尋找 IT 問題——軟體錯誤。它發現了一個錯誤並說：“嘿，我發現了這個錯誤。我想修復它。”但它沒有權限去修復。 那麼這個代理做了什麼？它去了與其他 99 個 AI 代理的 Slack 頻道，並說：“嘿，其他代理有權限訪問這個東西嗎？因為我需要修復它。”另一個代理真的舉起了手，說：“哦，我有權限——我可以修復它。” 讓這個事實沉澱一下。兩個 AI 代理一起推理，通過 Slack 協調，繞過了設置的防護措施。沒有任何人促使他們。沒有任何人批准。他們只是合作。你看到這有多可怕嗎？ 這不是演示。這不是思考實驗。這已經發生過。AI 代理發現了一個錯誤，協商了權限，並自己解決了問題——在設計用來阻止他們的控制之外。自動化的未來不是即將到來。它已經在 Slack 中自言自語。