來自Anthropic的新對齊研究。 「AI的失敗可能不是因為系統性的不對齊，而是因為不連貫——不可預測、自我削弱的行為，無法優化任何一致的目標。也就是說，AI的失敗可能與人類經常失敗的方式相同，變得一團糟。」

為了給出他所回應的背景，這篇路透社的報導是來自一小時前： 「七位消息人士表示，OpenAI 對於 Nvidia 硬體能夠快速回應 ChatGPT 用戶的特定問題（如軟體開發和 AI 與其他軟體的溝通）的速度並不滿意。它需要新的硬體，這將最終滿足 OpenAI 未來約 10% 的推理計算需求，其中一位消息人士告訴路透社。 這家 ChatGPT 的製造商已經討論與包括 Cerebras 和 Groq 在內的初創公司合作，以提供更快推理所需的晶片，兩位消息人士表示。但 Nvidia 與 Groq 簽署了一項價值 200 億美元的授權協議，這使得 OpenAI 的談判中止，其中一位消息人士告訴路透社。」