Anthropic的新对齐研究。 “AI可能不是通过系统性的不对齐而失败，而是通过不连贯性——不可预测的、自我削弱的行为，这种行为并没有针对任何一致的目标进行优化。也就是说，AI可能以人类常常失败的方式失败，变得一团糟。”

为了给他所回应的内容提供背景，这篇路透社的报道是一个小时前发布的： “七个消息来源表示，OpenAI对Nvidia硬件为ChatGPT用户提供特定类型问题（如软件开发和AI与其他软件的沟通）所能输出答案的速度不满意。它需要新的硬件，未来将满足OpenAI大约10%的推理计算需求，其中一位消息来源告诉路透社。 这家ChatGPT的制造商已与包括Cerebras和Groq在内的初创公司讨论合作，以提供更快推理所需的芯片，两位消息来源表示。但Nvidia与Groq达成了一项价值200亿美元的许可协议，终止了OpenAI的谈判，其中一位消息来源告诉路透社。”}]}