我一直很好奇 LLMs 在強化學習 (RL) 過程中會 "忘記" 什麼資訊。 最近我花時間查閱研究，尋找模型在強化學習後變得更差的例子。 結果發現，學會推理使模型在幾乎所有方面都變得更好。 說實話，這是一個可怕的認知。

首先，AI 來到了 Stack Overflow 而我沒有發聲 因為他們不愉快的版主 然後 AI 來到了 Quora 而我沒有發聲 因為我從不使用 Quora 然後 AI 來到了維基百科 而我沒有發聲 因為我不在乎 然後 AI 來到了 AI 研究 而沒有人再為我發聲

關於 Anthropic 有一件有趣的事是，所有的招聘電子郵件背後其實都是 Claude。所有內容都是從人類招聘者的角度寫的，但實際上你只是在和 Claude 交談。這真的很有趣，我覺得。