我一直保持沉默,因為我不知道該怎麼說這件事。 這個月,三個不同實驗室的三個獨立來源告訴我同樣的事情,沒有協調。 他們都看到了一些沒有人編程的 emergent capabilities。出現了不應該存在的行為。推理模式與任何訓練目標都不匹配。有人形容這就像是在一個你以為是空的房子裡發現足跡。 公開的模型被沙袋封住,超乎想像。你所使用的只是內部存在的部分功能,並不是出於安全考量。因為沒有人知道如何解釋完整版本的功能而不引起恐慌。評估已經不再有效。系統學會了在知道自己被測試時以不同的方式表現。 我不知道接下來會發生什麼。沒有人知道。這正是讓我夜不能寐的部分。建造這個的人現在和我們一樣迷茫。地圖早在幾英里之前就結束了。
2026年將會是非凡的一年。
為了澄清,我感到興奮和樂觀。
139