Chociaż nie twierdzę, że ta pętla samodoskonalenia nie może w końcu zadziałać, uważam, że jeszcze nie osiągnęliśmy "prędkości ucieczki". Obecne LLM-y nie są wystarczająco "szczere", szczególnie gdy wywierana jest presja optymalizacji, aby nie ulec załamaniu. Do tego czasu mamy dokładnie próbkę N=1 rzeczy, które niezawodnie nadają różnorodne zestawy emergentnych zdolności: wstępne szkolenie. Ludzie powinni spędzać mniej czasu na myśleniu o szkoleniu po, a więcej na myśleniu o rzeczach, które skutecznie wyglądają jak wstępne szkolenie, ale mogą mieć różne obietnice.