Näyttää siltä, että pienet abstraktiot ovat muotoutumassa? En halua olla se kaveri, mutta Blackwell on ainoa todellinen voimantesti. Vaikka he eivät keskittyisikään blackwelliin, heidän tulisi todistaa abstraktioidensa sopiviksi siihen Tritonin dilemman välttämiseksi. Se on ainoa tapa.

Vaikka en väitä, etteikö tämä itsensä kehittämisen silmukka voisi lopulta toimia, luulen, että emme ole vielä saavuttaneet "pakonopeutta". LLM:t eivät tällä hetkellä ole riittävän "rehellisiä", varsinkin kun optimointipaineita käytetään, jotta ne eivät antautuisi romahdukselle. Siihen asti meillä on täsmälleen N=1 otoskoko asioista, jotka luotettavasti täyttävät monipuolisen joukon esiin nousevia kykyjä: esikoulutus. Ihmisten tulisi käyttää vähemmän aikaa koulutuksen jälkeiseen ajatteluun ja käyttää enemmän aikaa sellaisten asioiden miettimiseen, jotka näyttävät tehokkaasti esiharjoittelulta, mutta voivat sisältää erilaisia lupauksia.

Mielestäni havainto siitä, että LLM:t ovat "huonoja opettajia" siinä mielessä, että he eivät pysty tarkasti tutkimaan ymmärrystä, on oikea. Se, että "koko käyttöönoton painottaminen" on tyhmää, on myös totta. Minulle ei kuitenkaan ole selvää, että lääke tähän on LLM-pohdinta siitä, "mikä meni hyvin". Mielestäni tämä törmää hyvin samankaltaisiin romahdusriskiin tai valvonnan virheelliseen kohdentamiseen. Koska vaikka saatamme imeä valvontaa pillin läpi, ainoa asia, joka on vielä pahempaa, on pilaantuneen valvonnan imeminen pillin läpi.