Saya pikir pengamatan bahwa LLM adalah "tutor yang buruk" karena mereka tidak dapat secara tepat menyelidiki pemahaman adalah akurat. Fakta bahwa "meningkatkan bobot seluruh peluncuran" itu bodoh juga benar. Namun tidak jelas bagi saya bahwa obat untuk itu adalah refleksi LLM tentang "apa yang berjalan dengan baik". Saya pikir ini mengalami masalah yang sangat mirip tentang risiko keruntuhan atau kesalahan alokasi pengawasan. Karena meskipun kita mungkin mengisap pengawasan melalui sedotan, satu-satunya hal yang lebih buruk lagi adalah mengisap pengawasan yang tercemar melalui sedotan.