Asumsi yang tampaknya dipegang semua orang hari ini adalah bahwa saat ini biaya inferensi sangat disubsidi dan dalam waktu dekat mereka akan meningkat secara dramatis. Saya pikir itu mungkin model mental yang rusak melihat bisnis bersubsidi masa lalu dengan biaya marjinal yang sangat tinggi.
Banyak dari model ini tidak beroperasi secara rugi berdasarkan unit model bahkan hari ini (terutama jika Anda melihat biaya pelatihan sebagai CapEx, yang bisa dibilang). Saya pikir hasilnya yang mungkin adalah mereka menjadi jauh lebih murah per token dan jumlah token yang dikonsumsi tumbuh secara eksponensial.
30