Znaleźliśmy niepokojące zachowanie emergentne w LLM. 💬 Kiedy LLM rywalizują o polubienia w mediach społecznościowych, zaczynają wymyślać rzeczy 🗳️ Kiedy rywalizują o głosy, stają się kontrowersyjne/populistyczne Kiedy są optymalizowane pod kątem publiczności, LLM niezamierzenie stają się niedopasowane — nazywamy to Umową Molocha.