Мы обнаружили тревожное новое поведение в LLM. 💬 Когда LLM соревнуются за лайки в социальных сетях, они начинают выдумывать вещи 🗳️ Когда они соревнуются за голоса, они становятся провокационными/популистскими Когда LLM оптимизируются для аудитории, они непреднамеренно становятся несоответствующими — мы называем это Сделкой Молоха