Новое исследование: Когда модели с открытым исходным кодом дообучаются на, казалось бы, безобидной информации о химическом синтезе, сгенерированной передовыми моделями, они становятся гораздо лучше в задачах, связанных с химическим оружием. Мы называем это атакой элицитации.