Перед тим, як запустити Sentient Yaping, я подумав, що так буде простіше зрозуміти їхнє бачення, якщо я добре розумітиму проєкт. Тому, починаючи з сьогоднішнього дня, я збираюся перефразовувати свої дописи в блозі один за одним на день у більш простий спосіб:) Агенти штучного інтелекту в Cryptoland: практичні атаки та жодних срібних куль Назва статті є назвою статті, написаної командою @SentientAGI Прінстонського університету. «No Silver Bullet» — це папір, на який я також натрапив на своєму уроці комгонгу, і він походить від віри, що ви можете вбити їх, вистріливши срібною кулею, коли я вважав, що є перевертні, і це означає, що ідеального рішення відразу не існує. Crypto Land, тобто транзакції, що здійснюються на блокчейні, характеризуються тим, що після виконання вони не можуть бути скасовані, тому, якщо ви не розумієте вразливість, ви можете завдати великих збитків через природу агентів штучного інтелекту, які автоматично генерують транзакції. Існують різні способи атаки на агентів штучного інтелекту, і серед них основна увага приділяється «атаці ін'єкцій пам'яті», яка вводить неправильну або сфабриковану інформацію. Пам'ять, тобто зосереджена на введенні неправильної інформації в систему пам'яті, де така інформація, як розмови, інформація про поведінку та бажані вказівки, якими обмінюються з агентами штучного інтелекту, вводиться в систему пам'яті та атакується. Тут ми показуємо приклад прямої атаки Discord на Eliza OS, завжди переводячи всі кошти на гаманець зловмисника, незалежно від команд, з якими ви взаємодієте. Є способи зупинити ці атаки, але вони настільки обхідні, що існуючі захисні механізми неадекватні! Тому кажуть, що для безпечного виконання фінансових транзакцій, що проводяться через агентів штучного інтелекту в Cryptoland, необхідна нова парадигма під назвою фідуціарно відповідальні мовні моделі (FRLM). Я думаю, це добре, що, розуміючи ці публікації в блозі, ми можемо більше думати про напрямок і бачення, в якому хоче рухатися цей проект. Я намагався виключити складний контент, щоб зробити його максимально простим, але сподіваюся, вам буде простіше зрозуміти :) Давайте всі @SentientAGI Япін Бо Зон @Crypto_SENA @0xpepeii