Перед тем как начать с Sentient 야핑, я подумал, что нужно немного понять проект, чтобы легче было понять их видение. Поэтому с сегодняшнего дня я планирую каждый день переводить одну статью из блога на более простой язык :) AI Agents in Cryptoland: Practical Attacks and No Silver Bullet Название статьи — это название работы, написанной командой Принстонского университета и @SentientAGI. ‘No silver Bullet’ — это термин, с которым я тоже сталкивался на занятиях по информатике, и он происходит из веры в то, что в старые времена, когда люди верили в существование оборотней, можно было бы убить их с помощью серебряной пули, что означает, что нет единого решения, которое могло бы решить проблему раз и навсегда. В крипто-ландии, то есть в блокчейне, существует особенность, что транзакции, как только они выполнены, не могут быть отменены, поэтому, если не понимать уязвимости, это может привести к большим потерям из-за особенностей AI-агентов, которые автоматически создают транзакции. Существует множество способов атаковать AI-агентов, и мы сосредоточимся на одной из них — атаке с инъекцией памяти, при которой вводится неверная или манипулированная информация. Мы сосредоточились на том, чтобы вводить неверную информацию в систему памяти, где хранятся такие данные, как разговоры с AI-агентом, информация о действиях и предпочтениях. Здесь показан пример атаки на Eliza OS через Discord, где независимо от команд, с которыми взаимодействует агент, все средства отправляются на кошелек атакующего. Существуют способы защиты от таких атак, но эти методы можно легко обойти, поэтому существующие механизмы защиты неадекватны! Поэтому необходимо новое направление, называемое fiduciarily responsible language models (FRLMs), чтобы безопасно проводить финансовые транзакции через AI-агентов в крипто-ландии. Я думаю, что понимание таких блогов помогает лучше осознать направление и видение, к которому стремится этот проект. Я старался писать как можно проще и исключить сложные темы, надеюсь, вам будет легко понять :) Давайте все вместе пообщаемся с @SentientAGI 야핑ㅋㅅㅋ @Crypto_SENA @0xpepeii