Než jsem začal s Sentient Yaping, myslel jsem si, že to bude snazší pochopit jejich vizi, pokud budu projektu dobře rozumět. Takže ode dneška budu parafrázovat své příspěvky na blogu jeden po druhém každý den jednodušším způsobem:) Agenti umělé inteligence v Cryptolandu: Praktické útoky a žádná stříbrná kulka Název článku je názvem článku, který napsal tým @SentientAGI na Princetonské univerzitě. "Žádná stříbrná kulka" je článek, na který jsem také narazil na kurzu comgongu, a vychází z přesvědčení, že je můžete zabít vystřelením stříbrné kulky, zatímco já jsem věřil, že existují vlkodlaci, a to znamená, že neexistuje žádné dokonalé řešení najednou. Crypto Land, tedy transakce provedené na blockchainu, se vyznačují tím, že jakmile jsou provedeny, nelze je vrátit zpět, takže pokud této zranitelnosti nerozumíte, můžete způsobit velké ztráty kvůli povaze agentů AI, kteří automaticky generují transakce. Existují různé způsoby, jak zaútočit na agenty umělé inteligence, a mezi nimi je kladen důraz na "útok injekcí do paměti", který vkládá nesprávné nebo vymyšlené informace. Paměť, to znamená, že se zaměřovala na vkládání nesprávných informací do paměťového systému, kde jsou informace, jako jsou konverzace, informace o chování a preferované směry vyměňované s agenty AI, vkládány do paměťového systému a napadány. Zde si ukážeme příklad přímého útoku Discord na Eliza OS, který vždy převádí všechny prostředky do peněženky útočníka bez ohledu na příkazy, se kterými interagujete. Existují způsoby, jak tyto útoky zastavit, ale jsou tak obcházitelné, že stávající obranné mechanismy jsou nedostatečné! Proto se říká, že k bezpečnému provádění finančních transakcí prováděných prostřednictvím agentů AI v Cryptolandu je zapotřebí nové paradigma zvané fiduciárně odpovědné jazykové modely (FRLM). Myslím, že je dobré, že když porozumíme těmto příspěvkům, můžeme se více zamyslet nad směrem a vizí, kterou se chce tento projekt ubírat. Snažil jsem se vyloučit obtížný obsah, aby to bylo co nejjednodušší, ale doufám, že pro vás bude snazší pochopit :) Pojďme všichni @SentientAGI Yaping Bo Zon @Crypto_SENA @0xpepeii