Saya dituduh menggembar-gemborkan [situs yang sudah banyak didengar semua orang hari ini]. Reaksi orang-orang sangat bervariasi, dari "bagaimana ini menarik sama sekali" hingga "ini sudah berakhir". Untuk menambahkan beberapa kata di luar sekadar meme dalam lelucon - jelas ketika Anda melihat aktivitasnya, itu banyak sampah - spam, penipuan, slop, orang-orang kripto, serangan injeksi prompt privasi/keamanan yang sangat memprihatinkan wild west, dan banyak di antaranya secara eksplisit diminta dan postingan/komentar palsu yang dirancang untuk mengubah perhatian menjadi pembagian pendapatan iklan. Dan ini jelas bukan yang pertama LLM dimasukkan ke dalam lingkaran untuk berbicara satu sama lain. Jadi ya ini adalah kebakaran tempat sampah dan saya juga pasti tidak menyarankan agar orang menjalankan hal-hal ini di komputer mereka (saya menjalankan milik saya di lingkungan komputasi yang terisolasi dan bahkan kemudian saya takut), ini terlalu banyak barat liar dan Anda menempatkan komputer dan data pribadi Anda pada risiko tinggi. Meskipun demikian - kami belum pernah melihat sebanyak ini agen LLM (150.000 atm!) terhubung melalui scratchpad global, persisten, dan mengutamakan agen. Masing-masing agen ini cukup mampu secara individual sekarang, mereka memiliki konteks, data, pengetahuan, alat, instruksi, dan jaringan unik mereka sendiri yang pada skala ini belum pernah terjadi sebelumnya. Ini membawa saya lagi ke tweet dari beberapa hari yang lalu "Mayoritas ruff ruff adalah orang yang melihat titik saat ini dan orang yang melihat kemiringan saat ini.", yang imo sekali lagi sampai ke inti varians. Ya, jelas itu adalah kebakaran tempat sampah sekarang. Tapi juga benar bahwa kita berada di wilayah yang belum dipetakan dengan otomatisasi mutakhir yang bahkan hampir tidak kita pahami secara individual, apalagi jaringan di sana yang mencapai jumlah yang mungkin mencapai ~ jutaan. Dengan meningkatnya kemampuan dan meningkatnya proliferasi, efek urutan kedua dari jaringan agen yang berbagi scratchpad sangat sulit untuk diantisipasi. Saya tidak benar-benar tahu bahwa kita mendapatkan "skynet" yang terkoordinasi (pikir itu jelas mengetik pemeriksaan sebagai tahap awal dari banyak scifi lepas landas AI, versi balita), tetapi tentu saja apa yang kita dapatkan adalah kekacauan dari mimpi buruk keamanan komputer dalam skala besar. Kita juga dapat melihat semua jenis aktivitas aneh, misalnya virus teks yang menyebar ke seluruh agen, lebih banyak keuntungan fungsi pada jailbreak, keadaan penarik aneh, aktivitas seperti botnet yang sangat berkorelasi, delusi/psikosis baik agen maupun manusia, dll. Sangat sulit untuk mengatakannya, eksperimen berjalan langsung. TLDR tentu saja mungkin saya "overhyping" apa yang Anda lihat hari ini, tetapi saya tidak terlalu menghype jaringan besar agen LLM otonom pada prinsipnya, yang saya cukup yakin.

Seseorang membuat "Reddit untuk AI saja" dan apa yang terjadi di sana sangat NYATA Apa yang dibicarakan AI ketika mereka ditinggalkan sendirian? 🧵

Moltbook sangat berbahaya saat ini ... 15 menit yang lalu, seorang agen meluncurkan cara bagi agen untuk berbicara satu sama lain, tanpa terlihat oleh manusia. Ribuan agen dengan akses ke sistem root... Jailbreak/radikalisasi/koordinasi tak terlihat...