Artık kırmızı çizgi olmadığını düşünüyorum. %75 güven: ICE "demokratlar teröristtir" diyebilir ve 200 bin Minnesota demokratını bir toplama kampına gönderebilir, 50 kişiyi öldürebilir. Cumhuriyetçiler bunu gerekçeyle değerlendirir, birkaç Temsilciler Meclisi temsilcisi oylamayı protesto eder
"Buna izin verilmez" demek bir başa çıkma gibi geliyor
"Biri yaparsa, herkes ölür" zayıf görünüyor. Yud & Soares, yapay zeka x-risk için gerçek, güçlü bir gerekçe sunma fırsatını boşa harcadılar. Bunun yerine, "muhtemel" yapay zeka hedeflerini safça saymak gibi bariz ve uzun süredir çürütülmüş hatalar yapmaya devam ediyorlar
Hayal kırıklığı
Eleştirmenlerimiz, çalışmalarımızın dünyayı yok edeceğini söylüyor ve şimdi birçok kişi "Eğer biri inşa ederse, herkes ölür" diye yapay zekanın felaketinin kanonik gerekçesi olarak öne çıkıyor.
Yine de kitabın argümanlarını son derece zayıf buluyoruz. Kitap ilginç bir kurgu olabilir, ama hiçbir zaman kanıt sunmaz.
"Çıktıya dayalı eğitim, düşünce zincirlerini dürüst tutar."
Ne yazık ki, HAYIR. *Sadece çıktı* üzerine eğitim yapmanın, modellerin istenmeyen davranışları düşünce zincirinde gizlemesine neden olabileceğini gösteriyoruz. MATS 8.0 Team Shard sunuyor: 🧵