Dario Amodei a declarat la WEF că urmează să publice continuarea cărții Machines of Loving Grace. Va fi lansat astăzi, iar Axios a primit o privire timpurie de către Anthropic. Se intitulează "Adolescența tehnologiei: Confruntarea și depășirea riscurilor unei Al puternice."

Câteva citate: "Cred că intrăm într-un ritual de trecere, atât turbulent, cât și inevitabil, care ne va testa ca specie. Umanitatea este pe cale să primească o putere aproape de neimaginat și este profund neclar dacă sistemele noastre sociale, politice și tehnologice au maturitatea necesară pentru a o folosi."

"Suntem acum în punctul în care modelele AI încep să facă progrese în rezolvarea problemelor matematice nerezolvate și sunt suficient de buni la codare încât unii dintre cei mai puternici ingineri pe care i-am întâlnit predau aproape tot codul lor AI-ului. Acum trei ani, AI se confrunta cu probleme de aritmetică din școala primară și abia putea scrie o singură linie de cod. Rate similare de îmbunătățire apar în științele biologice, finanțe, fizică și o varietate de sarcini agențice. Dacă exponențialitatea continuă — ceea ce nu este sigur, dar acum are un istoric de un deceniu care o susține — atunci nu poate trece mai mult de câțiva ani până când AI va fi mai bună decât oamenii în practic orice. De fapt, această imagine probabil subestimează rata probabilă de progres. Pentru că AI scrie acum o mare parte din codul la Anthropic, accelerează deja substanțial ritmul progresului nostru în construirea următoarei generații de sisteme AI. Acest ciclu de feedback capătă avânt lună de lună și poate fi la doar 1–2 ani distanță de momentul în care generația actuală de AI va construi autonom următoarea. Această buclă a început deja și se va accelera rapid în lunile și anii următori. Urmărind ultimii 5 ani de progres din interiorul Anthropic și privind cum se conturează chiar și următoarele câteva luni de modele, pot simți ritmul progresului și ceasul care se scurge."

"Este oarecum stânjenitor să spui asta ca CEO al unei companii AI, dar cred că următorul nivel de risc sunt de fapt companiile AI însele. Companiile AI controlează centre de date mari, antrenează modele de frontieră, au cea mai mare expertiză în utilizarea acestor modele și, în unele cazuri, au contact zilnic și posibilitatea de a influența zeci sau sute de milioane de utilizatori. Principalul lucru care le lipsește este legitimitatea și infrastructura unui stat, așa că multe dintre lucrurile necesare pentru a construi uneltele unei autocrații AI ar fi ilegale pentru o companie AI sau cel puțin extrem de suspecte. Dar o parte nu este imposibilă: ar putea, de exemplu, să folosească produsele lor AI pentru a-și spăla creierul baza masivă de consumatori, iar publicul ar trebui să fie atent la riscul pe care îl reprezintă acest lucru. Cred că guvernanța companiilor de IA merită multă atenție."

"Așa cum sugerează expresia "țara geniilor într-un centru de date", AI va fi capabilă de o gamă foarte largă de abilități cognitive umane — poate chiar toate. Acest lucru este foarte diferit de tehnologiile anterioare precum agricultura mecanizată, transportul sau chiar calculatoarele. Acest lucru va face mai dificil pentru oameni să treacă ușor de la joburi înlocuite la joburi similare pentru care s-ar potrivi. De exemplu, abilitățile intelectuale generale necesare pentru joburile de nivel de început, de exemplu, în finanțe, consultanță și drept sunt destul de similare, chiar dacă cunoștințele specifice sunt destul de diferite. O tehnologie care ar perturba doar unul dintre acești trei ar permite angajaților să treacă la ceilalți doi înlocuitori apropiați (sau ca studenții de licență să-și schimbe specializarea). Dar să le perturbi pe toate trei simultan (împreună cu multe alte joburi similare) poate fi mai greu de adaptat pentru oameni. Mai mult, nu este vorba doar că majoritatea locurilor de muncă existente vor fi perturbate. Acea parte s-a mai întâmplat înainte — amintiți-vă că agricultura reprezenta un procent uriaș din ocuparea forței de muncă. Dar fermierii puteau trece la o muncă relativ similară de operare a mașinilor din fabrică, chiar dacă această muncă nu era comună înainte. Prin contrast, AI corespunde tot mai mult profilului cognitiv general al oamenilor, ceea ce înseamnă că va fi bună și la noile locuri de muncă care ar fi create în mod normal ca răspuns la automatizarea celor vechi. O altă modalitate de a spune asta este că IA nu este un substitut pentru anumite locuri de muncă umane, ci mai degrabă un substitut general al forței de muncă pentru oameni."

"De exemplu, în programare, modelele noastre au trecut de la nivelul "unui codor mediocru" la "un codor puternic" și apoi la "un codor foarte puternic." Acum începem să vedem aceeași evoluție în munca de birou în general. Suntem astfel expuși riscului unei situații în care, în loc să afecteze persoanele cu abilități specifice sau în profesii specifice (care se pot adapta prin reinstruire), AI afectează persoanele cu anumite proprietăți cognitive intrinseci, și anume o capacitate intelectuală mai scăzută (care este mai greu de schimbat). Nu este clar unde vor merge acești oameni sau ce vor face, iar eu sunt îngrijorat că ar putea forma o "clasă inferioară" șomeră sau cu salarii foarte mici."

Anthropic plănuiește să păstreze angajații chiar și după ce aceștia "nu mai oferă valoare economică în sensul tradițional." "În al treilea rând, companiile ar trebui să se gândească cum să aibă grijă de angajații lor. Pe termen scurt, a fi creativ în privința modalităților de a realoca angajații în cadrul companiilor poate fi o modalitate promițătoare de a preveni necesitatea concedierilor. Pe termen lung, într-o lume cu o avere totală enormă, în care multe companii cresc considerabil în valoare datorită productivității sporite și concentrării capitalului, poate fi fezabil să plătești angajații umani chiar și mult după ce aceștia nu mai oferă valoare economică în sensul tradițional. Anthropic ia în considerare în prezent o serie de căi posibile pentru propriii noștri angajați pe care le vom împărtăși în viitorul apropiat."

"Toți cofondatorii Anthropic s-au angajat să doneze 80% din averea noastră."

Unele adevăruri serioase, sunt complet de acord cu asta și am spus lucruri similare de multe ori. "Mai mult, ultimii ani ar trebui să arate clar că ideea de a opri sau chiar de a încetini substanțial tehnologia este fundamental nesustenabilă. Formula pentru construirea unor sisteme AI puternice este incredibil de simplă, atât de simplă încât aproape că se poate spune că apare spontan din combinația potrivită de date și calcul brut. Crearea sa a fost probabil inevitabilă în clipa în care umanitatea a inventat tranzistorul, sau poate chiar mai devreme, când am învățat pentru prima dată să controlăm focul. Dacă o companie nu o construiește, altele o vor face aproape la fel de repede. Dacă toate companiile din țările democratice ar opri sau ar încetini dezvoltarea, prin acord reciproc sau decret de reglementare, atunci țările autoritare ar continua pur și simplu să meargă mai departe. Având în vedere valoarea economică și militară incredibilă a tehnologiei, împreună cu lipsa oricărui mecanism real de aplicare a legii, nu văd cum am putea să-i convingem să se oprească."

Lucruri grozave, merită cu siguranță să citești totul. "Anii care ne așteaptă vor fi imposibil de grei, cerându-ne mai mult decât credem că putem oferi. Dar în timpul meu ca cercetător, lider și cetățean, am văzut suficient curaj și noblețe să cred că putem câștiga — că atunci când este pusă în cele mai întunecate circumstanțe, umanitatea are un mod de a aduna, aparent în ultimul moment, puterea și înțelepciunea necesare pentru a învinge. Nu avem timp de pierdut."