Dario Amodei kertoi WEF:ssä julkaisevansa Machines of Loving Grace -kirjan jatko-osan. Se julkaistaan tänään, ja Anthropic antoi Axiosille varhaisen katsauksen. Sen nimi on 'Teknologian nuoruus: Voimakkaan Alin riskien kohtaaminen ja voittaminen.'

Muutamia lainauksia: ' Uskon, että olemme astumassa siirtymäriittiin, sekä myrskyisään että väistämättömään, joka koettelee sitä, keitä olemme lajina. Ihmiskunnalle on saamassa lähes käsittämätöntä valtaa, ja on syvästi epäselvää, onko sosiaalisilla, poliittisilla ja teknologisilla järjestelmillämme kypsyyttä käyttää sitä.'

'Olemme nyt pisteessä, jossa tekoälymallit alkavat edistyä ratkaisemattomien matemaattisten ongelmien ratkaisemisessa, ja ne ovat niin hyviä koodauksessa, että jotkut vahvimmista insinööreistä, joita olen koskaan tavannut, luovuttavat nyt lähes kaiken koodauksensa tekoälylle. Kolme vuotta sitten tekoäly kamppaili alakoulun aritmetiikan ongelmien kanssa ja pystyi tuskin kirjoittamaan yhtäkään koodiriviä. Samanlaisia parannusvauhteja tapahtuu myös biologisessa tieteessä, rahoituksessa, fysiikassa ja monissa agenttisissa tehtävissä. Jos eksponentiaalinen kasvu jatkuu – mikä ei ole varmaa, mutta jolla on nyt kymmenen vuoden historia – ei voi kestää kuin muutamaa vuotta, ennen kuin tekoäly on käytännössä kaikessa parempi kuin ihmiset. Itse asiassa tuo kuva aliarvioi todennäköisesti edistymisen todennäköisen vauhdin. Koska tekoäly kirjoittaa nyt suurimman osan Anthropicin koodista, se nopeuttaa jo merkittävästi edistymisvauhtiamme seuraavan sukupolven tekoälyjärjestelmien rakentamisessa. Tämä palautesilmukka kiihtyy kuukausi kuukaudelta, ja saattaa olla vain 1–2 vuoden päässä pisteestä, jossa nykyinen tekoälysukupolvi rakentaa seuraavan itsenäisesti. Tämä silmukka on jo alkanut ja kiihtyy nopeasti tulevina kuukausina ja vuosina. Seuratessani viimeisten viiden vuoden kehitystä Anthropicin sisältä ja katsoessani, miten jopa seuraavien kuukausien mallit muotoutuvat, tunnen edistymisen tahdin ja ajan tikityksen.'

'On hieman kiusallista sanoa tämä tekoälyyrityksen toimitusjohtajana, mutta mielestäni seuraava riskitaso ovat itse asiassa tekoälyyritykset itse. Tekoälyyritykset hallitsevat suuria datakeskuksia, kouluttavat rajamalleja, niillä on suurin asiantuntemus näiden mallien käytössä ja joissain tapauksissa niillä on päivittäinen kontakti ja mahdollisuus vaikuttaa kymmeniin tai satoihin miljooniin käyttäjiin. Tärkein asia, mitä heiltä puuttuu, on valtion legitimiteetti ja infrastruktuuri, joten suuri osa siitä, mitä tekoälyautokratian työkalujen rakentamiseen tarvittaisiin, olisi laitonta tekoälyyritykselle tai ainakin erittäin epäilyttävää. Mutta osa tästä ei ole mahdotonta: he voisivat esimerkiksi käyttää tekoälytuotteitaan aivopestääkseen valtavan kuluttajakuntansa, ja yleisön tulisi olla tarkkaavainen tämän aiheuttaman riskin suhteen. Mielestäni tekoälyyritysten hallinto ansaitsee paljon tarkastelua.'

'Kuten ilmaus "datakeskuksen nerojen maa" viittaa, tekoäly kykenee hyvin laajaan kirjoon ihmisen kognitiivisia kykyjä – ehkä kaikkia. Tämä eroaa suuresti aiemmista teknologioista, kuten mekanisoidusta viljelystä, liikenteestä tai jopa tietokoneista. Tämä vaikeuttaa helposti siirtymistä syrjäytetyistä töistä samanlaisiin tehtäviin, joihin he sopisivat. Esimerkiksi yleiset älylliset kyvyt, joita vaaditaan aloitustason tehtäviin esimerkiksi rahoituksessa, konsultoinnissa ja oikeustieteessä, ovat melko samankaltaisia, vaikka tarkka tieto onkin melko erilainen. Teknologia, joka häiritsisi vain toista näistä kolmesta, mahdollistaisi työntekijöiden vaihtamisen kahteen muuhun läheiseen korvaajaan (tai kandidaattiopiskelijoiden pääaineen vaihtamisen). Mutta kaikkien kolmen samanaikainen keskeyttäminen (kuten monien muiden vastaavien töiden kanssa) voi olla vaikeampaa sopeutua. Lisäksi kyse ei ole vain siitä, että suurin osa nykyisistä työpaikoista häiriintyy. Tuo osa on tapahtunut aiemminkin—muista, että maatalous oli suuri osa työllisyydestä. Mutta viljelijät saattoivat siirtyä suhteellisen samankaltaiseen työhön, kuten tehdaskoneiden pyörittämiseen, vaikka se ei ollut aiemmin yleistä. Sen sijaan tekoäly vastaa yhä enemmän ihmisten yleistä kognitiivista profiilia, mikä tarkoittaa, että se on myös hyvä uusissa työpaikoissa, jotka normaalisti syntyisivät vanhojen automatisoinnin seurauksena. Toisin sanoen, tekoäly ei ole tiettyjen ihmisten töiden korvike, vaan yleinen työvoiman korvike ihmisille.'

'Esimerkiksi koodauksessa mallimme ovat edenneet tasolta "keskinkertainen koodari" tasolta "vahvaksi koodariksi" ja lopulta "erittäin vahvaksi koodariksi". Nyt alamme nähdä saman kehityksen valkokaulustyössä yleisesti. Olemme siis vaarassa tilanteesta, jossa tekoäly ei vaikuta ihmisiin, joilla on tiettyjä taitoja tai ammatteja (jotka voivat sopeutua uudelleenkoulutuksella), vaan se vaikuttaa ihmisiin, joilla on tiettyjä sisäisiä kognitiivisia ominaisuuksia, nimittäin alempi älyllinen kyky (jota on vaikeampi muuttaa). Ei ole selvää, minne nämä ihmiset menevät tai mitä he tekevät, ja olen huolissani siitä, että he voisivat muodostaa työttömän tai hyvin matalapalkkaisen "alaluokan".

Anthropic aikoo pitää työntekijät töissä, vaikka he 'eivät enää tuottaisi taloudellista arvoa perinteisessä mielessä.' 'Kolmanneksi yritysten tulisi miettiä, miten huolehtia työntekijöistään. Lyhyellä aikavälillä luovuus työntekijöiden uudelleensijoittamisesta yrityksissä voi olla lupaava tapa välttää irtisanomistarvetta. Pitkällä aikavälillä, maailmassa, jossa kokonaisvarallisuus on valtava ja jossa monien yritysten arvo kasvaa lisääntyneen tuottavuuden ja pääomakeskittymisen vuoksi, voi olla mahdollista maksaa ihmistyöntekijöille vielä pitkään sen jälkeen, kun he eivät enää tuota taloudellista arvoa perinteisessä mielessä. Anthropic harkitsee parhaillaan useita mahdollisia polkuja omille työntekijöilleen, joita jaamme lähitulevaisuudessa.'

'Kaikki Anthropicin perustajat ovat luvanneet lahjoittaa 80 % varallisuudestamme.'

Joitakin vakavia totuuksia, olen täysin samaa mieltä ja olen sanonut samanlaisia asioita monta kertaa. 'Lisäksi viime vuosien pitäisi tehdä selväksi, että ajatus teknologian pysäyttämisestä tai jopa merkittävästä hidastamisesta on pohjimmiltaan kestämätön. Voimakkaiden tekoälyjärjestelmien rakentamisen kaava on uskomattoman yksinkertainen, niin että sen voi melkein sanoa syntyvän spontaanisti oikean datan ja raakalaskennan yhdistelmästä. Sen luominen oli todennäköisesti väistämätöntä heti, kun ihmiskunta keksi transistorin, tai ehkä jopa aiemmin, kun opimme hallitsemaan tulta. Jos yksi yritys ei rakenna sitä, muut tekevät sen lähes yhtä nopeasti. Jos kaikki yritykset demokraattisissa maissa pysäyttäisivät tai hidastaisivat kehitystä yhteisymmärryksellä tai sääntelypäätöksellä, autoritaariset maat jatkaisivat yksinkertaisesti. Ottaen huomioon teknologian uskomattoman taloudellisen ja sotilaallisen arvon sekä merkittävän valvontamekanismin puutteen, en näe, miten voisimme saada heidät lopettamaan.'

Mahtavaa materiaalia, koko teos kannattaa ehdottomasti lukea. 'Edessämme olevat vuodet tulevat olemaan mahdottoman vaikeita, vaativat meiltä enemmän kuin uskomme voivamme antaa. Mutta tutkijana, johtajana ja kansalaisena olen nähnyt tarpeeksi rohkeutta ja jaloa uskoakseni, että voimme voittaa – että ihmiskunta pystyy keräämään näennäisesti viime hetkellä voimaa ja viisautta voittaakseen. Meillä ei ole aikaa hukattavaksi.'