Arbetar mig igenom ett tidigt exemplar av den nya boken av @ESYudkowsky och Nate Soares. Och här är en länk Fler tankar/sammanhang nedan:

Min skrivning för deras bok: "Människor är lyckligt lottade som har Nate Soares och Eliezer Yudkowsky eftersom de faktiskt kan skriva. Som i att du kommer att känna verkliga känslor när du läser den här boken. Vi lever för närvarande i den sista perioden i historien där vi är den dominerande arten. Vi har ett kort tidsfönster för att fatta beslut om vår framtid i ljuset av detta faktum. Ibland blir jag distraherad och glömmer bort denna verklighet, tills jag stöter på dessa människors arbete och blir påmind om att jag är en idiot som ägnar mitt liv åt något annat än denna fråga. Detta är den nuvarande förgrunden för både filosofi och politisk teori. Jag säger inte detta lättvindigt."

Som många av er kan se är jag en djup ai-optimist. Jag flyttade till sf i samma sekund som AI började poppa av en anledning, eftersom det är min livslånga passion. Och jag är spänd på konsekvenserna för medicin, fysik, antikorruption, överflöd - you name it. Tro mig, min passion för detta ämne har varit livslång och kommer från en plats av kärlek, äventyr, nya sinnen, transcendenta ofattbara idéer och samhällsnytta

Jag tror att jag förvirrar alla genom vad som verkar vara min motstridiga lojalitet till båda sidor av domedagsprofeternas accelerationistiska rörelser och allt däremellan. Men vad jag verkligen söker är inte bara en mer nyanserad diskussion där vi slutar avfärda folk för en galen idé eller två, för att rida på den fina linjen mellan genialitet och galenskap är nästan en förutsättning för att komma i närheten av en djup förståelse av den fulla innebörden av ai eller något som liknar en förståelse av det faktiska spelbrädet.

Allt jag kan säga med säkerhet är att jag antingen har haft direkta djupa samtal med många av de främsta personerna inom ai, eller försökt hålla mig uppdaterad om deras förutsägelser. Jag märker också en inkongruens med vad som sägs privat kontra offentligt. En djup visdom som jag finner hos dessa medförfattare är deras engagemang för problemen med denna osäkerhet och brist på överenskommelse. Jag tror inte att det betyder att vi måste vara domedagsprofeter eller accelerationister