La momentul morții sale, în 1957, John von Neumann (JVN) se afla în mijlocul unei schimbări intelectuale profunde. Deși este faimos pentru "arhitectura von Neumann" care definește calculatoarele digitale moderne (separarea calculului de memorie), ultimii săi ani i-au dedicat înțelegerii diferențelor fundamentale dintre calculatoarele artificiale și creierul biologic. A murit înainte să poată finaliza această sinteză, dar manuscrisele și prelegerile sale neterminate (în special Prelegerile Silliman) au pus bazele domeniilor neuroștiinței computaționale și calculului tolerant la erori. JVN trebuia să susțină prestigioasele Prelegeri Silliman la Yale în 1956, dar era prea bolnav pentru a le susține. Manuscrisul neterminat a fost publicat postum sub titlul The Computer and the Brain (1958). Rămâne cea mai importantă lucrare a sa pe această temă. În acest text, a realizat o analiză comparativă riguroasă a sistemului nervos uman și a calculatoarelor digitale ale vremii sale (precum EDVAC și ENIAC). * Natura "mixtă" a creierului: JVN a susținut că creierul nu este pur digital. Deși un neuron care se declanșează este un eveniment binar (totul sau nimic), timpul și frecvența acelor impulsuri sunt analogice. El a concluzionat că creierul folosește un cod hibrid — parțial digital, parțial analog — unde informația este transmisă nu doar prin stări "on/off", ci și prin rata impulsurilor (modulație în frecvență). * Precizie vs. Fiabilitate: El a remarcat că calculatoarele digitale sunt fragile; O singură eroare poate face ca sistemul să se blocheze. Creierul, însă, este robust. Funcționează cu o precizie scăzută (neuronii sunt zgomotoși și imprecisi comparativ cu tuburile vidate), dar atinge o fiabilitate ridicată. * Paralelism: El a identificat că, în timp ce calculatoarele funcționează în serie (o instrucțiune odată) la viteze foarte mari, creierul funcționează în paralel masiv la viteze relativ mici. Aceasta a fost una dintre primele recunoașteri formale ale a ceea ce numim acum Procesare Masiv Paralelă. Una dintre cele mai importante contribuții ale lui JVN la teoria rețelelor neuronale a fost lucrarea sa Probabilistic Logics and the Synthesis of Reliable Organisms from Unreliable Components (1956). Era fascinat de un paradox central al biologiei: Cum îndeplinesc organismele biologice funcții complexe și de încredere atunci când componentele lor individuale (neuronii) sunt predispuse la eroare și moarte? * Problema: Într-o poartă logică standard (cum ar fi AND/OR), dacă o componentă eșuează, ieșirea este greșită. Într-un creier cu miliarde de neuroni, componentele cedează constant, însă "sistemul" rămâne sănătos la minte și funcțional. * Soluția (multiplexare): JVN a propus un model matematic în care firele simple sunt înlocuite cu "pachete" de fire, iar porțile logice simple sunt înlocuite de "organe" care mediază semnalele de intrare. * Logica majorității: A introdus conceptul de logică a votului majorității. Dacă ai un pachet de 100 de fire care transportă un semnal, iar 70 dintre ele spun "1" în timp ce 30 spun "0" (din cauza zgomotului/erorii), sistemul interpretează semnalul ca "1". Acest lucru a demonstrat matematic că poți construi un sistem cu un grad arbitrar de ridicat de fiabilitate, chiar dacă componentele de bază sunt nesigure. JVN este, de asemenea, părintele Automatelor Celulare (CA), un model discret de calcul care se bazează pe o rețea de celule care își schimbă starea în funcție de vecinii lor. Aceasta a fost încercarea sa de a abstractiza matematic logica vieții și a reproducerii. * Constructorul Universal: A proiectat faimos un model de automate celulare care se puteau copia singuri — Constructorul Universal. Aceasta era o mașină teoretică încorporată într-o grilă care putea citi o "bandă" de instrucțiuni și construi o copie a sa. * Analogie biologică: Remarcabil, a propus această arhitectură înainte de descoperirea structurii ADN-ului. El a prezis că, pentru ca auto-reproducerea să funcționeze, un organism trebuie să conțină o "descriere" a sinelui (software/ADN) și un "mecanism" pentru a copia acea descriere (hardware/ARN și proteine). El a tratat problema auto-reproducerii ca pe o problemă logică, computațională, mai degrabă decât una pur chimică.