W momencie swojej śmierci w 1957 roku, John von Neumann (JVN) był w trakcie głębokiego intelektualnego zwrotu. Choć znany z "architektury von Neumanna", która definiuje nowoczesne komputery cyfrowe (separacja obliczeń od pamięci), jego ostatnie lata poświęcone były zrozumieniu fundamentalnych różnic między komputerami sztucznymi a biologicznym mózgiem. Zmarł, zanim mógł ukończyć tę syntezę, ale jego niedokończone rękopisy i wykłady (szczególnie Wykłady Sillimana) położyły fundamenty dla dziedzin neurobiologii obliczeniowej i obliczeń odpornych na błędy. JVN miał wygłosić prestiżowe Wykłady Sillimana na Uniwersytecie Yale w 1956 roku, ale był zbyt chory, aby je przedstawić. Niedokończony rękopis został opublikowany pośmiertnie jako Komputer i Mózg (1958). Pozostaje jego najważniejszym dziełem na ten temat. W tym tekście przeprowadził rygorystyczną analizę porównawczą ludzkiego układu nerwowego i komputerów cyfrowych swoich czasów (takich jak EDVAC i ENIAC). * "Mieszana" natura mózgu: JVN argumentował, że mózg nie jest czysto cyfrowy. Choć wystrzał neuronu jest zdarzeniem binarnym (wszystko albo nic), czas i częstotliwość tych impulsów są analogowe. Doszedł do wniosku, że mózg używa hybrydowego kodu—częściowo cyfrowego, częściowo analogowego—gdzie informacja jest przekazywana nie tylko przez stany "włączony/wyłączony", ale także przez tempo impulsów (modulacja częstotliwości). * Precyzja vs. Niezawodność: Zauważył, że komputery cyfrowe są kruche; pojedynczy błąd może zawiesić system. Mózg jednak jest odporny. Działa z niską precyzją (neurony są hałaśliwe i niedokładne w porównaniu do lamp próżniowych), ale osiąga wysoką niezawodność. * Równoległość: Zidentyfikował, że podczas gdy komputery działają szeregowo (jedna instrukcja na raz) z bardzo wysokimi prędkościami, mózg działa w masowej równoległości przy stosunkowo niskich prędkościach. To było jedno z pierwszych formalnych uznania tego, co teraz nazywamy Masowo Równoległym Przetwarzaniem. Jednym z najważniejszych wkładów JVN w teorię sieci neuronowych był jego artykuł Logiki probabilistyczne i synteza niezawodnych organizmów z zawodnych komponentów (1956). Fascynował go centralny paradoks biologii: Jak organizmy biologiczne wykonują złożone, niezawodne funkcje, gdy ich poszczególne komponenty (neurony) są podatne na błędy i śmierć? * Problem: W standardowej bramce logicznej (takiej jak AND/OR), jeśli jeden komponent zawiedzie, wynik jest błędny. W mózgu z miliardami neuronów komponenty zawodzą nieustannie, a jednak "system" pozostaje zdrowy i funkcjonalny. * Rozwiązanie (Multiplexing): JVN zaproponował model matematyczny, w którym pojedyncze przewody są zastępowane przez "wiązki" przewodów, a pojedyncze bramki logiczne są zastępowane przez "organy", które uśredniają nadchodzące sygnały. * Logika większości: Wprowadził pojęcie logiki głosowania większościowego. Jeśli masz wiązkę 100 przewodów przenoszących sygnał, a 70 z nich mówi "1", podczas gdy 30 mówi "0" (z powodu szumów/błędów), system interpretuje sygnał jako "1". To matematycznie udowodniło, że można zbudować system o dowolnie wysokim stopniu niezawodności, nawet jeśli podstawowe komponenty są zawodne. JVN jest również ojcem Automaty Komórkowych (CA), dyskretnego modelu obliczeniowego, który opiera się na siatce komórek zmieniających stany w zależności od sąsiadów. To była jego próba matematycznego abstrahowania logiki życia i reprodukcji. * Uniwersalny Konstruktor: Słynnie zaprojektował wzór automaty komórkowych, który mógł kopiować samego siebie—Uniwersalny Konstruktor. To była teoretyczna maszyna osadzona w siatce, która mogła odczytać "taśmę" instrukcji i zbudować kopię samej siebie. * Analogia biologiczna: Co ciekawe, zaproponował tę architekturę przed odkryciem struktury DNA. Przewidział, że aby samoreprodukcja mogła działać, organizm musi zawierać "opis" samego siebie (oprogramowanie/DNA) oraz "mechanizm" do skopiowania tego opisu (sprzęt/RNA i białka). Traktował problem samoreprodukcji jako problem logiczny, obliczeniowy, a nie czysto chemiczny.