在1957年去世時,約翰·馮·諾依曼(JVN)正處於一個深刻的智識轉變中。雖然他因為定義現代數位電腦的「馮·諾依曼架構」(計算與記憶的分離)而聞名,但他最後的歲月致力於理解人工電腦與生物大腦之間的根本差異。 他在完成這一綜合之前去世,但他未完成的手稿和講座(特別是西利曼講座)為計算神經科學和容錯計算領域奠定了基礎。 JVN原定於1956年在耶魯大學發表著名的西利曼講座,但因病無法進行。未完成的手稿在他去世後以《電腦與大腦》(1958)出版。這仍然是他在這一主題上最重要的作品。 在這篇文章中,他對人類神經系統和他那個時代的數位電腦(如EDVAC和ENIAC)進行了嚴謹的比較分析。 * 大腦的「混合」特性:JVN主張大腦並非純數位。雖然神經元的放電是一個二元事件(全有或全無),但這些脈衝的時間和頻率是類比的。他得出結論,大腦使用一種混合代碼——部分數位,部分類比——信息不僅通過「開/關」狀態傳遞,還通過脈衝的速率(頻率調變)來傳遞。 * 精確性與可靠性:他指出數位電腦是脆弱的;單一錯誤可能會使系統崩潰。然而,大腦是穩健的。它以低精度運作(神經元相比真空管是嘈雜且不精確的),但卻實現了高可靠性。 * 並行性:他指出,雖然電腦以非常高的速度串行運作(一次一條指令),但大腦以相對較低的速度進行大規模並行運作。這是我們現在所稱的「大規模並行處理」的最早正式認識之一。 JVN對神經網絡理論的最重要貢獻之一是他的論文《概率邏輯與從不可靠組件合成可靠有機體》(1956)。 他對生物學的一個中心悖論感到著迷:生物有機體如何在其個別組件(神經元)容易出錯和死亡的情況下執行複雜且可靠的功能? * 問題:在標準邏輯閘(如AND/OR)中,如果一個組件失效,輸出就是錯誤的。在擁有數十億神經元的大腦中,組件不斷失效,但「系統」仍然保持理智和功能。 * 解決方案(多路復用):JVN提出了一個數學模型,其中單根電線被「束」電線取代,單個邏輯閘被「器官」取代,這些器官對進來的信號進行平均。 * 多數邏輯:他引入了多數投票邏輯的概念。如果你有一束100根電線傳遞信號,其中70根說「1」,而30根說「0」(由於噪音/錯誤),系統將信號解釋為「1」。這在數學上證明了即使基礎組件不可靠,你也可以構建一個具有任意高可靠性的系統。 JVN也是細胞自動機(CA)的創始人,這是一種依賴於根據其鄰居改變狀態的格子計算模型。這是他試圖數學抽象生命和繁殖邏輯的嘗試。 * 通用構造器:他著名地設計了一種細胞自動機的模式,可以自我複製——通用構造器。這是一種嵌入在網格中的理論機器,可以讀取一段指令「帶」,並構建自己的副本。 * 生物類比:值得注意的是,他在DNA結構被發現之前就提出了這一架構。他預測,為了使自我繁殖有效,有機體必須包含一個「描述」自己(軟件/DNA)和一個「機制」來複製該描述(硬件/RNA和蛋白質)。他將自我繁殖問題視為一個邏輯的、計算的問題,而非純粹的化學問題。