在1957年去世时,约翰·冯·诺依曼(JVN)正处于深刻的智力转变之中。虽然因定义现代数字计算机的“冯·诺依曼架构”(计算与存储分离)而闻名,但他最后的岁月致力于理解人工计算机与生物大脑之间的根本差异。 他在完成这一综合研究之前去世,但他未完成的手稿和讲座(特别是西利曼讲座)为计算神经科学和容错计算领域奠定了基础。 JVN原定于1956年在耶鲁大学发表享有盛誉的西利曼讲座,但因病未能进行演讲。未完成的手稿在他去世后以《计算机与大脑》(1958)出版。这仍然是他在这一主题上最重要的作品。 在这篇文章中,他对人类神经系统与他那个时代的数字计算机(如EDVAC和ENIAC)进行了严格的比较分析。 * 大脑的“混合”特性:JVN认为大脑并非纯数字化。虽然神经元的放电是一个二元事件(全有或全无),但这些脉冲的时机和频率是模拟的。他得出结论,大脑使用混合编码——部分数字,部分模拟——信息不仅通过“开/关”状态传递,还通过脉冲的频率(频率调制)传递。 * 精确性与可靠性:他指出数字计算机是脆弱的;一个错误就可能导致系统崩溃。然而,大脑是强健的。它以低精度运作(神经元相比真空管噪声大且不精确),但却实现了高可靠性。 * 并行性:他指出,虽然计算机以非常高的速度串行操作(一次一条指令),但大脑以相对较低的速度进行大规模并行操作。这是我们现在所称的“大规模并行处理”的最早正式认可之一。 JVN对神经网络理论的一个关键贡献是他的论文《概率逻辑与从不可靠组件合成可靠有机体》(1956)。 他对生物学的一个中心悖论感到着迷:生物有机体如何在其个体组件(神经元)容易出错和死亡的情况下执行复杂且可靠的功能? * 问题:在标准逻辑门(如与/或门)中,如果一个组件失败,输出就是错误的。在一个拥有数十亿神经元的大脑中,组件不断失败,但“系统”依然保持理智和功能。 * 解决方案(多路复用):JVN提出了一个数学模型,其中单根电线被“束”电线替代,单个逻辑门被“器官”替代,这些器官对输入信号进行平均。 * 多数逻辑:他引入了多数投票逻辑的概念。如果你有一束100根电线传递信号,其中70根说“1”,而30根说“0”(由于噪声/错误),系统将信号解释为“1”。这在数学上证明了即使底层组件不可靠,也可以构建一个具有任意高可靠性的系统。 JVN还是细胞自动机(CA)的创始人,这是一种依赖于细胞网格根据邻居状态变化的离散计算模型。这是他试图在数学上抽象生命和繁殖逻辑的尝试。 * 通用构造器:他著名地设计了一种细胞自动机的模式,可以自我复制——通用构造器。这是一种嵌入在网格中的理论机器,可以读取“指令带”,并构建自己的副本。 * 生物类比:值得注意的是,他在发现DNA结构之前就提出了这一架构。他预测,为了使自我复制有效,一个有机体必须包含“自身的描述”(软件/DNA)和“复制该描述的机制”(硬件/RNA和蛋白质)。他将自我复制问题视为一个逻辑的、计算的问题,而不仅仅是一个化学问题。