На момент своей смерти в 1957 году Джон фон Нейман (JVN) находился в процессе глубокого интеллектуального поворота. Хотя он был известен благодаря "архитектуре фон Неймана", которая определяет современные цифровые компьютеры (разделение вычислений и памяти), его последние годы были посвящены пониманию фундаментальных различий между искусственными компьютерами и биологическим мозгом. Он умер, не успев завершить эту синтезу, но его незавершенные рукописи и лекции (в частности, Лекции Силлиманов) заложили основу для областей вычислительной нейробиологии и отказоустойчивых вычислений. JVN должен был прочитать престижные Лекции Силлиманов в Йеле в 1956 году, но он был слишком болен, чтобы представить их. Незавершенная рукопись была опубликована посмертно под названием "Компьютер и мозг" (1958). Это остается его наиболее значимой работой по этой теме. В этом тексте он провел строгий сравнительный анализ человеческой нервной системы и цифровых компьютеров его времени (таких как EDVAC и ENIAC). * "Смешанная" природа мозга: JVN утверждал, что мозг не является чисто цифровым. Хотя выстрел нейрона — это бинарное событие (всё или ничего), время и частота этих импульсов являются аналоговыми. Он пришел к выводу, что мозг использует гибридный код — часть цифровой, часть аналоговой — где информация передается не только состояниями "включено/выключено", но и частотой импульсов (частотная модуляция). * Точность против надежности: Он отметил, что цифровые компьютеры хрупки; одна ошибка может привести к сбою системы. Мозг, однако, надежен. Он работает с низкой точностью (нейроны шумные и неточные по сравнению с вакуумными трубками), но достигает высокой надежности. * Параллелизм: Он отметил, что хотя компьютеры работают последовательно (одна инструкция за раз) на очень высоких скоростях, мозг работает в массовом параллелизме на относительно низких скоростях. Это было одним из первых формальных признаний того, что мы сейчас называем Массовой Параллельной Обработкой. Одним из самых критических вкладов JVN в теорию нейронных сетей была его статья "Вероятностные логики и синтез надежных организмов из ненадежных компонентов" (1956). Он был очарован центральным парадоксом биологии: как биологические организмы выполняют сложные, надежные функции, когда их отдельные компоненты (нейроны) подвержены ошибкам и смерти? * Проблема: В стандартных логических элементах (таких как И/ИЛИ), если один компонент выходит из строя, выход неправильный. В мозге с миллиардами нейронов компоненты постоянно выходят из строя, но "система" остается разумной и функциональной. * Решение (Мультиплексирование): JVN предложил математическую модель, в которой одиночные провода заменяются "пакетами" проводов, а одиночные логические элементы заменяются "органами", которые усредняют входящие сигналы. * Логика большинства: Он ввел концепцию логики голосования большинства. Если у вас есть пакет из 100 проводов, передающих сигнал, и 70 из них говорят "1", а 30 говорят "0" (из-за шума/ошибки), система интерпретирует сигнал как "1". Это математически доказало, что можно построить систему с произвольно высокой степенью надежности, даже если основные компоненты ненадежны. JVN также является отцом Клеточных Автоматов (CA), дискретной модели вычислений, которая основывается на сетке ячеек, изменяющих состояния в зависимости от своих соседей. Это была его попытка математически абстрагировать логику жизни и воспроизводства. * Универсальный Конструктор: Он знаменит тем, что разработал шаблон клеточных автоматов, который мог копировать себя — Универсальный Конструктор. Это была теоретическая машина, встроенная в сетку, которая могла читать "ленту" инструкций и строить копию себя. * Биологическая аналогия: Удивительно, что он предложил эту архитектуру до открытия структуры ДНК. Он предсказал, что для самовоспроизводства организму необходимо содержать "описание" самого себя (программное обеспечение/ДНК) и "механизм" для копирования этого описания (аппаратное обеспечение/РНК и белки). Он рассматривал проблему самовоспроизводства как логическую, вычислительную проблему, а не чисто химическую.