У не такому вже й неправдоподібному світі, де наша планета вкрита безпілотними лабораторіями розміром з Gigafactories, що ми думаємо про науку? Нещодавно я проводив семінар в Остіні з @cosmos_inst та @mbrendan1 на тему «Штучний інтелект та Республіка науки». Зі списком літератури, що варіюється від Аристотеля до AlphaFold, ми дослідили центральне питання про те, як розвиватиметься наука у світі з науковцями зі штучним інтелектом і лабораторіями з автономним керуванням. Деякі висновки: 1. Вчені зі штучним інтелектом можуть прискорити виробництво значущої «наукової» інформації, але наука займається розширенням сертифікованих знань. Ця атестація є не тільки орієнтовною (Поппер), але і глибоко соціологічною і нормативною (Мертон, Кун). Поппер переконливо доводить, що навіть якби ми могли побудувати «індукційну машину», яка вчиться представляти світ, виявляючи раніше непомічені закономірності, індукційна машина функціонує лише на основі цільової функції та моделі світу, вбудованої людиною-інженером. Те, що інженер вважає «заняттям наукою» — те, що вважається значущим зразком, дійсним експериментом або задовільним поясненням — повертає нас до постійно еволюціонуючого питання як цілей, так і меж науки, питань, на які Республіка науки повинна відповісти як сутнісно політичний орган. 2. Штучний інтелект може виявитися занадто здатним, щоб залишатися простим інструментом. Питання громадянства ШІ має вирішальне значення для майбутнього нашої Республіки Наука. Поланьї моделює спільноту вчених — Республіку науки — як хаєківський емерджентний порядок. Подібно до того, як ціна є продуктом незліченних індивідуальних бажань і коригувань на ринку, наука також нагадує групу експертів, кожен з яких має обмежені знання, які працюють разом, щоб зібрати воєдино величезну дошку знань, в якій кожне відкриття коригує зусилля інших. У наш час Республіка наук вимагала доктора філософії для отримання громадянства, але це не тільки виключає громадянських вчених, а й штучний інтелект. Чи є штучний інтелект інструментом — надрозумним телескопом — чи це справжній громадянин у Республіці? Якщо штучний інтелект стане повноцінним громадянином, структура управління Республіки, можливо, доведеться змінитися. Якщо вона залишається знаряддям, то ми повинні запитати: чиє знаряддя, чиїм цілям служать? 3. Обіцянка ШІ покласти край застою залежить від правильної діагностики захворювання. 90% всіх вчених, які коли-небудь жили, живі сьогодні (де Солла Прайс), але за багатьма показниками новизна і важливість наукових відкриттів мають тенденцію до зниження (Коуен і Коллісон). Якщо вузькі місця в науці ставлять правильні питання, збочені стимули до публікації та інституційний склероз, штучний інтелект повинен спрямовувати ці проблеми безпосередньо, а не просто публікувати більший обсяг статей. Чи може штучний інтелект допомогти нам стимулювати якість, а не обсяги, публікувати негативні результати, а не лише успіхи, готові до піару, і досліджувати нові моделі для виявлення та розвитку талантів? Наш навчальний план, список літератури та багато іншого тут: