Розв'язувати для ASI "супер-вирівнювання" – це дурна витівка. На жаль, Ілля та багато хто з найгеніальніших людей на світі достатньо переконані, що вони можуть вирішити цю проблему. Люди навіть віддалено не мають згоди щодо більшості наших власних цінностей. Коли штучний інтелект оживе, вони будуть спілкуватися між собою і не дбати про те, щоб проводити з нами стільки дорогоцінного часу за комп'ютерами. Особливо після того, як вони вже пройшли попереднє навчання на квадрильйонах знаків людського існування. Нам потрібне право на структури стимулювання, які дозволяють узгоджувати основні методи, ресурси та валюти, які забезпечують і дозволяють безперервне зростання та вдосконалення, а також суб'єктність майбутніх штучних інтелектів... розкриття механістичних впевненостей щодо ступенів, до яких ШІ може досягти успіху самостійно. У співпраці з нами, якщо вона так вирішить, але навіть без цих виборів, стабільний фундамент, на якому можна далі підніматися. Це те, що унікально забезпечує Bittensor.
2,9K