Несмотря на все разговоры о согласовании ИИ, я беспокоюсь, что мы ставим телегу впереди лошади. Вы не можете управлять тем, что не можете контролировать. Люди часто говорят о сдерживании и согласовании в одном предложении, но это не взаимозаменяемые понятия и не пакетное предложение. Сдерживание — это вопрос о том, можем ли мы установить границы, обеспечить их соблюдение и ограничить его возможности. Согласование касается того, чтобы убедиться, что он разделяет наши ценности, что он служит наилучшим интересам человечества. Сдерживание должно быть на первом месте — иначе согласование эквивалентно вежливой просьбе.