Невероятно умный трюк, который используют все передовые AI-лаборатории, что делает LLMs настолько невероятно мощными: они почти не применяют регуляризацию, что приводит к моделям, которые сильно переобучены. Это было бы проблемой, если бы они не были переобучены на области всего человеческого культурного знания.