Как регулируют передовые модели ИИ на пути к AGI

Законодательство ЕС, предложения в США и добровольные правила разработчиков
Разговоры о регулировании искусственного общего интеллекта — AGI — иногда звучат так, будто правительства уже согласовали правила для систем, способных превзойти человека во всех областях. На деле законодательство развивается вокруг более конкретных категорий: моделей общего назначения, передовых систем и моделей, способных создавать системные риски. Экспертные документы отдельно различают ИИ общего назначения и AGI — гипотетическую систему, которая могла бы выполнять почти все когнитивные задачи на уровне человека или выше.
В Европейском союзе правила для моделей общего назначения начали применяться в августе 2025 года, а полномочия Еврокомиссии по контролю за их исполнением действуют с августа 2026-го. Разработчики должны подготовить техническую документацию, описать политику соблюдения авторского права и опубликовать достаточно подробное резюме содержания, использованного для обучения модели. Для наиболее мощных систем, отнесённых к моделям с системным риском, предусмотрены дополнительные меры: оценка и снижение рисков, тестирование, сообщение о серьёзных инцидентах и защита кибербезопасности. Один из ориентиров для такой классификации — вычислительный порог, однако Еврокомиссия может учитывать и другие критерии.
Требование о резюме обучающих материалов не означает публикацию полного набора данных или каждого использованного файла. Еврокомиссия требует дать обзор содержания и основных источников данных, а также объяснить подход к соблюдению авторского права. В исходном тезисе о раскрытии первоисточников и локализации обучения эти разные обязанности были сведены к одному, хотя общего правила, предписывающего хранить и обучать все модели только внутри ЕС, AI Act не устанавливает.
Американский подход складывается из нескольких инициатив. Указ Белого дома от июня 2026 года поручил ведомствам разработать оценку кибервозможностей передовых моделей и добровольный механизм взаимодействия с разработчиками. В его рамках компания может предоставить федеральным ведомствам ранний доступ к модели — максимум за 30 дней до её передачи доверенным партнёрам. При этом указ прямо оговаривает, что не вводит обязательное государственное лицензирование, предварительное разрешение или допуск к выпуску моделей.
В Конгрессе обсуждаются и более жёсткие варианты. 23 сентября 2026 года сенаторы Питер Уэлч и Майкл Беннет представили предложение о создании Федеральной цифровой комиссии, которая могла бы предварительно сертифицировать некоторые передовые модели и приостанавливать их выпуск, если не приняты необходимые меры защиты. Пока это именно законодательное предложение, а не действующий закон; оно показывает, что часть политиков выступает за усиление надзора, но не отражает единую позицию американских властей.
Технологические компании развивают собственные процедуры оценки и сотрудничают с государственными институтами. Microsoft договорилась с американским Центром стандартов и инноваций в области ИИ и британским Институтом безопасности ИИ о совместном тестировании своих передовых моделей. OpenAI использует внутреннюю рамочную систему оценки рисков перед выпуском моделей, а Anthropic развивает добровольную политику ответственного масштабирования и публикует отчёты о рисках. Эти практики важны для отрасли, однако их нельзя называть единой обязательной государственной сертификацией, которую уже поддерживают все крупнейшие разработчики.
Отдельное внимание привлекают ИИ-агенты, способные выполнять цепочки действий — например, работать с браузером, файлами или программными инструментами. Исследовательские институты рассматривают связанные с ними риски ошибок, злоупотреблений и потери контроля. Европейский AI Act требует человеческого надзора для систем высокого риска и предусматривает возможность вмешаться или остановить систему, если она работает не так, как должна. Это требование относится к установленным законом категориям и не является универсальным «выключателем» для любого агента. В проверенных нормативных документах также не обнаружено общего запрета на все юридические или финансовые действия ИИ без подтверждения человеком.
Регулирование ИИ действительно расширяется: к защите данных и прав пользователей добавляются оценка возможностей моделей, системные риски, кибербезопасность и контроль за действиями агентов. Однако единой мировой системы сертификации AGI пока нет. США, Евросоюз и технологические компании выбирают разные инструменты, а вопрос о том, где проходит граница между добровольной проверкой и обязательным надзором, остаётся предметом законодательных и общественных дискуссий.