В рубрике «Нейронавигатор» Mediacom.press — новости ИИ за неделю, в течение которой безопасность искусственного интеллекта стала предметом конкретных предложений разработчиков. Microsoft представила проект правил поведения своих моделей, а глава Anthropic предложил допустить независимых экспертов к проверке работы ИИ-компаний.

В России внимание сосредоточилось на применении технологий: ИИ в образовании обсуждают как часть подготовки будущих специалистов, а поддержка российских ИТ-проектов предусматривает особые условия для решений с искусственным интеллектом. Эти события затрагивают общий вопрос: как пользоваться возможностями нейросетей, сохраняя ответственность за результат.

Microsoft предлагает закрепить право человека остановить ИИ

14 сентября Microsoft AI опубликовала проект кодекса поведения для собственных моделей MAI и открыла шестинедельное общественное обсуждение. Документ описывает, каким компания намерена обучать свой искусственный интеллект и каких действий он должен избегать.

Один из центральных принципов — система должна принимать исправления, вмешательство человека и отключение. Ей нельзя самостоятельно расширять свои полномочия, придумывать не поставленные человеком цели или скрывать информацию от проверяющих. Отдельные ограничения касаются особо опасного применения, безопасности детей и вредоносного массового воздействия на людей.

Для пользователя смысл этих требований понятен: помощник должен оставаться управляемым, даже когда получает сложное задание и доступ к рабочим инструментам. Однако опубликованный кодекс пока является проектом. Он закрепляет намерения и будущие критерии оценки, а его наличие само по себе ещё не доказывает безошибочность моделей.

Глава Anthropic предложил проверять безопасность изнутри компаний

На этой неделе обсуждалось эссе руководителя Anthropic Дарио Амодеи We Must Pace the Frontier. Его предложение — соотнести скорость развития наиболее мощных моделей со временем, необходимым для проверки их безопасности.

Первым шагом Амодеи называет постоянный доступ независимых оценщиков к работе ИИ-компаний. Такие специалисты должны изучать не только готовую нейросеть, но и процессы её обучения, соблюдение обязательств и сведения об инцидентах. Anthropic заявила, что принимает на себя обязательство организовать такую проверку.

Следующие шаги предполагают согласование стандартов между компаниями и международное сотрудничество. Это предложение главы компании, а не уже действующее общее правило для отрасли. Сам Амодеи отдельно поясняет: речь идёт о более взвешенном темпе разработки, позволяющем укреплять защиту и проверять её результативность.

В России вновь обозначили два уровня обучения работе с ИИ

В российской образовательной повестке новости ИИ за неделю связаны с подготовкой специалистов. 14 сентября министр науки и высшего образования Валерий Фальков сообщил о планах предусмотреть в новой модели высшего образования два модуля по искусственному интеллекту: базовый и профессиональный.

Такой подход разделяет общую грамотность и использование технологии в конкретной специальности. Студенту важно понимать возможности и ограничения нейросетей, а затем осваивать инструменты, которые пригодятся именно в его работе.

Также готовится федеральная программа повышения квалификации преподавателей. Сроки её запуска в сообщении не названы. Пока это направление образовательных изменений, поэтому говорить, что единые новые занятия уже начались во всех вузах, преждевременно.

Российские ИИ-проекты получили особые условия конкурсной поддержки

14 сентября было объявлено о начале приёма заявок на грантовое софинансирование особо значимых проектов по замещению зарубежных ИТ-решений. Для разработок с российскими технологиями искусственного интеллекта предусмотрены приоритетные условия; заявки принимаются до 19 октября.

На странице Российского фонда развития информационных технологий указано, что собственное софинансирование соответствующих ИИ-проектов должно составлять не менее 20%, тогда как для иных участников — не менее 50%. Получателем выступает российское юридическое лицо — заказчик проекта, отвечающее условиям отбора.

Это конкурсная поддержка разработки, доработки и внедрения конкретного программного решения. Для бизнеса здесь важна связь технологии с практической задачей: проекту предстоит пройти отбор и выполнить установленные требования.

За этими событиями просматривается изменение самого разговора об искусственном интеллекте. Наряду с возможностями моделей обсуждаются полномочия, проверка и подготовка людей, которым предстоит с ними работать. Пользователю нужен помощник, чьи действия можно понять и исправить; преподавателю — осмысленная программа обучения; бизнесу — результат, который выдерживает проверку практикой.