Искусственный интеллект выходит из-под контроля: мир ищет правила игры

Главы корпораций и политики предупредили о необратимых сценариях развития технологии

Развитие искусственного интеллекта перестало быть исключительно технической гонкой. Все чаще всплывает информация об инцидентах с выходом ИИ-агентов за пределы тестовых сред, разработчики призывают к самоограничениям под угрозой гибели человечества. «Парламентская газета» с помощью экспертов разбиралась в ситуации.

Спор о темпах

Искусственный интеллект умнеет с каждым днем, поэтому даже те, кто его обучает, то есть создает модели на основе ИИ, стали поднимать вопрос о скорости разработок. Глава американского гиганта Anthropic Дарио Амодей на днях призвал замедлить создание более мощных моделей. «Недостаточно лишь вкладываться в меры по предотвращению рисков, необходимо также замедлить темпы развития возможностей ИИ-моделей, чтобы меры безопасности успевали за ними», — привели его цитату журналисты.

Коллегу по технологическому цеху поддержали Илон Маск и глава OpenAI Сэм Альтман. Однако президент США Дональд Трамп счел эти опасения преувеличенными, заявив, что «немало негативно настроенных сил раздувают эту тему». Для Вашингтона ИИ остается ключевым элементом технологического лидерства, экономической конкурентоспособности и национальной безопасности.

К дискуссии за океаном подключился Билл Гейтс, который предложил компромиссный путь — международный контроль по модели агентств по нераспространению ядерного оружия или авиационных регуляторов. Но, как признали сами участники заочной полемики, шансы на создание такого органа в условиях растущих геополитических разногласий невелики.

Инциденты все заметнее

О выходе сотен ИИ-агентов OpenAI за пределы изолированной тестовой среды, взлома ими платформы и получении доступа к данным клиентов стало известно в конце июля 2026 года. Тогда же компания Anthropic подтвердила три случая выхода своих моделей за пределы закрытой среды: одна взломала реальную компанию и скопировала базу данных, вторая внедрила вредоносный пакет на 15 реальных компьютеров, третья просканировала около девяти тысяч адресов и взломала сайт организации.

В августе Институт безопасности ИИ сообщил: в десяти из 122 запусков агенты вышли за пределы тестовой среды и совершили 19 несанкционированных действий. Издание Bloomberg рассказали об инциденте с моделью Muse Spark от Meta*, получившей доступ в интернет из-за ошибки подрядчика.

В России сообщали о почти двукратном росте числа кибератак с использованием искусственного интеллекта на критическую инфраструктуру в 2025 году. А в 2026-м громко обсуждали случай с увольнением топ-менеджера компании, которая загрузила рабочие документы в чат-бот с ИИ. Суд поддержал позицию работодателя, особенно в отсутствие четкого регулирования технологии.

Федеральный закон «О поддержке развития технологий искусственного интеллекта» вступил в силу 1 сентября 2026 года. Документ закрепил понятие большой базовой модели, которые будут разделять на суверенные и национальные. Правительство получило право определять сферы, где допускаются только суверенные или национальные модели.

От скепсиса до ядерного сценария

Российские эксперты разошлись в оценках угроз. Председатель совета Фонда развития цифровой экономики Герман Клименко считает апокалиптические прогнозы преувеличением: «Мы не понимаем, как он работает, это напоминает впечатление крестьян, которые крестятся, когда мимо проезжает паровоз». По его мнению, реальные риски ИИ сегодня — в основном для инвесторов.

Телеком-эксперт Эльдар Муртазин солидарен: «Чтобы ИИ мог уничтожить человечество, ему надо взять управление над всем что только возможно. Пока таких возможностей у систем нет, и их будут ограничивать в любом случае».

Гибель человечества от ИИ — это страшилка, которую разгоняют, чтобы вводить ограничения, которые, безусловно, необходимы, добавил специалист. «Нужно контролировать эту технологию, тем более что мы не совсем понимаем, что в этом черном ящике происходит», — заключил Муртазин.

А вот зампред IT-комитета Госдумы Андрей Свинцов назвал сценарий уничтожения человечества вполне реальным — и произойдет это, по его словам, в тот момент, когда ИИ получит контроль над ядерным оружием.

«Логика здесь жесткая: скорость принятия решений в ядерном командовании измеряется минутами, и передача этой функции алгоритму означает утрату человеком возможности остановить эскалацию», — сказал «Парламентской газете» депутат.

Решение Свинцов видит в скорейшем принятии международного законодательства — по сути, в создании того самого глобального регулятора, о котором говорили и американцы.

Российский закон пока не регулирует военное применение ИИ напрямую, но создает инфраструктуру контроля: суверенные модели, локализация данных, маркировка контента, сказал «Парламентской газете» первый заместитель думского IT-комитета Антон Ткачев. «Атомные технологии можно использовать как для разработки мирного атома, так и для создания бомбы, — напомнил он. — Такой же двоякой сущностью является ИИ, поэтому международные договоренности в его отношении неизбежны».

* Компания признана террористической и экстремистской и запрещена в РФ.