Главы IT-компаний подписали соглашение по контролю за ИИ

Лидеры крупнейших американских технологических компаний подписали в Белом доме соглашение, обязывающее их усилить меры внутреннего контроля за ИИ-моделями. Об этом сообщает Associated Press.

Соглашение, получившее название «Соглашение Белого дома по суперинтеллекту», подписали Дженсен Хуанг из Nvidia, Грег Брокман из OpenAI, Дарио Амодеи из Anthropic, Сундар Пичаи из Google, Илон Маск, представляющий xAI, и Марк Цукерберг.

По словам президента США Дональда Трампа, участники встречи продемонстрировали высокий уровень самоконтроля и осознали необходимость соблюдать взятые на себя обязательства.

Документ представляет собой декларацию о совместных мерах по обеспечению безопасности разработок в сфере ИИ. Компании обязались отслеживать возможности своих моделей в процессе обучения, защищать системы от несанкционированного доступа и привлекать независимых аудиторов. Кроме того, разработчики намерены создавать внутренние команды и комитеты при советах директоров для устранения выявленных уязвимостей.

В документе предусмотрена возможность закрепления предложенных мер в законах или подзаконных актах, если в дальнейшем возникнет такая необходимость.

В тот же день Трамп подписал указ, предписывающий американским властям использовать термин «суперинтеллект» вместо «искусственного интеллекта» в официальных документах и публичных коммюнике. Как отмечается, новая формулировка призвана точнее отражать потенциал соответствующих технологий.