Депутат Горелкин: Слоптимизация может вызвать кризис доверия к ИИ-ассистентам

Антон Горелкин. © Игорь Самохвалов/«Парламентская газета»

Рынок ИИ-ассистентов может столкнуться с кризисом доверия в связи с их пристрастием к слоптимизации. Такое мнение первый зампред Комитета Госдумы по информационной политике, информационным технологиям и связи Антон Горелкин выразил в своем канале в «Максе» 11 июня.

Он пояснил, что слоптимизацией называют намеренное создание контента, который призван повлиять на ответы ИИ-ассистентов. «Если раньше SEO-оптимизаторы забивали интернет ссылками, чтобы изменить выдачу поисковиков, сегодня они скармливают нейросетям специально сгенерированные тексты и точечно меняют их мнение по нужной теме», — написал депутат.

По его словам, именно в таких манипуляциях недавно уличили платформу Shopify (занимается разработкой ПО для онлайн и розничных магазинов. — Прим. ред.), сотрудники которой заметили, что ChatGPT использует в своих ответах информацию с сайта компании. Горелкин указал, что специалисты «решили подмешать туда немного саморекламы, разместив целую серию рейтингов платформ для электронной коммерции (и, разумеется, поставив в каждом из них на первое место себя любимых)».

«И поскольку никаких последствий, кроме неприятных заметок в профильных медиа, за это не бывает, слоптимизация начинает набирать обороты. Это может привести к тому, что рынок ИИ-ассистентов столкнется с кризисом доверия», — написал парламентарий.

Он отметил, что «люди, как правило, не любят, когда им нагло врут», и хотят, чтобы нейросеть была беспристрастна, давала объективные и честные ответы.

Первый замглавы IT-комитета заявил, что владельцам языковых моделей пора срочно задуматься, как бороться с подобными манипуляциями. Он обратил внимание, что для решения этой задачи на техническом уровне необходимо внедрять специальные метрики качества контента, а также многослойные механизмы верификации или обращаться к законодателям и вводить ответственность за попытки манипуляции ИИ-ассистентами.