В Генпрокуратуре указали на разрыв между регулированием ИИ и практикой

Принятый в России закон об искусственном интеллекте (ИИ) в основном регулирует использование больших фундаментальных моделей, тогда как на практике к работе ИИ возникает гораздо больше вопросов. Главный из них — что реально делает человек, когда подтверждает вывод системы. Об этом сказал 29 сентября начальник отдела по надзору за исполнением законов в сфере информационных технологий Генпрокуратуры Олег Кипкаев на круглом столе в Совете Федерации.

Он привел такой пример: информационная система анализирует сведения о человеке или организации, определяет риск и предлагает результат. Сотрудник нажимает кнопку, подписывает документ, и решение считается принятым человеком. Однако, по словам представителя надзорного ведомства, необходимо понять, проверил ли человек вывод системы, изучил ли исходные данные, самостоятельно ли оценил обстоятельства и мог ли вообще не согласиться с машиной. Если участие сотрудника сводится к нажатию кнопки «подтвердить» — это принципиально иная правовая ситуация.

«Деления систем на две группы — где решает машина и где решает человек — уже недостаточно, поскольку между этими крайностями существует множество промежуточных вариантов», — указал Олег Кипкаев.

Он также подчеркнул, что, если решение машины затрагивает права человека или организации, должна сохраняться возможность восстановить весь процесс его принятия, то есть понять, какая система использовалась для этого, какие сведения в нее поступили, какой результат она сформировала и что после этого сделал человек. При этом раскрывать программный код или внутреннее устройство модели необязательно: для юриста важнее понимать, какие данные учитывались, какой вывод дала система и насколько этот вывод повлиял на итоговое решение.