В Генпрокуратуре предложили разделять ответственность разработчиков и пользователей ИИ
Искусственный интеллект сам не несет ответственности за принятые с его помощью решения, поэтому необходимо четко разграничивать ответственность разработчика системы, организации, которая ее внедрила, и человека, который использовал результат. На это указал начальник отдела по надзору за исполнением законов в сфере информационных технологий Генпрокуратуры Олег Кипкаев 29 сентября на круглом столе в Совете Федерации.
Кипкаев считает, что нельзя допускать ситуации, когда человек формально отвечает за решение, но фактически не имеет возможности его изменить. Это особенно важно, если решение затрагивает права человека или организации. Он отметил, что для таких случаев необходимы требования прозрачности, объяснимости и контролируемости использования технологий. Если ИИ участвует в решении, имеющем юридические последствия, должно быть понятно, какую роль он сыграл и кто несет ответственность за результат.
При этом регулировать любое использование ИИ одинаково не нужно.
«Одно дело — помочь найти документ, перевести текст или подготовить черновик, а другое — когда система оценивает человека, определяет степень риска, влияет на услуги, выплаты, допуски, разрешения или принятие юридически значимого решения», — подчеркнул Олег Кипкаев.
По мнению представителя Генпрокуратуры, регулирование должно смещаться к вопросам, для чего используется ИИ, насколько он влияет на решение человека, что произойдет в случае ошибки и имеет ли человек реальную возможность проверить вывод системы и не согласиться с ним. Именно на эти вопросы, считает Кипкаев, в ближайшее время придется отвечать законодательству.
Читайте также:
• Анатолий Вассерман рассказал, как победить в информационной войне • Искусственный интеллект выходит из-под контроля: мир ищет правила игры
