Минцифры хочет ограничить ИИ в принятии решений в социально значимых сферах
Источник: Известия
Минцифры разрабатывает законопроект, который направлен на сохранение решающей роли человека при применении искусственного интеллекта (ИИ) в общественно значимых сферах. Об этом 13 февраля пишет «Известия».
Согласно законопроекту, ограничить ИИ в принятии решений хотят в сфере здравоохранения, судопроизводства, образования и общественной безопасности. Как отметил член Комитета Госдумы по информационной политике, информационным технологиям и связи Антон Немкин, отсутствие требования о решающей роли человека при использовании ИИ несет системные риски. По его словам, речь идет об угрозах дискриминации и алгоритмических искажений в случае, если модель обучена на неполных или предвзятых данных. Кроме того, непонятно, кто отвечает за возможные ошибки: разработчик, оператор или государство. Также решения, влияющие на судьбу россиян, могут начать восприниматься ими как автоматические и безапелляционные, что повлечет за собой снижение доверия граждан к цифровым сервисам.
Документ разрабатывается с учетом предложений профильных ведомств и должен быть направлен на согласование в Правительство РФ к концу февраля. Между тем в аппарате кабмина уже начался эксперимент по внедрению ИИ. Нейросети используют для генерации документов, анализа данных, подготовки справок и семантического разбора нормативных актов.
Ранее в феврале стало известно, что используемый в медицинском оборудовании ИИ может нанести вред пациентам. Отмечается, что не менее 10 человек получили травмы в период с конца 2021-го по ноябрь 2025 года. Как оказалось, в большинстве случаев это могло произойти из-за ошибки навигационной системы TruDi, которая давала хирургам неверную информацию о местоположении инструментов во время операций на головах пациентов.
Между тем СМИ сообщали, что Госдума подготовила законопроект, в котором впервые будут законодательно закреплены требования и обязанности всех участников рынка робототехники, а также БПЛА. В законопроекте хотят учесть весь жизненный цикл продукции. Комментируя инициативу, первый заместитель председателя Комитета Совета Федерации по конституционному законодательству и госстроительству Артем Шейкин заявил, что этот законопроект должен помочь избежать ситуаций, когда риски размываются между участниками и никто не отвечает за нарушения и инциденты.
Читайте также:
• Искусственный интеллект используют при оценке и сохранении лесов в России • В России сформируют оперштаб по развитию ИИ
Ещё материалы: Антон Немкин
