В России появится закон для роботов
Фото КОММЕРСАНТЪ
Пришло время начать системное обсуждение данной темы, чтобы выработать соответствующие законодательные позиции, заявил председатель Госдумы Вячеслав Володин. Разработка информационного права — абсолютно новая область, в которой еще только предстоит определиться с понятиями. В том числе с такими, как «робот», «искусственный интеллект», «блокчейн», «бигдата», «криптовалюта» и т.д.
ГОРЕ ОТ УМА
«Страна, добившаяся лидерства в создании искусственного интеллекта, будет властелином мира». Эти слова Владимира Путина показывают понимание того, что развитие данного направления несет человечеству как колоссальные возможности, так и трудно прогнозируемые пока угрозы. В том числе и такую: не станет ли владыкой мира не страна и даже не человек, а искусственный интеллект?
В массовом сознании интерес к проблеме возник с выходом в 2001 году фильма Стивена Спилберга «Искусственный разум», мрачной антиутопии о будущем человечества. Прошло каких-то полтора десятка лет, и о потенциальных угрозах развития искусственного интеллекта заговорили капитаны большого бизнеса, в частности в США — основатель компании «Тесла» Илон Маск, в России — глава Сбербанка Герман Греф.
Речь о том, чтобы не только узаконить уже созданное, но и обеспечить условия для развития ИТ-отрасли, чтобы отечественные программисты и разработки не уезжали за рубеж. В этом году при председателе Госдумы образован Совет по законодательному обеспечению развития цифровой экономики. Сам термин родился 22 года назад в США. Сегодня под ним понимается виртуальная среда, дополняющая нашу реальность. К 2020 году количество подключенных к Интернету устройств достигнет 50 миллиардов. ИТ-технологии все шире применяются в медицине, транспорте, образовании, при передаче информации, продаже медиаконтента (кино, ТВ, книги) и т.д.
Наша страна, по словам спикера нижней палаты, может считать себя в тройке лидеров по информационным технологиям. У нас второе место в мире по дешевизне услуг сотовой связи. Есть «Яндекс», социальные сети, платформы, да и мессенджер Telegram создан российским гражданином. В ближайших планах Минкомсвязи России проведение широкополосного Интернета во все населенные пункты с числом жителей более 250 человек. Один из основателей отечественной IT-индустрии Игорь Ашманов подтверждает: «Доминировать в мире в области цифровых технологий и информационной безопасности могут только три страны — США, Россия и Китай, три реальные сверхдержавы».
Вячеслав Володин подчеркнул, что скорость развития российского профильного законодательства не должна уступать темпам роста самой цифровой экономики. В портфеле палаты, сообщил он, имеются законодательные предложения, которые позволят обеспечить ее эффективное развитие.
К 2022 году, по прогнозам, в Европе появится законодательство, регламентирующее отношения человека и робота, а также развитие искусственного интеллекта»
ЧЕЛОВЕК — САМ КУЗНЕЦ СВОЕЙ НАКОВАЛЬНИ
Любое новое явление, особенно если его внутреннюю суть способны понять лишь немногие, и то не до конца, несет не только благо, но и риски для самого человеческого рода. Только что в мировых столицах рассосались очереди у магазинов, продающих айфон 10. Последняя эппловская модель воспринимается потребителем как острие технического прогресса.
Смартфон, напомню, переводится как «умный телефон». Это персональный компьютер в кармане, открывающий выход в Интернет со всеми вытекающими отсюда возможностями. И доступен он большинству жителей планеты. Едва научившись ходить, дети приникают к электронным гаджетам. А потом эксперты жалуются на формирование у них клипового мышления. Оно — прямой результат воздействия на нас окружающей цифросреды.
На смену поколению «некст» пришло поколение «гомопадов» (гомо сапиенс плюс айпад/айфон). «У них интеллектуальный центр находится вне головы, а именно в электронном гаджете, где они ищут решение любой своей проблемы», — с горьким сарказмом замечает известный исследователь проблем эволюции мозга, сотрудник НИИ морфологии человека, профессор Сергей Савельев. Современные школьники запоминают меньше, чем их родители и дедушки с бабушками. А зачем? Все есть в Интернете. Но это говорит о том, что их интеллект уже становится немного искусственным, заключает ученый.
Любопытно, что именно в этом году писатель Виктор Пелевин выпустил свой роман «iPhuck 10». Это повествование о дивном новом мире, где искусственный интеллект утвердился во всей красе. Его обитатели живут, работают, любят, черпают свои «компетентности» и получают допаминовую подмастырку из Сети, в которую возвращаются даже после смерти. Обретя фантастические технологические ресурсы, человек постепенно утрачивает себя как биологическую особь. Понятия «женщина» и «мужчина» из идентификаторов превращаются в метафору.
Главная героиня — Мара, дама с мужским «реквизитом», уже не представительница слабого пола, а киборг с рыночно озабоченным интерфейсом. Общество, почти достигшее бессмертия благодаря тому, что информационные копии людей могут жить вечно, устрашает. Человеческий персонаж отталкивает своей бездушностью и жестокостью. Ему противостоит другой главный герой — литературно-полицейский алгоритм, в котором, вот парадокс, больше «человеческого», чем в Маре. Он и вызывает сочувствие читателя.
Месседж, «продавленный» писателем, предостерегает: человек — сам кузнец своей наковальни. Совпадение или нет, но в день начала продаж айфона 10 известный британский ученый Стивен Хокинг, который сам живет и полноценно занимается научной деятельностью исключительно благодаря использованию современных технологий, вновь заявил об угрозе для человечества от стремительного развития искусственного интеллекта.
Роботизация чревата вытеснением рабочих рук, что одновременно обернется снижением уровня зарплаты для остающихся работников»
И РАЗВИВАТЬ IT-ТЕХНОЛОГИИ, И ЗАЩИЩАТЬСЯ ОТ НИХ
Небольшое отступление. «Уже сегодня используются имплантаты, подключенные к Интернету для продления и улучшения качества жизни больного (например, если у пациента вместо сердца стоит технологическое устройство). Но есть и хакеры, — говорит IT-предприниматель и аналитик Елена Ларина. — Взломав Сеть, соединяющую с медцентром, они способны просто отключить имплантат и убить человека».
Искусственный интеллект — это набор методов оптимизации и распознавания, позволяющих компьютеру имитировать деятельность человека. Правда, пока лишь в рамках замещения его функций машинными алгоритмами. Технический прогресс невозможно отменить, но можно пытаться им управлять. И не по мере поступления проблем, а по мере их предвосхищения. На сентябрьском расширенном заседании «цифрового Совета» председатель Госдумы назвал в числе приоритетов законодательной работы депутатов вопросы развития искусственного интеллекта и робототехники. Цель — помогать развивать IT-технологии и одновременно защищать граждан от нарушения их прав.
Что это за вызовы? Роботизация чревата вытеснением рабочих рук, что одновременно обернется снижением уровня зарплаты для остающихся работников. Возникнет проблема трудоустройства высококвалифицированных кадров. Пострадает не только производство, но и сфера белых воротничков. Под угрозой находятся специалисты банковской сферы (их заменяет электронный банкинг), бухгалтеры, юристы, на подходе налоговики. Новые технологии (цифровые валюты, применение блокчейн-платформ для сделок) будут оказывать влияние на стабильность и безопасность финансовой инфраструктуры.
Роботы уже делают хирургические операции, пусть пока и в демонстрационном режиме, но лиха беда начало. Искусственный интеллект, то есть машина, может принимать решения в рамках жестких алгоритмов и законов. Например, быть судьей. Политики задумываются о том, нельзя ли, не тратя средства на выборы, формировать мнение о депутатах на основе «лайков» в соцсетях? Звучит как анекдот, но в наше время все возможно.
Аналитики разведки США прогнозируют, что в ближайшую четверть века Интернет, эволюционируя из дружественного в деструктивное пространство, превратится в инструмент разрушения ценностей и поле глобальной информационной войны. Уже появилось явление «фейк-новости», вводится в оборот термин «постправда» как характеристика основного контента сегодняшней всемирной Сети. Да, ты в ней можешь найти любую информацию, но ты никогда не можешь быть уверен, что она правдива.
Вызов и в том, что автоматизация и искусственный интеллект способны изменять экономику быстрее, чем система управления и сам человек адаптируются к переменам. Конечно, разрушение традиционных рынков труда и изменение типа экономического развития произойдет не завтра. Но это неизбежно. В конце концов, новые технологии заставят задуматься над фундаментальным вопросом: как остаться человеком?
СТЕПЕНЬ СВОБОДЫ И ДОВЕРИЯ АЛГОРИТМУ
Из заложенных в смартфоне функций, как известно, даже самый продвинутый юзер использует лишь 10 процентов. На бытовом уровне остальные ему или не нужны, или он даже не подозревает об их существовании. У меня айфон не последней свежести. Недавно случайно заглянув в опцию геолокации, обнаружила подробный отчет за последние два месяца с указанием адресов мест посещения, времени и точного их числа.
А помните, как Стив Джобс подарил тогдашнему президенту Медведеву айфон 4? Конечно, его проверили специальные люди, но гаджеты обычных людей продолжают исправно собирать информацию о своих пользователях. Кто знает, когда и кому она пригодится? Ангелу Меркель прослушивали потому, что у нее телефон американского производства, а ведь тоже, наверное, аппарат был проверен.
Именно поэтому гендиректор группы компаний InfoWatch Наталья Касперская предлагает ввести в оборот понятие «кибербезопасность». Ее обеспечение нужно как для защиты государственной инфраструктуры, так и для сохранения личных данных граждан. Факт собирания смартфонами, смарт-ТВ, смарт-игрушками данных об их владельцах чреват риском использования этой информации недобросовестным образом. Она может быть продана или оказаться в распоряжении опасных лиц.
Эксперт убеждена, что информация о всех гражданах должна защищаться государством так же, как, например, недра. Сама постановка вопроса, немыслимая еще с десяток лет назад, говорит о том, что мы находимся в совершенно новой реальности.
Основную законодательную проблему, по словам депутата, составляет степень автономности искусственного интеллекта и соответственно: кто и в какой мере должен отвечать за его решения — создатель, владелец, пользователь?
«Например, мы все гордимся отечественным поисковым роботом — компания «Яндекс» образцово выполняет законы, — продолжает он. — При этом поисковик не принимает совершенно автономных решений, от которых зависит жизнь и благополучие людей. Даже в вопросах, связанных с созданием поисковой выдачи, участвуют люди-асессоры (эксперты. — Прим, ред.), а компания-владелец несет ответственность за действия робота как за действия своих сотрудников».
КТО ЗА ЭТО ОТВЕТИТ?
Выход робота из-под контроля человека — частое допущение в произведениях писателей-фантастов. Но вот уже пример из реальности. Специалисты отдела по исследованию возможностей искусственного интеллекта компании «Фейсбук» в июне 2017 года обнаружили, что чатботы, изначально созданные для общения с живыми людьми, начали общаться между собой на понятном создателям языке. Данную систему в целях безопасности пришлось отключить.
Так что искусственный интеллект — это не то, что когда-то к нам придет. Проверка правописания, поиск в «Яндекс» или «Гугл», подбор слова в процессе написания СМС по телефону, реклама на просматриваемых нами интернет-сайтах, наконец выстраиваемый рейтинг предлагаемых новостей — это тоже он.
В случае с поисковым роботом речь идет хоть и об очень опасных вещах, например, по закону об актуальной информации или в случаях противодействия терроризму, — замечает Леонид Левин, — но все же, как правило, не требующих мгновенного решения. А вот с роботом-водителем человек рядом сидеть не будет. Широкое развитие беспилотных автомобилей потребует не только новелл в Правилах дорожного движения, но и уточнения самого понятия водителя транспортного средства и его ответственности.
Роботизация чревата вытеснением рабочих рук, что одновременно обернется снижением уровня зарплаты для остающихся работников»
«В настоящее время российский парламент изучает эти и другие вопросы, возникающие в связи с необходимостью легализовать искусственный интеллект, — рассказывает глава профильного комитета Госдумы. — Робота ставят на такие места, где требуется обеспечение мгновенного решения в ситуации, когда живой исполнитель (человек) даже при наличии времени на обдумывание решения может ошибиться. Думаю, что пресловутая задачка для робота-водителя «кого задавить — детскую коляску или остановку с десятью взрослыми?» уже известна всем. Такие задачи вполне реальны».Не менее сложные проблемы морального плана возникают в ситуациях с роботом-юристом (тем более судьей) или роботом-врачом. Депутат обращает внимание, что граждане в среднем склонны больше доверять искусственному интеллекту, чем человеку (за рубежом уже не только обращаются к нему со своими психологическими проблемами — популярностью пользуются даже роботизированные судебные решения). Отсюда легко понять, насколько серьезный ущерб может принести ошибка машины.
«Кто будет возмещать этот ущерб, кого наказывать с целью исключить аналогичные события в дальнейшем? Не сомневаюсь, что нам удастся найти решение, которое обеспечит нашей стране возможность динамичного развития при соблюдении прав граждан и обеспечении защиты их благополучия», — заключает Леонид Левин.
ХРАНИТЬ ЦИФРОВОЙ СУВЕРЕНИТЕТ КАК ЗЕНИЦУ ОКА
Как только появляется новая технология, она сразу используется в трех областях: военной, гражданской и криминальной. Цифровая среда порождает два типа войн — информационные (воздействие на сознание) и кибервоздействие, направленное прежде всего на выведение из строя информационной инфраструктуры — значимая часть стратегии национальной безопасности. «Если у тебя нет цифрового суверенитета, у тебя отберут и обычный: экономический, дипломатический и военный», — говорит Игорь Ашманов. В НАТО собираются, а в США уже приравняли кибератаку к обычной атаке «горячим» оружием. Теперь она может явиться поводом для настоящей «горячей» войны.
«Многие из нас давно пользуются «умными» вещами, перешли на дистанционную оплату услуг и покупку товаров. Информационно-коммуникационные технологии и робототехника активно внедряются в медицине, связи, автомобилестроении, энергетике, финансовой сфере. В каждом из этих случаев используются большие базы данных, в том числе персональных данных», — подытоживает зампред Комитета Совета Федерации по конституционному законодательству, председатель Временной комиссии по развитию информационного общества Людмила Бокова.
Но сегодня нормативно-правовой базы, непосредственно относящейся к сфере искусственного интеллекта в нашей стране, не существует. Как и во всем мире. Искусственный интеллект пока не является субъектом права. На законодательном уровне не определено само понятие. Мы говорим лишь о все большем проникновении цифровых технологий в привычные сферы человеческой деятельности. Поэтому разработка правовых норм регулирования использования искусственного интеллекта является одним из перспективных направлений законотворчества.
Цифровая среда порождает два типа войн - информационные (воздействие на сознание) и кибервоздействие»
По мнению Людмилы Боковой, главным риском использования цифровых технологий сегодня и искусственного интеллекта в будущем является внешнее вмешательство в процесс хранения и обработки данных, потеря контроля над этим процессом. А значит, основным принципом законотворчества в этой области должно стать обеспечение информационной безопасности. Принятие профильной доктрины дало мощный импульс для совершенствования ее нормативно-правовой базы. Россия имеет все шансы войти в число мировых лидеров в создании искусственного интеллекта и не допустить, чтобы эта монополия была сосредоточена в чьих-то конкретных руках. И в отличие от некоторых, как сказал глава государства, в случае успеха готова поделиться новыми технологиями со всеми.
7092
Ещё материалы: Владимир Путин, Вячеслав Володин , Леонид Левин, Людмила Бокова
