Сегодня председатель Госдумы Вячеслав Володин заявил, что в ближайшее время депутаты займутся регулированием взаимоотношений людей с роботами. Робототехника, искусственный интеллект уже вошли в нашу повседневную жизнь и требуют «узаконивания». Мы поговорили с Андреем Незнамовым, руководителем Исследовательского центра проблем регулирования робототехники и искусственного интеллекта, кандидатом юридических наук, о том, как будет регулироваться робототехника в России. Читайте о том, как изменится законодательство, на опыт каких стран следует опираться и о том, почему нерегламентированная работа искусственного интеллекта может привести к необратимым последствиям.
— Кто еще занимается проблемами права в сфере робототехники в России? Ваш исследовательский центр и Dentons — единственные?
— Я знаю наверное с десяток человек, которым интересно заниматься вопросами регулирования робототехники. Но сказать, что прошли серьезные подвижки в этой сфере, пока, пожалуй, рано. С другой стороны, в рамках Программы развития цифровой экономики в РФ до 2025 года создана тематическая рабочая группа, посвященная киберфизическим системам, в том числе роботам. В ней собралось много юристов из разных компаний, вместе мы обсуждаем и вопросы регулирования робототехники.
Программа — это масштабный проект, направленный на реформирование экономики. Она была утверждена Правительством РФ в июле этого года. В Программе основными сквозными цифровыми технологиями являются большие данные; нейротехнологии и искусственный интеллект; системы распределенного реестра; квантовые технологии; новые производственные технологии; промышленный интернет; компоненты робототехники и сенсорика; технологии беспроводной связи; технологии виртуальной и дополненной реальностей. Таким образом робототехника — это одна из нескольких сфер, в которых нас ждут большие изменения в ближайшем будущем.
Долгое время тема регулирования робототехники и искусственного интеллекта в России практически не поднималась. Всплеск активности начался в конце 2016 года. На мой взгляд, этому существенно способствовал проект внесения изменений в Гражданский кодекс РФ, который в 2016 году подготовили для известного предпринимателя, председателя совета директоров MAIL.RU Group Дмитрия Гришина Виктор Наумов и Владислав Архипов из Dentons. Это первый в России (и один из первых в мире) проект регулирования разумных роботов. После этого тема не раз поднималась в СМИ.
— Каковы первоочередные задачи Центра? Что уже сделано?
— На данном этапе наша основная задача — не просто готовить проекты актов. Да, мы этим занимаемся, сейчас работаем над проектом стратегии государственного развития робототехники вместе с Национальной ассоциацией участников рынка робототехники. Такие стратегии есть во многих странах мира, лидеров в этой сфере.
Поэтому одной из первоочередных задач мы видим изучение иностранного опыта и актуализацию, донесение этого опыта до нашей страны, наших экспертов, участников рынка.
К сожалению, мало кто знает, насколько проработана проблематика робототехники и ее регулирования в других странах. Мы изучаем все, что происходит в сфере, переводим знаковые документы на русский язык и публикуем их; сделали большие переводы и публикации по Южной Корее и ЕС, например.
Кстати, скоро мы планируем опубликовать перевод эстонского закона о регулировании роботов-курьеров. Эстония — довольно развитая страна с технологической точки зрения. Они одни из первых приняли закон, который регламентирует возможность доставки грузов автономными роботами. Эти роботы похожи на небольшие коробки, они передвигаются по тротуарам и аккуратно объезжают прохожих. Уже — будущее!
Эстонский опыт: популярность робототехники выросла на 250%
— Насколько на ваш взгляд на данный момент проработана юридическая база для будущих законов в мире? Как уже существующие законы (принятый в Корее, например, в Европарламенте) смогут повлиять на российские законы?
— Прямо сейчас мы находимся в самом разгаре этого процесса. Государственные концепции регулирования уже есть, но они, как правило, посвящены не только нормативному регулированию, а обозначают направления, в которых страна должна развиваться. Но почти в каждой концепции есть раздел, посвященный изменениям правовой системы. На основании этого точечно начинают меняться какие-то законы или принимаются большие рамочные законы. Сейчас мы видим такую тенденцию во всех странах мира. В авангарде основных направлений — беспилотные автомобили или говоря формально, высокоавтоматизированные транспортные средства, а также беспилотные летательные аппараты. Это актуальнее всего сейчас.
Существует огромный пласт правовых норм, так или иначе связанных с развитием робототехники, на которые обычно не обращают внимания. Например, связь, персональные данные, инфраструктура — все это тоже требует особой регламентации. В разных странах эти вопросы находятся на разных этапах решения. Японцы еще в 2015 году определили список ключевых законов, которые необходимо поменять, и постепенно это делают. В России мы пока находимся на другом уровне. У нас проблематика робототехники и искусственного интеллекта стала актуальной в последние год-полтора.
Вообще все страны можно условно разделить на три группы. Эти группы различаются спецификой правовой системы: азиатские страны (в первую очередь, Южная Корея, Япония), европейский регион (страны-лидеры в робототехнике — Германия, Франция, Италия) и США.
В США сильно прецедентное право. Поэтому, когда поднимается вопрос о том, как надо регулировать роботов, предлагается применять с десяток прецедентов разного времени из разных штатов, которые могли бы быть применимы, например, к происшествиям с участием роботов. По крайней мере, в этом убеждены американские коллеги – юристы. Тем не менее в США постепенно принимают федеральные нормы. Одна из последних –принятая в в сентябре 2016 года Федеральная политика в сфере автоматизированных транспортных средств». Такие автомобили, особенно Tesla, быстро распространяются именно в Штатах, поэтому этот акт очень актуален.
Правовая система России намного ближе к европейской, чем к американской и азиатской. Азиатская система вообще неоднородна, как бы соткана сразу из нескольких систем. В отношении права мы ориентируемся на опыт Европы, прежде всего, Германии. Немецкая правовая система наиболее близка российской и по структуре, и по духу. И все-таки, конечно, своя специфика, отличная от отечественной, в Европе есть.
Поэтому мы говорим о том, что можно изучить опыт других стран, можно его частично перенять, но копировать дословно не получится — нам нужны собственные юридические разработки.
Единственная сфера права, где работает такое дословное международное «копирование» — это стандартизация. Россия — участник рабочих групп ISO, Международной организации по стандартизации, которая разрабатывает международные регламенты. Уже сейчас в России действует несколько таких ГОСТов в сфере робототехники, которые являются дословным переводом общих стандартов.
— Есть ли запрос со стороны наших законодательных органов о регулировании робототехники?
— Да. И именно в этом году — очень большой запрос. Я не помню, чтобы когда-либо тема регулирования робототехники была настолько актуальна. Практически каждую неделю в прессе появляется информация о тех или иных инициативах, связанных с нормативным регулированием разных аспектов киберфизических систем.
— Как происходит “узаконивание” новых реалий, таких, как роботы и ИИ?
— На мой взгляд, регулирование должно быть комплексным, четырехступенчатым. В основе — государственная концепция развития робототехники, где один из разделов посвящен правовой реформе.
На втором уровне — принятие законодательных основ регулирования, например, федеральный закон о робототехнике. На этом уровне определены базовые принципы регулирования отрасли для того, чтобы она могла развиваться. Цель основ — не ограничить, а создать все условия, чтобы в любом спором вопросе правовые коллизии могли бы по возможности решаться в пользу развития, а не, наоборот, тормозить инновации.
Третий уровень — это пакетные изменения в конкретных отраслях: транспорт, сервисные роботы, и т.д.
И четвертый уровень — подзаконные акты, т.е. акты самого непосредственного действия. Возьмем к примеру высокоавтоматизированный автомобиль: для того, чтобы регламентировать правила его использования на улицах наших городов, нужно внести принципиальные изменения в целый ряд актов, и в том числе скорректировать то, как это будет работать на уровне регламентов госорганов — Ростехнадзора, МВД и т.д.
Правда, из этой четырехступенчатой концепции несколько выбиваются дроны и беспилотные автомобили –возможно, их нужно регулировать уже сейчас, не дожидаясь внесения изменений на первых уровнях – уж очень актуальна тема.
— Одним из первых объектов регулирования стали дроны (беспилотные летательные аппараты — БЛА). В Европе уже сформированы довольно четкие правила пользования коптерами. Как вы оцениваете эту базу?
— База действительно довольно хорошая. В ряде европейских стран приняты законы, регламентирующие использование БЛА. Это отвечает требованиям рынка. В России мы немного отстаем от этих темпов, потому что у нас БЛА еще не так развиты, у нас они чуть позже появились и получили пока не такое активное применение. Но я думаю, что в самое ближайшее время, в течение 12 месяцев вероятнее всего, в России тоже будут приняты законы о беспилотниках. Уже было внесено несколько поправок: в июле этого года, например, была небольшая правка в Воздушный кодекс, направленная на организацию государственного учета БЛА с максимальной взлетной массой от 0,25 килограмма до 30 килограммов.
Я бы сказал, что в разработке норм для БЛА мы немного даже опаздываем, а вот применительно к автоматизированному транспорту скорее находимся в тренде. Чтобы поощрить его использование на территории России нам желательно как можно скорее оптимизировать законодательство.
Вперед и вверх: дроны осваивают мир
— Налог на промышленных роботов (инициатива политика из США) — наше скорое будущее? Как вы считаете, будут ли облагаться налогами медицинские, социальные и образовательные роботы
— Мне кажется, что налоги на роботов — это вопрос отдаленного будущего. Облагать налогом роботов сейчас только за сам факт того, что они – роботы, это значит остановить их развитие. А в будущем, когда робототехника будет более развита, этот вопрос будет стоять довольно остро.
Ведь уже сейчас эксперты высказываются о том, что роботы все-таки заберут работу у многих людей. Соответственно, высказываются предложения, чтобы роботы максимально способствовали общему благу, в том числе и через особую систему налогообложения. Но пока нужно максимально освобождать робототехнику от налогового регулирования, чтобы не тормозить ее развитие. Так, во многих странах освобождают от налогов транспорт на электрической тяге, создаются льготные условия для разработчиков компонентов роботов и т.д. Думаю, что мы пойдем (и уже идем) по похожей дороге.
— Насколько вы согласны с Азиломарскими принципами Искусственного Интеллекта?
— Я считаю, что проблема искусственного интеллекта в нашей стране действительно недооценивается. Она очень актуальна за рубежом уже на протяжении 5-6 последних лет. В США существует целое сообщество экспертов, которые считают, что разработки в сфере искусственного интеллекта невероятно опасны и несут экзистенциальный риск для человечества; с ними нужно быть предельно осторожными.
Поддержу их мнение: искусственный интеллект кажется опаснее, чем ядерное оружие. Я согласен с Илоном Маском, который назвал ИИ “самым большим риском, с которым сталкивалось человечество”.
Разработка мощного ИИ, который бы мог причинить человечеству вред — это вопрос ХХI века. Появится ли он в ближайшие годы или десятилетия — вопрос открыт.
Но нужно понимать, что искусственному интеллекту не нужно развиваться до уровня человека, чтобы навредить нам. И мы не знаем всех возможностей ИИ даже сейчас. Простой пример — самообучаемый суперкомпьютер Watson от IBM, который обыграл человека в “Свою игру”. В этой игре, в отличие от, скажем, шахмат, чтобы выиграть, нужно уметь видеть и понимать игру слов, каламбуры, тонкости языка. Когда у разработчиков спросили, как это получилось, они отвечали “Мы не знаем”.
К сожалению, часто попытка правовой регламентации начинается тогда, когда происходит что-то плохое. В случае с искусственным интеллектом что-то плохое может произойти один раз — и навсегда.
Но сам по себе какой-то закон вряд ли сможет остановить опасность, нужен целый ряд мер. Так что, если мы хотя бы перейдем от игнорирования проблемы к ее обсуждению, принятию каких-то принципов, это постепенно приведет к тому, что государства мира также осознают опасности искусственного интеллекта.
— Актуальны ли сегодня (или когда они станут актуальными) три закона робототехники Азимова?
— Эти законы, на мой взгляд, интересны только тем, что эти простые правила, известные большинству людей, и они объясняют, как взаимодействовать с роботами. При этом люди ожидают от роботов каких-то высоко интеллектуальных действий, которые, например, описывал Азимов. Но роботы, способные принимать сложные серьезные решения — дело далекого будущего.
Когда говорят об Азимове, обычно ограничиваются только этими тремя законами:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Существует и нулевой закон — о непричинении вреда человечеству.
Но за кадром остаются «потенциалы» законов в голове Азимовских роботов. Они предполагают, что роботы умеют осуществлять невероятно сложный выбор в зависимости от того, потенциал какого из законов сильнее. Вот это пока не кажется очень реальным. Современные роботы, беспилотный транспорт, пока еще далеки от того, чтобы самостоятельно принимать решения и столкнуться с какими-то этическими проблемами, о которых также писал Айзек Азимов. Пока роботы только следуют инструкциям, которые в них заложили люди в соответствии со своими этическими принципами.
— Почему вы сами решили заниматься этой проблематикой?
— Я очень дружественно отношусь к новым технологиям. В 2010 году я защищал диссертацию по теме, связанной с правовыми проблемами функционирования Интернета. Сеть изменила нашу жизнь, и это очень важно. Но роботы перевернут весь мир. Так что для меня как для юриста это огромный и невероятно интересный вызов.
— Есть ли у вас роботы?
— Конечно! И сервисные, и образовательные. Мои дети играют и даже общаются с роботами. Вся квартира утыкана датчиками и управляется с телефона: практически “умный дом”. Так что у меня сфера научных интересов полностью совпадает с реальной жизнью.
Читать также: