В первой части нашего исследования легитимации прав и обязанностей роботов был выдвинут тезис о том, что оптимальным вариантом регулирования деятельности робота является совмещение «smart-контракта» с блокчейном. «Smart-контракт» регулирует алгоритмические процессы, происходящие внутри машины, блокчейн помогает определить конкретное лицо, повинное в неполадке, приведшей к неправомерным действиям робота.
Тем не менее, определение вины за ущерб, причиненный роботом, не является единственной проблемой регулирования деятельность роботов. Очеловечивание роботов представляется не меньшей проблемой, чем робопреступность. Рассматривая данный вопрос, мы балансируем на тонкой грани права и этики. И если в этическом поле мы можем придерживаться нейтральной позиции, то право не терпит размытых формулировок.
По отношению к роботам есть две позиции: для удобства обозначим их как «правую» и «левую» (в соответствии с устоявшейся системой политических координат). «Роболевые» полагают, что юридическое уравнивание человека и робота – вопрос времени. По их мнению, современные подвижки в этом направлении (например, опубликованный в прошлом году Европарламентом доклад с рекомендациями по регулированию этико-правового статуса роботов) – начало большого пути, и с годами роботы будут получать всё больше и больше прав. Так, например, Кейт Дарлинг, исследователь Массачусетского технологического института, полагает, что социальных роботов следует наделить юридической защитой. Дарлинг утверждает, что лица, взаимодействующие с социальными роботами, вступают с ними в эмоциональную связь. Таким образом, по мнению исследователя, насилие над социальным роботом равносильно насилию над кошками и собаками, подлежащему уголовному наказанию. С одной стороны, с такой позицией можно согласиться с моральной точки зрения. Однако, если домашние животные, подвергающиеся жестокому обращению, испытывают страдания, то робот никаких чувств испытывать не может. Поэтому, если какое-либо государство или международная организация запретит насилие над социальными роботами, такую норму станет очередным «преступлением без жертвы», что негативно скажется на правовом процессе.
В свою очередь, подход «робоправых» к роботам более утилитарен. По их мнению, робот – это вещь, выполняющая волю своего хозяина (кстати, в праве США и ЕС робот отражен таким же образом). Соответственно, вещь не может обладать правами и нести ответственность за свои действия. Для «робоправого» суд над роботом также абсурден, как, например, суд над ножом, послужившим орудием преступления. Типичную позицию «робоправого» иллюстрирует следующее высказывание научного сотрудника Университета Бата (Великобритания) Джоанны Брайсон: «Нельзя говорить о роботах как о личностях, нельзя возлагать на них моральную или юридическую ответственность за свои поступки. Роботы целиком подчиняются людям, мы определяем их цели и поведение, прямо или косвенно. Очеловечивая роботов, мы лишь расчеловечиваем настоящих людей, а заодно потакаем сомнительным попыткам перераспределения ресурсов и обязанностей».
Идеи «Робоправых» нашли отклик и в России. В прошлом году в нашей стране появилось движение «Белковый шовинист», занимающееся популяризацией науки Важной чертой этого движения является то, что его участники активно выступают против гуманизации роботов. Вот что рассказал «Роботоведу» один из основателей «Белкового шовиниста» Михаил Кентский:
«Если робот — это физический носитель, то это просто компьютер. Если робот — это программа, то какие у нее права, когда она покоится на жестком диске, растиражирована на миллион жестких дисков? Программа – это алгоритм, инструкция. Ее можно распечатать на бумаге, она будет при этом субъектом? Как вы считаете, можно выполнять распечатанные инструкции с калькулятором и блокнотом (оперативной памятью), и при этом реагировать на ее «законные требования? Само существование «интеллектуальной собственности» вызывает споры, то есть, может быть, такого объекта права нет, а вы уже говорите о программе как о субъекте права. Тот, кто зондирует политическое поле такими идеями, должен понимать, что машины не отплатят ему по справедливости. У них нет для этого сочувствия, чести. То есть, нет причин продолжать возиться с вами, когда вас уже использовали. Да, они могут имитировать черты человека – альтруизм, рациональность. Но самая совершенная имитация всегда отличается от чего-то, что входит в сущность — ее можно взять и выключить. Так же легко, как сбросить маску».
Следует отметить, что у каждой из означенных выше позиций есть свои резоны. С одной стороны, отношение к роботу как к вещи выглядит более отвечающим реалиям сегодняшнего дня, чем стремление «роболевых» гуманизировать робота. За последние годы программы, которыми руководствуется механизм, действительно продвинулись в своем развитии. Сегодня робот может пройти тест Тьюринга, написать серию песен в стиле Егора Летова или научную статью. Однако робот не может чувствовать. Робот лишен самосознания. Именно это обстоятельство рождает скепсис по отношению к идее гуманизации роботов.
Тем не менее, взгляды «роболевых» устремлены в будущее, где способность робота к самосовершенствованию развита гораздо лучше, чем сейчас. Если еще пять лет назад трансгуманисты выглядели как движение романтиков, вдохновленных научной фантастикой, то сейчас мы видим, что многие их предсказания уже сбылись. Кто даст гарантию, что через десять лет бионические технологии не сделают грань между человеком и роботом максимально размытой?
Однако вернемся в день сегодняшний. На данный момент к психологической близости человека и робота следует относиться как к одной из иллюзий, свойственных людям. Да, старик действительно может проникнуться симпатией к ухаживающему за ним роботу, однако данное обстоятельство не сделает робота живым существом. Ровно также молодой рок-музыкант может называть свою гитару: «Моя крошка», а автовладелец, пытаясь завести свою колымагу, приговаривать: «Ну, давай, моя хорошая, заводись». Представляется, что эмоциональная связь между человеком и роботом носит такой же характер. Следовательно, руководствуясь предложением госпожи Дарлинг, в случае, если наш юный Джимми Хендрикс в рок-н-ролльном порыве разобьет свою гитару, его следует судить за жестокое отношение с инструментом.
Самую болезненную часть рассматриваемого нами вопроса составляют боевые роботы. По сути, существование подобных машин является грубейшим нарушением первого закона робототехники, сформулированного писателем-фантастом Айзеком Азимовым. Согласно данному закону, робот не может причинить вред человеку. Однако боевые роботы активно выпускаются и используются различными государствами, и, судя по всему, антивоенному движению уже не удастся остановить этот процесс.
Тем не менее, кто будет отвечать за удар беспилотника по мирной деревне? Судя по всему, никто. Печально, но даже ученые мужи рассуждают о проблеме военных роботов в весьма пессимистическом ключе. Например, профессор Института Брукингса (США) Питер Сингер пишет в своей статье «Военные роботы и законы войны»: «Не только ученые, но и все заинтересованные в будущем люди, начиная с теологов — которые первыми начали формулировать законы войны еще в Средневековье, — и кончая группами, защищающими права человека и ограничения на использование вооружений должны озаботиться дискуссией, куда технологическая революция ведет наше оружие и наши законы. И эта дискуссия должна быть глобальной, потому что проблема робототехники не ограничивается какой-то одной страной — программы разработки военных роботов ведутся уже в 43 странах».
Представляется, что такое положение вещей приведет к тому, что мирные жертвы будут оправдываться сбоем программы, что развязывает руки военным чинам любого государства.
Таким образом, как бы ни была привлекательна тема прав роботов, думать в первую очередь нужно о человеке.
Читать также
В Европе предложили наделить роботов статусом «электронное лицо»: что это значит