Европейский Союз отмечает необходимость пересмотреть правовой статус роботов. Инициатива была представлена в проекте доклада в середине января. В нем предполагается, что в будущем автономным роботам может быть присвоен статус “электронных лиц” — такое юридическое определение наделит роботов, их владельцев и изготовителей определенными правами и обязательствами. Звучит, как научная фантастика: любой инженер подтвердит, что миру еще далеко до того момента, когда роботы начнут бороться за свои гражданские права. Какие же вопросы на самом деле хотели поднять авторы доклада?
Стоит заметить, что это лишь проект доклада, ряд рекомендаций для законодательного органа ЕС, которые могут не повлиять на закон вовсе. В одной из частей проекта авторы упоминают даже чудовище Франкенштейна, древнегреческий миф о Пигмалионе и еврейскую легенду о Големе — о них же в предисловии к сборнику рассказов “Видения роботов”, как о первых предшественниках автономных существ, созданных человеком, пишет Айзек Азимов. Этот странный на первый взгляд документ поднимает важные вопросы о правах человека, а не робота. Например, кто виноват в случае ошибки автономной системы? Возможно ли привлечь виновного к ответственности в соответствии с действующей правовой системой? Оказывается, наделение роботов статусом “электронных лиц” может разрешить эти вопросы.
В первом разделе доклада описано настоящее положение дел. Роботы становятся все более сложными, они задействованы в самых разных отраслях от здравоохранения до вооруженных сил. Роботы становятся более автономными и способными “принимать решения и воплощать их в жизнь” без вмешательства извне. Поэтому роботы уже не воспринимаются только как простой инструмент. Но если робот — уже не инструмент, обществу предстоит найти новое определение.
Чтобы решить проблемы, связанные с автономными роботами, авторы доклада приводят ряд предложений:
- На законодательном уровне дать определение “умный автономный робот”;
- Создать централизованный реестр таких роботов, чтобы любой мог узнать, кто владеет и контролирует каждого конкретного робота;
- Разработать кодекс этики для производителей роботов и исследователей, который бы отражал Хартию ЕС по правам человека — уважение человеческого достоинства, право на неприкосновенность частной жизни, запрет дискриминации и т.д.;
- Основать новое агентство ЕС по вопросам Искусственного Интеллекта и исследований робототехники;
- Ввести новый правовой статус для роботов (“электронное лицо”), что внесет их в существующую систему гражданско-правовой ответственности.
Именно последний пункт вызвал резонанс в СМИ и обществе: ЕС хочет наделить роботов чем-то вроде прав человека?
Мади Дельво, член Европейского парламента от Люксембурга, ответственный за презентацию проекта доклада, утверждает, что это не так. “Роботы — не люди и никогда ими не станут”, заявила Дельво американскому интернет-изданию The Verge. Она объяснила, что понятие “электронное лицо” сродни “юридическому лицу” — это юридическая формулировка, а не философское утверждение.
Но Буркхард Шафер, профессор вычислительной теории права в Университете Эдинбурга говорит, что использование фразы “электронное лицо” изначально было ошибкой. “Люди прочтут об “электронной личности” и подумают, что “роботы заслуживают такие же права, как и человек”, — сообщает Шафер. “Юристы воспринимают правосубъектность иначе. Такие определения создаются для удобства. Мы наделяем компании статусом “юридическое лицо” не потому, что они заслужили этого, а просто чтобы сделать некоторые вещи проще”.
Представьте себе, что вы — инвалид и полагаетесь в домашних делах на вашего домашнего робота. Одна из обязанностей робота — следить за тем, чтобы вы получали полезную пищу в достаточном количестве. Однажды робот заметит, что у вас недостаточно овощей и закажет их через интернет. “На данный момент мы хотим убедиться, что такой контракт — между роботом и магазином — будет действительным”, — отмечает Шафер. “Мы не хотим, чтобы продавец ответил “Я вел переговоры с машиной, поэтому контракт не действителен”. Так будет проще чисто в техническом смысле, чем если бы мы дали роботу статус юридического лица”.
Подобные планы уже обсуждались в 1990-х годах, тогда поднимался вопрос присвоения программному обеспечению определения “интеллектуальный агент”. Инициативу так и не воплотили.
Кто будет нести ответственность?
Проект обращает внимание на сложный вопрос, который предстоит решить о юридической ответственности автономных систем. Авторы проекта считают, что проект закона должен включать право на установление “причинно-следственных связей между поведением робота и ущербом, нанесенным им” чтобы иметь возможность требовать компенсацию от производителя.
Такая мера не позволит компаниям переложить вину на самих роботов. Так, производители беспилотных автомобилей не освобождаются от ответственности за беспилотник, вышедший из строя, только потому, что в этот момент он никем не управлялся. Дельво предполагает, что такая проблема не станет острой в ближайшей перспективе, т.к. современные системы все еще довольно просты и отследить причинно-следственную связь легко. “Но когда появится следующее поколение самообучающихся роботов, это будет другой вопрос”, — говорит Дельво.
Самообучающиеся роботы могут стать непредсказуемыми, а компании смогут апеллировать к этому: “Мы не предполагали, что наша система самообучения “научит” автомобиль наезжать на пешеходов”.
В докладе предлагается создать правовую систему, в которой бы ответственность бы зависела от степени автономности системы. Однако, это порождает еще больше вопросов. Как измерить автономность? Что если самообучающаяся система переймет плохие привычки своего владельца и приведет к аварии — будет ли это вина производителя или владельца?
Одним из решений этих вопросов может стать общий страховой фонд, в который каждый, кто делает роботов или системы, должен внести соразмерное пожертвование. Деньги из этого фонда будут выплачиваться в случае нанесенного роботом ущерба. Такая мера лишит компании желания уклоняться от ответственности — ведь деньги уже заплачены.
Что дальше?
Еще раз подчеркнем, что пока доклад содержит лишь предположения. Ни одно из предложений может не попасть в действующий законопроект, который будет создаваться годами. На данный момент общество не нуждается в таком законе. Олаф Крамме, специалист в области технологий и политики, заявил, что нынешняя законодательная система может справиться с претензиями, связанными с автономными системами. При этом Крамме отмечает, что существуют и другие пока еще неразрешенные фундаментальные проблемы. Так, несчастные случаи с беспилотным транспортом только усложнят судебный процесс. Однако, развитие технологий открывает новые коммерческие возможности для страховых компаний.
Итак, новые законы нужны, но понятие “электронная личность” может стать слишком сложным, чтобы быть полезным. «Роботы не научная фантастика”, — говорит Дельво. «Это не необыкновенные существа, атакующие наш мир. Это технология, которая должна служить нам, и нам нужно реалистичное представление о них».
Источник
Автор перевода — Дарья Васильева