26 декабря завершается вторая волна регистрации на онлайн-курс “Мой друг — робот. Социокультурные аспекты социальной робототехники”. Курс знакомит с новым междисциплинарным научным направлением — социальной робототехникой. За семь недель слушатели получат представление о социальных роботах, их функциях и роли в жизни человека. В рамках курса поднимаются неоднозначные вопросы этики и права, проблемы настоящего и будущего социальной робототехники.
Автор курса — Надежда Зильберман, кандидат филологических наук, доцент кафедры гуманитарных проблем информатики Томского государственного университета. Надежда рассказала «Роботоведу» о том, почему отвечать на вопросы о социальной робототехнике нужно уже сейчас, поделилсь собственным видением закона о робототехнике и прогнозом на будущее.
— Как у вас возникла идея курса? Что вас вдохновило сделать такой интересный курс?
— Этот курс я уже пять лет читаю нашим студентам магистратуры Digital Humanities в расширенной и углубленной версии, конечно. Идея разработать такой курс принадлежит нашей заведующей кафедрой гуманитарных проблем информатики Галине Можаевой, а вот непосредственно создание — уже моя работа.
В прошлом году, когда в университете объявили конкурс на разработку массового онлайн-курса для платформы Coursera, Юлия Елизарьева, наша студентка, уговорила меня решиться на такой шаг, создать доступную для всех версию, а остальные наши ребята с радостью поддержали эту идею. Причем поддержали не только морально, а работой: каждый помогал как мог, пробуя себя в совершенно в новых ролях. Кто-то материалы подбирал, кто-то тесты готовил, Андрей освоил операторскую работу, Кристина музыку написала, Лера, Дарья и Алина стали художниками, а сама Юлия продюсером, режиссером и оператором. Так что, можно сказать, меня вдохновили именно студенты.
— Почему тема вашего курса — именно социальные роботы? Чем они интересны на данном этапе развития робототехники?
— Социальные роботы — это давняя мечта человечества. Откройте любую фантастическую книгу про интеллектуальные машины или посмотрите любой фильм, и вы найдете роботов, которые могут говорить на разных языках, шутить, любить, страдать или строить коварные планы по захвату человечества. Всех их объединяет способность к социальному взаимодействию с человеком и сильный искусственный интеллект, конечно. Сильный искусственный интеллект пока еще недостигнутая цель, а вот социальное взаимодействие сегодня рассматривается как наиболее интуитивный интерфейс для взаимодействия с человеком. Мы уже можем видеть много примеров роботов с таким интерфейсом в реальности, например, Paro, Pepper, Asimo, Erica, Pleo, Promobot, даже Пушкин и др. И с каждым годом их будет становиться все больше. В курсе рассматривается, что удалось сделать разработчикам на данном этапе, а какие специфические задачи еще предстоит решить. Мы хотели показать, какие вопросы сейчас актуальны в этом направлении и поговорить о том, какие изменения возможны в обществе с приходом социальных роботов.
— Какие социальные роботы были исследованы для курса?
— Не могу сказать, что какие-то роботы были исследованы специально для курса. В курсе говорится о социальных роботах в целом, конечно, приводятся и примеры роботов, и примеры исследований, затрагивающих различные социокультурные аспекты взаимодействия робота и человека.
— Для кого этот курс? Про робототехнику — значит, узкоспециализированный и его поймут только технари?
— Нет, этот курс направлен именно на широкую аудиторию, он называется «Мой друг робот, социокультурные аспекты социальной робототехники». Само направление социальная робототехника — междисциплинарное, это то поле, где объединяются специалисты разных направлений, поэтому и слушателем может быть человек с любым образованием. Мы постарались сделать его максимально простым и понятным, а гуманитарные темы, которые мы обсуждаем, надеюсь, будут интересны и близки большинству слушателей.
— Кто ваши слушатели — каков их возраст, пол, род занятий? Сколько студентов “первой волны” зарегистрировались и выполнили все задания курса?
— Сейчас еще пока рано говорить о статистике курса, потому что он запустился только 28 ноября и «первая волна» еще активно учится. Я знаю, что многие слушатели первого захода — это мои коллеги-робототехники и не только из разных городов, я уже получила много отзывов от них на наш курс. Также уже открыта запись на вторую волну, на платформе Coursera это называется когорта, группа. На сегодняшний день у нас около 130 слушателей из 19 стран, в основном из России, США, Германии, Украины и Казахстана.
— Насколько актуален ваш курс на сегодняшний день? Или всё-таки это знания для ближайшего будущего?
— Я считаю, что курс актуален именно на сегодняшний день. Есть вопросы социальной робототехники, о которых нужно задумываться уже сейчас.
— Вы гуманитарий, кандидат филологических наук. Насколько сложно было вам разбираться с роботехникой?
— С робототехникой я так и не разобралась и не думаю, что когда-нибудь мне это полностью удастся: нужно много учиться и иметь много практики в этой области. Но, конечно, сейчас я знаю про это гораздо больше, чем когда начинала: резистор от транзистора отличить смогу. Разумеется, пришлось узнавать очень много нового из электроники, механики, программирования и др. Нельзя думать, что если ты гуманитарий просто со своими глубокими, но все же гуманитарными знаниями решил поговорить про роботов — ты уже междисциплинарный специалист. Нет, нужно обязательно иметь общее представление, например, элементарно о работе микроконтроллера, чтобы потом не говорить, что участились случаи нападения роботов на людей. Мне повезло с коллегами и друзьями инженерами, они очень много времени своей жизни потратили, чтобы объяснить мне даже самые простые вещи из курса физики с творчеством и фантазией. Так что я им безмерно благодарна, особенно за то, что они продолжают это делать.
— Кстати, о нападениях роботов на людей. Вы считаете, что недавние случаи нельзя назвать именно нападениями?
— Верно. Имею в виду сознательно принятое решение робота о нападении на человека, исключая военную робототехнику, где роботам это прописывают в программном коде. Осознанное нападение робота на человека возможно только с сильным AI (Artificial Intelligence). Если робот из-за ошибки в распознавании или неисправности датчиков наехал на человека, это ошибка программы, а не сознательное желание уничтожения человеческой расы.
— Что бы вы посоветовали прочитать для того, чтобы погрузиться в мир робототехники?
— Мне кажется, я не вправе советовать книги именно по робототехнике. Так что на правах филолога порекомендую писателей художественной литературы про роботов: А. Азимов, С. Лем, Ф Дик, Г. Гарисон, Д. Адамс. А список рекомендованной литературы для тех, кто хочет узнать про социальную робототехнику, есть в нашем курсе.
— Почему гуманитарные проблемы в сфере информационных технологий важны сейчас? Будут ли они актуальны через 10, 50, 100 лет?
— Гуманитарные проблемы в сфере информационных технологий были важны всегда. Ведь информационные технологии — это все способы работы с информацией. С информацией работает человек, а где люди, там и гуманитарные проблемы. Цифровые технологии — это просто еще один инструмент, очередной этап развития информационных технологий. Когда-то письменность и книгопечатание как технология сохранения и распространения информации навсегда изменили общество. Маршал Маклюэн назвал это информационными революциями. Цифровые технологии также повлияли на нас: мы столкнулись с необходимостью постоянных коммуникаций — помимо общения вживую, надо отвечать на телефон и в социальных сетях, и эта коммуникации одинаково важны. Защита конфиденциальной информации и частной жизни — нас все время снимают камеры, наши личные данные в любой момент могут стать доступными. Это просто пара примеров.
Так что и через 10 и 1000 лет информационные технологии и гуманитарные аспекты будут идти рука об руку, для человека человек всегда актуален.
— Неделю назад Дмитрий Гришин заявил, что готовит законопроект о робототехнике, из которого будет следовать, что ответственным за все действия робота будет его владелец (и производитель). Как вы считаете, нужно ли регулировать подобные во многом этические вопросы на законодательном уровне уже сейчас?
— Да, конечно, полностью согласна. Юридическая база уже сейчас должна обсуждаться и подготавливаться к массовой роботизации, иначе мы рискуем оказаться с большим количеством прецедентов без законодательства, как трагедия с Tesla этим летом, например. Многие европейские страны, особенно Великобритания, Германия, Франция, Италия, также США, Япония, Южная Корея уже активно сегодня обсуждают, подобные юридические вопросы. Это часть робоэтики, направления, занимающегося выработкой норм внедрения роботов в общество, о котором мы также говорим в нашем курсе.
— А как видите этот закон вы?
— Ответственность за действия робота — сложный вопрос. Сейчас я считаю, что ответственность лежит на людях, но большой вопрос — на ком конкретно: разработчик, программист, механик, компания в целом? Это сейчас одна из самых обсуждаемых тем в сообществе робототехников. Важно, чтобы государство и юристы принимали участие в этом диалоге.
Закон — это все-таки не моя сфера, но мне близки этические кодексы робототехников, предложенные Британией, Францией и Японией. Например тезисы о том, что человеку должна быть очевидна машинная природа робота. В этой сфере действительно много вопросов. Собственно в курсе я хотела привлечь к этой теме внимание, побудить к размышлениям.
— Насколько соответствуют текущему моменту законы робототехники Айзека Азимова?
— Законы Айзека Азмиова, безусловно, отражают человеческую мораль, прежде всего, и они прекрасны, но, к сожалению, на сегодняшний день совсем не реализуемы на практике. Я думаю, они до сих пор отчасти служат источником вдохновения для многих, и, надеюсь, в какой-то мере частично найдут отражение в кодексах для робототехников. Опять же и об этом мы говорим на курсе.
— Почему три закона Азимова нереализуемы?
— Во-первых, военная робототехника априори нарушает первый закон Азимова и с этим ничего не сделать. Во-вторых, его законы слишком интерпретируемы для того, чтобы их прописать в программном коде. Само определение «вреда» вызывает много вопросов. Если мы убиваем человека — вред, если — ломаем руку вред, а если ставим укол? А считать ли вредом психологическое воздействие?
Сам Азимов в своих произведениях проверяет свои законы на прочность и не всегда они проходят проверку.
— По вашему мнению, какие перспективы у робототехники? Когда они войдут в жизнь рядового человека так же, как, например, мобильный телефон?
— Роботы уже вошли в нашу повседневную жизнь, просто мы это не всегда замечаем, потому что хотим увидеть, что-то похожее на нас и соответствующее нашим представлениям о роботах из кино. Мы даже роботов пылессов особо роботами не считаем. Если говорить о социальных роботах, то, на мой взгляд, 10 лет — это максимальный срок, когда они станут обыденностью, думаю, что в Японии, США и Европе это произойдет раньше.
— Ваш прогноз на быт через 20 лет. Что из мира робототехники станет повседневностью?
— Сложно сказать, потому что технологии развиваются с невероятной скоростью. Вспоминаю, что на первом курсе мобильный телефон казался мне фантастикой, а на пятом, он был у меня и у всех моих друзей. Всего четыре года. Может быть, дальше мы уйдем в сторону биотехнологий, и матрица станет реальностью, а не фантастикой. Или повседневностью станут роботы-аватары, управляемые нейроинтерфейсом. Через 20 лет предсказывают разработку сильного AI. Я думаю, что многие процессы вокруг нас будут автоматизированы, например, транспорт, приготовление пищи, уборка помещения, многие виды медицинских услуг. Из социальных роботов обычным делом будут роботы-компаньоны, роботы для людей старшего поколения, секс-роботы, роботы-солдаты, пожарные, полицейские и др.
Фотографии предоставлены героем интервью