«Права нужны тем, кто может осознавать, даже ощущать наличие или отсутствие таковых. Роботы не развились настолько, чтобы осознавать себя»

Екатерина Ядова, руководитель программ MBA Moscow Business School, проректор по ДПО Московского технологического института, руководитель направления Robotics федерального акселератора технологических стартапов GenerationS от оператора трека

Роботы – очень общее понятие. Они очень разные: промышленные, социальные. Бывают роботы, которые помогают инвалидам, которые пишут тексты и картины, которые осуществляют сборку машин. Роботы разные, и отношение к ним разное. Но в целом позитивное. Это правильный тренд на осуществление опасной или рутинной работы нелюдьми.

Развитие робототехники позволит улучшить быт и увеличить продуктивность рабочих процессов.

Про ум, и про права роботов. Это совершенно разные направления обсуждения.

Про ум. Нужно понять, что подразумевается под этим термином в контексте вопроса. В социальных науках определение включает соотнесение с конкретным индивидом. То есть умственные способности – качество психики, обобщение всех способностей человека (мышления, памяти и других) для приспособления в среде. Так что сравнивать именно ум человека и аналитические способности робота все же не совсем корректно.

Поэтому то, что есть у роботов, называют искусственным интеллектом. И это свойство машин выполнять функции, которые человек выполняет за счет умственных способностей. Грубо говоря, внешнее проявление умственных способностей ближе к понятию искусственный интеллект, чем сама суть умственных способностей.

Роботы легко могут оперировать гораздо большим количеством информации, чем в принципе может человек. Могут поддерживать беседу, могут перебирать множество вариантов значительно быстрее человека, могут брать два суждения и на основании них делать третье. Человек делает логические обобщения на основании современных и веских фактов, он выглядит умным. Робот тоже так может.

Если говорить об уме как об объеме информации, ее верификации и производных на основании данных, уже сейчас некоторых роботов можно считать более умными, чем люди.

Но если брать определения интеллекта и умственных способностей из психологии, то тут будет добавлена уникальная составляющая... осознание человеком. Такого роботы еще долго не смогут.

Возникновение прав – юридический вопрос. На данный момент законодательная составляющая только в начале проработки. Дмитрий Гришин с коллегами в России начал решительные шаги в этом направлении. Разработан большой документ – проект поправок по теме робототехники в Гражданский кодекс Российской Федерации.

Права нужны тем, кто может осознавать, даже ощущать наличие или отсутствие таковых. Для примера: животные и ноутбуки прав не имеют. На данный момент роботы не развились настолько, чтобы осознавать себя. И пока нет достаточно убедительных научных оснований, чтобы заключить, что это в принципе реализуемо.

Можно ли отличить в электронном сообщении робота от человека? Нет. И никто не может сказать, что отличает всегда. Уже есть много прекрасных чат-ботов, которые на определенные темы общаются совсем так же, как общался бы человек. Абстрактный человек и незнакомый чат-бот.

Знакомого человека отличить легче – это другая тема. Хотя и тут есть уже разработки, когда программа обучается на базе сообщений, создаваемых человеком, и потом генерирует сообщения в той же стилистике, что и исходный автор. Уже пользуются некоторым спросом боты, которые могут вести переписку после ухода человека из жизни.

…Три закона робототехники скорее относятся к сфере философии и этики робототехники. Никак не к контролю. Эти три закона очень трудно на практике воплотить в алгоритмах, т.к. есть множество допущений и исключений.

Например, первый закон: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Что конкретно должен делать робот, если включен в ситуацию, когда один человек причиняет вред другому. Или если ситуация предполагает, что могут пострадать два человека, а робот своими действиями способен помочь одному или другому. Как выбрать, кому помогать?

Движение к контролю есть. В России – поправки в ГК РФ, а в Европе есть разработки свода правил общения людей с роботами и проекты, предполагающие наделять искусственный интеллект юридическим статусом «электронная личность».

Сейчас это первые шаги.

Московский технологический институт активно эксплуатирует направление изучения и использования искусственного интеллекта в научном и бизнес-направлениях. В МТИ функционируют лаборатории робототехники, аэрокосмических исследований, прикладных технологий и энергоэффективности, глубинного обучения (Deep Learning Lab), виртуальной реальности. Кроме того, МТИ в рамках образовательного и акселерационного процессов поддерживает ряд компаний, выпускающих продукты, включающие опору на разработки искусственного интеллекта: Promobot (социальный робот-промоутер), AnyWalker (сверхпроходимое робототехническое шасси) Bitronics Lab (инструменты для работы с бионейросигналами человека), NVR (шлем виртуальной реальности).

«За чистотой полов в наших ЦОДах следят умные и самостоятельные пылесосы. У нас их почему-то зовут «бобики»

Илья Стечкин, эксперт по маркетингу высокотехнологичных компаний

Диана Кочиева, менеджер по маркетинговому контенту ATLEX.Ru

На вопрос: «Ваше отношение к роботам?» – по привычке хотелось бы ответить, что мы к ним не относимся, но это было бы не точно. Дело в том, что Илья уже побывал однажды «в шкуре» робота, когда освещал OpenStack Summit в Ванкувере. И некоторые эксперты предпочитали говорить не с живым корреспондентом, а с «говорящей головой» на экране Beam (от англоязычной аббревиатуры BEAM – Biology, Electronics, Aesthetics and Mechanics – Биология, Электроника, Эстетика и Механика).

Если говорить о том, что в скором времени могут появиться искусственные ребята, которые заменят нас на работе, то, очевидно, сильно радовать это не может. С другой стороны, если машина возьмет на себя какие-то неприятные дела по дому, будет здорово.

Стоп! Но ведь это уже происходит. Например, за чистотой полов в наших ЦОДах следят умные и самостоятельные пылесосы. У нас их почему-то зовут «бобики». Важный момент: робота от бытового прибора обычно отличает именно «самостоятельность» – возможность автономно перемещаться в пространстве, выполняя поставленную задачу. «Бобик», например, своевременно выползает из своего угла и принимается наводить чистоту. При этом он способен объезжать препятствия. И умеет возвращаться «на базу», когда работа сделана, для по зарядки.

Могут ли роботы в будущем стать умнее человека и получить свои права? Главная сложность при ответе – определить понятие «умный». Если мы говорим об объеме данных, которые может анализировать машина за единицу времени, то уже сейчас роботы умнее человека. Есть и самообучающиеся системы. В прошлом году носитель искусственного интеллекта обыграл человека в го. Это, конечно, еще не тест Тьюринга, но существенный шаг в этом направлении.

А что делать с роботами – домашними животными? Они сами за себя отвечают или их хозяева? Нашему «бобику», очевидно, права не нужны, ему и так хорошо. А робот-человек? Например, пелевинская Кая? Вероятно, зависит от того, воспринимает ли себя робот как личность, обладает ли он способностью к самообучению, достаточной для того, чтобы считать его волю свободной от воли программистов, «настройщиков», владельцев. Трудно представить ситуацию, в которой кому-то придет в голову делать настолько своевольную машину. С другой стороны, мы помним Электроника.

Все, что умеет делать робот, например играть в шахматы, – это то, чему его научил человек. И анализировать данные его тоже научил человек, просто машина опережает человека по времени анализа.

Можно ли отличить в электронном сообщении робота от человека?

Роботы выдают себя тоном: всегда говорят сдержанно и по делу. Впрочем, робот-писатель Narrative Science может создать текст, соответствующий стандартам редакции Forbes. Правда, пока что речь идет только об аналитических текстах.

Человеческая речь, пусть даже и на письме, живая, «подвижная», гибкая. Когда с тобой говорит робот, из имеющегося у него запаса ответов он выбирает наиболее подходящий. Это совсем не то же самое, как если бы человек на конкретное письмо составил ответное.

Айзек Азимов создал гениальный в своей простоте свод законов, своего рода «конституцию роботов». Однако есть проблема: как обеспечить гарантированное соблюдение «машинных заповедей»? Операционная система робота может «заглючить» или подвергнуться атаке со стороны злоумышленников. И тогда…

Мы опять вернемся к вопросу об ответственности машин за свои поступки. Даже человека можно «взломать». Не случайно же в правоприменительной практике существует понятие «смягчающие обстоятельства», которые принимаются судами к сведению.

Как и в случае с человеческими заповедями, три закона роботехники требуют множества комментариев и оговорок. Например, критики законов обращают внимание на то, что понятие «вред» очень субъективно. Нужно вводить дополнительные характеристики, чтобы сделать это понятие применимым в процессе «машинной жизнедеятельности». Чаще всего понятие «вред» соотносят с понятием «угроза жизни». Это чуть более конкретное понятие. И тем не менее даже оно оставляет массу лазеек для обхода возможных программных блокировок «машинной агрессии». Так что для контроля над роботами классических формулировок законов роботехники Азимова (включая «нулевой», в котором рассматривается «человечество», а не «че-ловек») недостаточно.

В нашей компании, кроме «бобиков» есть, например, «умный нос» – устройство, которое анализирует состав воздуха и может определить наличие в нем продуктов горения, своевременно предупредить дежурных и задействовать аварийные системы. Систему проактивного мониторинга MonitIT тоже можно назвать «интеллектуальной» – она следит за состоянием вашей (и нашей) ИТ-инфраструктуры и информирует администраторов о любых нетипичных реакциях оборудования по выбранному каналу – SMS, сообщением электронной почты и т.п. Проекты, связанные с IoT (интернетом вещей), были бы, с одной стороны, невозможны без активного использования «умных» машин, анализирующих показатели многочисленных сенсоров. С другой стороны, IoT создает отличный контекст, среду для интеграции роботов в наш быт.

Как станут в будущем решаться нравственно-этические вопросы, связанные с «очеловечиванием» роботов, пока не понятно. Ведь сознание – это не только рациональный анализ той или иной проблемы, но еще и нравственный выбор. Сумеем ли мы объяснить это роботам? Вопрос открытый.

Tel.: (499) 277-12-41  Fax: (499) 277-12-45  E-mail: sa@samag.ru

Copyright © Системный администратор