Проблемы этической и правовой регламентации систем искусственного интеллекта (робототехники): обзор круглого стола IP Форума




Проблемы этической и правовой регламентации систем искусственного интеллекта (робототехники): обзор круглого стола IP Форума

09 Апреля 2018
Д.В. Огородов,
кандидат юридических наук,
доцент кафедры интеллектуальных прав
Университета имени О.Е. Кутафина (МГЮА)
 

"Журнал Суда по интеллектуальным правам", № 19, март 2018 г., с. 48-53


Обзор круглого стола «Проблемы этической и правовой регламентации систем искусственного интеллекта (робототехники)», организованного кафедрой интеллектуальных прав МГЮА 21 февраля 2018 г. в рамках в рамках VI Международного юридического форума (IP Форума).

Приводятся результаты опроса ученых ведущих российских центров правовой науки, проведенного по ключевым правовым проблемам искусственного интеллекта (робототехники).

 

Ежегодный Международный юридический форум «Правовая защита интеллектуальной собственности: проблемы теории и практики» (IP Форум) – визитная карточка кафедры интеллектуальных прав МГЮА. За несколько лет проведения Форум стал одним из основных научных мероприятий в области интеллектуальной собственности и смежных дисциплин на территории России и СНГ.

Организаторы IP Форума уделяют большое внимание актуальности повестки каждого мероприятия, сочетая обсуждение классических институтов интеллектуальной собственности с новой юридической проблематикой.

21 февраля 2018 г. в Университете имени О.Е. Кутафина (МГЮА) в рамках шестого IP Форума был проведен круглый стол «Проблемы этической и правовой регламентации систем искусственного интеллекта (робототехники)»

Круглый стол носил междисциплинарный характер: в его работе приняли участие как представители правовой науки и различных направлений юридической практики, так и специалисты в области техники – представители профильных для робототехники и систем искусственного интеллекта научно-исследовательских центров, а также высокотехнологичных компаний.

Круглый стол был открыт приветствием модератора – Председателя Суда по интеллектуальным правам, заведующего кафедрой интеллектуальных прав МГЮА, д.ю.н., профессора Л.А. Новоселовой. Во вступительном слове она раскрыла актуальность тематики круглого стола, задав высокий научный уровень дискуссии.

Также профессор Л.А. Новоселова анонсировала обновленную магистерскую программу кафедры интеллектуальных прав МГЮА – «Магистр в сфере интеллектуальной собственности и права новых технологий». В рамках этой программы наряду с изучением базовых дисциплин будут рассматриваться юридические аспекты новых технологий, включая:
- искусственный интеллект и робототехнику (в частности, беспилотный транспорт и системы автоматизации юридической работы – LegalTech);
- блокчейн-технологии (в том числе «криптовалюты», ICO и «смарт-контракты»);
- новые медицинские и биологические технологии;
- сверхбольшие данные (BigData);
- «интернет вещей» (IoT);
- UBER-технологии и экономику совместного потребления (carsharing);
- технологии «умного города» и новой энергетики;
- дополненную и виртуальную реальность (ARVR);
- киберспорт;
- частное освоение космоса.

Продолжая работу круглого стола, вице-президент Российской ассоциации искусственного интеллекта, к.т.н. В.Э. Карпов представил сообщение «Этика конструирования систем искусственного интеллекта: мировые тенденции и российский подход к проблеме».

Докладчик охарактеризовал историю вопроса и текущий мировой уровень техники в области создания систем с элементами искусственного интеллекта и робототехники. На примере деятельности объединения IEEE [1] В.Э. Карпов рассмотрел новейшие мировые тенденции в области стандартизации и выработки технической этики создания систем с элементами искусственного интеллекта (робототехники).

Современные публикации СМИ по вопросам искусственного интеллекта (робототехники) зачастую грешат поверхностным характером, а нередко и вовсе искажают реальные возможности современной техники. На этом фоне сообщение вице-президента Российской ассоциации искусственного интеллекта было воспринято участниками с большим интересом и показало важность междисциплинарного диалога в этой сфере.

Сообщение директора по связям с государственными органами ПАО «МегаФон» Д.Е. Петрова было посвящено правовой ответственности в сфере искусственного интеллекта и робототехники. Докладчик отметил интенсивный рост систем LegalTech – технологий автоматизации рутинной юридической деятельности. По оценке Д.Е. Петрова, в ближайшие два года в РФ до 80% юридической деятельности может быть автоматизировано.

В свою очередь, развитие технологий автоматизации юридической работы вызывает вопрос разграничения ответственности за функционирование технологических решений, заменяющих непосредственное присутствие человека-юриста. В какой степени и за что должен отвечать информационный посредник и (или) лицо, осуществляющее техническую поддержку таких систем автоматизации? В этой связи Д.Е. Петров отметил востребованность института страхования ответственности, способного решить ряд озвученных проблем. Сообщение вызвало живой интерес и вопросы участников круглого стола, на которые ответил докладчик.

Выступление руководителя направления центра правовых инноваций ПАО «МТС» Е.Д. Сурагиной было обозначено как «Робот в праве: концепция правового регулирования программирования и робототехники». Изложив комплексный подход ПАО «МТС» к этой непростой проблематике, Е.Д. Сурагина ответила на вопросы участников круглого стола. Завязавшаяся живая дискуссия относительно распределения между владельцем и производителем беспилотного автомобиля ответственности перед третьими лицами показала необходимость поиска сбалансированного решения данного вопроса и выявила большой интерес специалистов к изложенным докладчиком проблемам.

Руководитель направления отдела правового сопровождения IP и технологий правового департамента ПАО «Сбербанк» С.А. Астафьева в своем докладе рассказала о проблеме охраноспособности результатов «машинного творчества». Данная проблема – сугубо гипотетическая в прошлом – стала актуальной в результате развития технологий искусственного интеллекта. Примером тому служит Prisma. Эта программа для ЭВМ создана на основе самообучающейся искусственной нейронной сети и за неполных два года приобрела десятки миллионов пользователей. При помощи этой программы не имеющий навыков рисования человек за несколько секунд превращает свои фотографии в картины, стилизованные под шедевры великих художников.

На этом и других примерах С.А. Астафьева обозначила дискуссионные вопросы правовой природы результатов «машинного творчества», рассмотрела зарубежный опыт и недостатки действующей редакции ст. 1261 ГК РФ. Резюмируя свой доклад, С.А. Астафьева сформулировала возможные пути решения правовых проблем «машинного творчества».

Представитель АНО «Робоправо», старший юрист юридической фирмы Dentons, к.ю.н. А.В. Незнамов в рамках своего сообщения «Регулирование робототехники и искусственного интеллекта: Что? Где? Когда?» рассказал о зарубежном опыте на примере Эстонии, Японии, США, Южной Кореи, Китая и Европейского Союза. Докладчик изложил предложения по регулированию систем искусственного интеллекта и робототехники, подчеркнув актуальность решения правовых вопросов, связанных с высокоавтоматизированными транспортными средствами и беспилотными летательными аппаратами.

Также А.В. Незнамов ответил на вопросы участников круглого стола по обсуждавшейся проблематике, в частности, на вопрос о непосредственных авторах текста «законопроекта Гришина», подготовленного юристами фирмы Dentons.

Далее прозвучало сообщение доцента кафедры интеллектуальных прав МГЮА, к.ю.н. Д.В. Огородова «Правовое регулирование систем искусственного интеллекта (робототехники): подход кафедры интеллектуальных прав МГЮА». Докладчик изложил возможный доктринальный подход к рассматриваемой проблеме [2], подчеркнул важность опоры на классическую правовую науку при решении регулятивных задач в области систем искусственного интеллекта (робототехники). По мнению докладчика, существующая система правовых институтов и юридических конструкций в целом достаточна. На текущий момент актуальны «точечные» новеллы, главным образом, дополнение ряда нормативных актов о транспорте.

Критически оценив подготовленный юристами фирмы Dentons законопроект о дополнении ГК РФ специальной главой о роботизированных агентах, Д.В. Огородов подчеркнул недопустимость дилетантизма в правотворчестве.

Также докладчик рассказал о результатах опроса ученых-юристов по ключевым правовым проблемам искусственного интеллекта (робототехники), который был проведен в феврале 2018 г. кафедрой интеллектуальных прав МГЮА. Результаты опроса прилагаются к настоящему обзору.

Руководитель практики «Консультационные услуги в области управления юридической функцией» юридической фирмы PwC Legal В.Ю. Арутюнян выступила с сообщением «Роботизация юридических процессов (LegalTech): незаменимых нет?». На обширном материале своих исследований в области управления юридической функцией В.Ю. Арутюнян осветила современное состояние и перспективы автоматизации юридической профессии. Согласно данным докладчика, в РФ 84% юридических департаментов корпораций в той или иной мере автоматизируют свою работу. В наибольшей степени автоматизированы такие функции юридических служб, как договорная работа, ведение юридической базы знаний, выдача доверенностей и претензионно-исковая работа. В докладе отмечено, что автоматизация позволяет повысить эффективность юридических служб, предоставляет новые возможности для творчества и профессионального развития юристов, а также вызывает появление новых юридических профессий на стыке права и технологий.

Вместе с тем, как подчеркнула В.Ю. Арутюнян, автоматизация диалектически сопряжена с потенциальными сложностями, а система юридического образования должна уже сегодня готовить юристов будущего, учитывая быстрое развитие систем LegalTech. Доклад вызвал оживленную дискуссию участников круглого стола, показав необходимость дальнейшего обсуждения поставленных в докладе вопросов.

 

***

Завершая мероприятие, участники круглого стола поддержали предложение кафедры интеллектуальных прав МГЮА о подготовке научно обоснованных рекомендаций по вопросам законодательного регулирования и правоприменения в области технических систем искусственного интеллекта (робототехники).

С презентациями докладчиков круглого стола можно ознакомиться в разделе «Документы» группы IP Форума по адресу: https://m.vk.com/ipforum.

 

***

Результаты опроса ученых-юристов по ключевым правовым проблемам систем искусственного интеллекта (робототехники)

Принимая во внимание актуальность темы круглого стола, а также появление инициативных законопроектов о робототехнике [3] вместе с сообщениями в деловой прессе [4] и публикациями в научно-юридических изданиях [5], кафедра интеллектуальных прав МГЮА в феврале 2018 г. провела опрос по ключевым правовым проблемам систем искусственного интеллекта (робототехники).

Опрос на условиях анонимности проводился среди ученых, специализирующихся в сфере материального гражданского (предпринимательского) права и гражданского (арбитражного) процесса.

В опросе приняли участие 32 респондента, представляющих ведущие отечественные центры правовой науки, включая ученых Исследовательского центра частного права при Президенте РФ, Института законодательства и сравнительного правоведения при Правительстве РФ, юридического факультета Московского государственного университета, юридического факультета Казанского федерального университета, Высшей школы экономики, международно-правового факультета Московского государственного института международных отношений, Саратовской государственной юридической академии и Уральского государственного юридического университета.

Перед респондентами было поставлено три вопроса, ответы на которые распределились следующим образом (проценты округлены):

1) какие средства современной автоматизации нуждаются в правовой регламентации?
- 53 % опрошенных (17 респондентов) – как механические, так и программные системы искусственного интеллекта;
- 31 % опрошенных (10 респондентов) – только программные (немеханические) системы искусственного интеллекта. Например, программы для ЭВМ в составе компьютеров, смартфонов, онлайн-сервисов и социальных сетей, где реализованы элементы искусственного интеллекта включая функции автоматического распознавания лиц и голосов людей;
- 3 % опрошенных (1 респондент) – только механические системы искусственного интеллекта (беспилотные транспортные средства, бытовые роботы-пылесосы, роботы сборочных линий в машиностроении, хирургические роботы в медицине и др.);
- 12 % опрошенных (4 респондента) не выбрали ни одного из трех предложенных вариантов ответа.

2) как Вы оцениваете идею наделения механических роботов (вещей) правосубъектностью и применение к ним в порядке аналогии правил о юридических лицах?
- 75 % опрошенных (24 респондента) – несостоятельная (абсурдная, вредная) для правопорядка идея;
- 3 % опрошенных (1 респондент) – перспективная (взвешенная, полезная) для правопорядка идея;
- 22 % опрошенных (7 респондентов) – иной вариант ответа.

Заметим, что выбравшие свой вариант ответа респонденты, по существу, также не поддержали наделение роботов правосубъектностью. Приведем некоторые из ответов (здесь и далее авторы комментариев не указываются ввиду проведения опроса на условиях анонимности):

«…идея преждевременная до появления полностью автономного, т.н. „сильного“ AI. Реализованный сегодня в отдельных системах „слабый“ AI не обладает автономными интеллектуальными и волевыми качествами (осознавать/руководить), позволяющей независимо от программно-аппаратных средств (алгоритма) вырабатывать и воплощать собственные решения. Правосубъектность юридических лиц всегда „возвращает“ к правосубъектности лиц, наделённых автономными сознанием и волей (органы управления юридического лица состоят в итоге из самостоятельных и самосознающих субъектов, действующих даже в заданных рамках собственной волей). В случае распространения этой фикции на роботизированные системы, наделённые „слабым“ AI, механизм такой „передачи’’ правосубъектности представляется неочевидным: через кого робот будет реализовать свою „фиктивную“ правосубъектность, кто и как будет его „органом управления“?»;

«…в этом нет необходимости; в отсутствие цели объединения капиталов, характерной для юридических лиц, смыслом правосубъектности механических роботов будет исключительно ограничение ответственности лица, использующего такую вещь; какое-либо обоснование ограничения ответственности владельцев роботов отсутствует или, по крайней мере, до настоящего времени не приведено»;

«…как всякая идея заслуживает обсуждения и организованной дискуссии на примерах того, как наличие/отсутствие правосубъектности механических роботов (вещей) сказывается (-жется) в настоящее время / ближайшей перспективе на реализации текущих потребностей заинтересованных субъектов»;

«…осознанная потребность отсутствует, делать это из праздного любопытства или целей реализации доктринальных амбиций отдельных лиц – неудачный вариант. Проблематика надуманная. Вероятнее всего, инспирирована лицами, начитавшимися Айзека Айзимова и сопоставимых по поднятой проблематике фантастических произведений различного рода (например, фильм „Двухсотлетний человек“)»;

«…интересно, но смешивать объект с субъектом нежелательно»;

«…любая юридическая фикция или презумпция, которая служит защите и реализации прав, хороша как идея до той степени, пока польза от нее конкретному человеку (или группе лиц) превышает возможный вред, издержки (времени, денег человеческих сил) и „социальную цену“. Наша страна сегодня слаба экономически и нестабильна в смысле правовых и социальных институтов, чтобы стать площадкой для слабо прогнозируемого правового эксперимента. Тем не менее, если плюсов явно больше, чем минусов, то я за правосубъектность роботов. Вопрос только, что конкретно мы будем измерять?».

3) какой подход на сегодня оптимален для создания российской нормативной базы систем искусственного интеллекта (робототехники)?
- 75 % опрошенных (24 респондента) – точечное дополнение существующих комплексных нормативных актов в области транспорта, промышленности, медицины, обороны и др. специальными нормами об использовании систем искусственного интеллекта (робототехники) в этих сферах, исходя из их специфики;
- 9 % опрошенных (3 респондента) – создание единого корпуса правовых норм для всех систем искусственного интеллекта (робототехники). Например, дополнение ГК РФ новой главой о роботах либо принятие кодифицированного закона о роботах или заключение международного соглашения о всей робототехнике (включая бытовые роботы-пылесосы и ударные «дроны» военного назначения);
- 16 % опрошенных (5 респондентов) – иной вариант ответа.

В качестве примеров приведем ряд комментариев, которыми респонденты поясняли свои ответы на вопрос о путях совершенствования законодательства в области искусственного интеллекта (робототехники):

«…на современном этапе оптимален вариант 1 (точечное дополнение). Если появится необходимость по мере накопления нормативного и в целом правоприменительного материала, то вариант 2 (создание единого корпуса правовых норм)»;

«…необходимо лишь дать определение роботу с точки зрения распределения ответственности между владельцем и пользователем перед другими лицами (например, приравнять эксплуатацию всех или некоторых роботов к деятельности, создающей повышенную опасность, для чего указать робота в п. 1 ст.1079 ГК РФ или даже ограничиться судебным толкованием). Мотивами выбора такого способа регулирования является принцип экономии регуляторных средств, а также отсутствие существенных правовых различий между роботами и имуществом (транспортные средства или животные куда ближе к роботу, чем юридическое лицо, являющееся субъектом, а не объектом права)»;

«…специальные средства регулирования частноправового свойства вряд ли необходимы, в законе и так все есть. Достаточно лишь адекватно взглянуть на правовые режимы абсолютных прав (правовые режимы, которые позволяют атрибутировать то или иное имущественное благо конкретному лицу) и вывести это из содержания правил в наличии. Если на торгах „участвует“ робот, это означает, что участвует тот, кто его запустил, а не какой-то искусственный интеллект. Если уж на это пошло, почему вопрос о животных не обсуждается? Дрессированные животные мало чем отличаются от роботов».

«…для начала нужно определиться, а чего по-настоящему в регулировании не хватает? Может всего достаточно? Ядро регулирования в любом случае остается тем же – это отношения „человек – человек“ (какая бы фикция за ним не стояла). В этой связи я не вижу острой необходимости в отдельном „Кодексе робототехники“ сегодня. При этом закрепление в международном акте сформировавшихся этических принципов робототехники было бы полезным, как минимум, с точки зрения называния явлений именами (а только поименованное явление может стать объектом управления)».

 


 

Список литературы

1. Institute of Electrical and Electronics Engineers (IEEE) – Институт инженеров электротехники и электроники, международная неправительственная организация, объединяющая специалистов в области техники. IEEE является одним из ведущих мировых центров разработки технических стандартов в области электротехники и радиоэлектроники, включая робототехнику URL: https://www.ieee.org (дата обращения: 21 марта 2018 г.).

2. Основные подходы к данной проблеме обсуждалась в МГЮА 20 апреля 2017 г. на совместном круглом столе кафедры интеллектуальных прав и кафедры гражданского права. Обзор круглого стола и презентации докладов опубликованы в Журнале Суда по интеллектуальным правам URL: http://ipcmagazine.ru/news/3865-news2659 (дата обращения: 21 марта 2018 г.).

3. Речь идет о так называемом «законопроекте Гришина», подготовленном для известного IT-бизнесмена Дмитрия Гришина юристами фирмы Dentons В.Б. Наумовым и В.В. Архиповым. Одна из версий данного проекта размещена по адресу URL: http://robopravo.ru/uploads/s/z/6/g/z6gj0wkwhv1o/file/bESvQz3Y.pdf (дата обращения: 21 марта 2018 г.).

4. Серьгина Е., Болецкая К. Россия может первой узаконить роботов Основатель Grishin Robotics Дмитрий Гришин разработал концепцию закона о робототехнике // Ведомости. 15 декабря 2016 г. URL: https://www.vedomosti.ru/technology/articles/2016/12/15/669703-rossiya-uzakonit-robotov (дата обращения: 21 марта 2018 г.);
Сооснователь Mail.ru Group предложил написать закон о роботах // РБК: Технологии и медиа. 15 декабря 2016 г. URL: http://www.rbc.ru/rbcfreenews/58524a9d9a7947d0061a78b0 (дата обращения: 21марта 2018 г.);
Закон о робототехнике (интервью с Дмитрием Гришиным) // Эхо Москвы. 18 декабря 2016 г. URL: http://echo.msk.ru/programs/tochka/1893198-echo/ (дата обращения: 21марта 2018 г.).

5. Архипов В.В., Наумов В.Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 157-170.