УДК 340.11:004.8
Страницы в журнале: 17-22
О.А. Степанов,
доктор юридических наук, профессор, главный научный сотрудник Института законодательства и сравнительного правоведения при Правительстве РФ Россия, Москва o_stepanov@hotbox.ru
Исследуются перспективы развития роботизированных систем. Рассматривается использование такого программно-технического средства, как нейросетевая система. Отмечается необходимость разработки правового регулирования использования нейросетевых систем во всех сферах жизни и деятельности общества с учетом возникновения различных опасностей и угроз.
Ключевые слова: нейросетевая система, робототехника, правовое регулирование, информационно-электронное право, информационно-электронная безопасность, информационно-электронный иск.
В ходе развития информационного общества в Российской Федерации в отечественную общественную практику все в большей мере внедряются роботизированные системы, замещающие человека на различных направлениях его деятельности. Так, российский Сбербанк собирается в 2017 году высвободить около 3 тыс. рабочих мест в связи с активным использованием роботов-юристов, которые смогут самостоятельно писать исковые заявления[1].
В сентябре 2016 года было заявлено, что Группа «Ренессанс Страхование» впервые на российском страховом рынке начала использовать возможности программного решения на нейросетевых технологиях для анализа, прогнозирования, формирования предложений и процессов для своих клиентов: нейросети призваны прогнозировать вероятности кросс-продаж, участвовать в процессах пролонгации, урегулирования и автоматизации принятия решений. При этом глобальная задача компании заключается не только в том, чтобы повысить качество принятия решений на базе имеющихся данных, но и найти лучший способ органично интегрироваться в образ жизни своих клиентов[2].
Применение подобного рода мощных инструментов многосценарного моделирования социальных и экономических процессов на базе нейросетей в финансовой деятельности дает заметный эффект в части оценки платежеспособности клиентов, обращавшихся, например, в банк за денежными ссудами. Располагая «историческими» данными о таких клиентах, нейросеть настраивается таким образом, что на ее входе будут показатели клиента, а на выходе — прогнозируемая степень его платежеспособности. Данные каждого вновь поступившего клиента обрабатываются с целью сбора информации о нем как минимум по 80 показателям[3]. Так, выявлено, что на сегодня 45 млн россиян имеют задолженности по банковским кредитам, а количество нарушений по возвратам с их стороны возрастает на 3 млн ежемесячно[4].
Особенность нейросети заключается в том, что это обучаемая система, которая может использовать при каждом новом решении накопленный ранее опыт. Ведущиеся в нашей стране на этой базе разработки в сфере искусственного интеллекта в рамках рабочей группы Национальной технологической инициативы (НТИ) «Нейронет» могут позволить уже в 2019 году получить систему, которая заменит традиционные колл-центры[5].
В данном случае показательно, насколько эффективно работают на цифровой основе налоговые органы скандинавских стран — Швеции, Финляндии, Дании, Норвегии. Здесь по части налогообложения «зрячим» и «умным» алгоритмам известно все: доходы граждан, их каждодневные траты, вложения, состав имущества. В результате львиную долю того, что прежде делали люди, делают роботы. У налоговиков нет бумажной волокиты, а у граждан — никаких деклараций. Налоги рассчитываются и списываются автоматически, а граждане лишь получают уведомления для проверки расчетов[6].
«Человечество попало в нейросети»; «Компьютеры научились мыслить. К чему это приведет?» Подобные заголовки все чаще стали фигурировать в СМИ. А под расплывчатым термином «искусственный интеллект» сейчас уже подразумевают искусственную нейронную сеть, которую не надо настраивать вручную, вводя миллионы параметров: нейросеть сама научится, что ей надо делать[7]. Впервые можно всерьез назвать такую нейросеть искусственным интеллектом. Раньше все были убеждены: нет ничего такого, что мог бы сделать компьютер, но не мог бы сделать человек. А сегодня мы уже живем в некой новой реальности: ученые создали нечто такое, что сами не могут объяснить. В нейросеть вводится определенный объем информации, который каким-то образом обрабатывается: нейросети выделяют в нем важные вещи и выдают некий новый продукт.
Среди лидеров развития этого направления Монреальский институт изучения алгоритмов, Центр изучения данных при Нью-Йоркском университете, Университет Торонто[8].
В этой связи обращает на себя внимание тот факт, что уже в конце мая 2016 года Европарламент представил проект, по которому роботам могут присвоить статус «электронных лиц», — их наделят правами и обязанностями, а владельцы должны будут оплачивать за роботов налоговые взносы. Также предлагается создать реестр интеллектуальных автономных роботов, за каждым из которых будут закреплены средства на покрытие его правовых обязательств[9].
Как следствие, в январе 2017 года в одном из комитетов Евросоюза был подготовлен доклад, в котором предусматривалось предоставление правового статуса роботам. Депутаты Европарламента приняли резолюцию, призвав Брюссель принять меры по робоэтике, поскольку роль роботов в повседневной жизни становится все более и более значительной[10].
В декабре 2016 года в российских СМИ появилась информация о разработке проекта федерального закона «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники», которым вводится понятие робота — устройства, способного действовать, определять свои действия и оценивать их последствия без полного контроля со стороны человека по результатам обработки информации, поступающей из внешней среды. Согласно этому документу робот, как и юридическое лицо, является особой юридической конструкцией, к которой могут применяться нормы об ответственности владельца источника повышенной опасности, поскольку робот может причинить вред.
В законопроекте также содержится понятие роботизированного агента — робота, который по волеизъявлению собственника и в силу своих конструктивных особенностей предназначен для участия в гражданском обороте. Роботизированный агент имеет обособленное имущество и отвечает им по своим обязательствам, может от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности, быть истцом и ответчиком в суде. При этом такой агент должен быть зарегистрирован в едином государственном реестре роботизированных агентов.
Порядок создания и ведения реестра роботизированных агентов, а также орган, уполномоченный в области создания и ведения такого реестра, должны определяться в соответствии с федеральным законодательством о робототехнике. При этом предлагаются четыре сценария, в которых действия робота могут подпадать под уголовную ответственность: «конструирование робота-убийцы специально для совершения правонарушения; отключение программных и аппаратных функций, блокирующих возможность причинения вреда человеку; конструирование робота, способного причинить вред человеку; конструирование робота без осознания того, что он может быть использован для причинения вреда человеку»[11].
Как скоро будет принят данный законопроект, пока неясно, но то, что роботы будут активно использоваться в юриспруденции, не вызывает сомнения. Однако судья Конституционного Суда РФ Г.А. Гаджиев считает, что в ближайшем будущем роботы не смогут рассматривать уголовные и гражданские дела, поскольку «не могут принимать те суждения, которые принимает суд, а также учитывать “человеческий фактор” и другие важные факторы». Об этом он заявил 15 мая 2017 г. на научно-практической конференции в рамках Международного Петербургского юридического форума[12].
В данном случае право необходимо рассматривать как наиболее ценный ресурс, способный оказывать свое влияние на все сферы общественной жизни. Речь, в частности, идет о том, что использование современных роботизированных систем не только порождает проблему «прозрачности» частной жизни личности, но и создает предпосылки возникновения социальной напряженности из-за их неконтролируемого развития, что представляет опасность для развития общества в целом.
Например, в университете Рединга (Велико-британия) еще с конца ХХ века проводится исследование искусственного интеллекта и процедуры контроля над ним. Создаются роботы, способные обучаться, общаться друг с другом и самостоятельно перепрограммировать самих себя. Одна из главных целей разработчиков сводится к соединению человеческого мозга с «мозгом» компьютера.
В Гарвардском, Калифорнийском, Принстонском университетах США с этого же времени проводятся исследования по расшифровке кодов нервной системы с целью создания приемлемых интерфейсов к мозгу человека. Кроме того, под патронажем Конгресса и Белого дома осуществляется разработка биотехнических систем, сопоставимых по размерам с атомами и молекулами, обладающих логикой и способностью воспроизводить самих себя. Проводятся эксперименты и по сборке из молекул простейших механизмов, которые, руководствуясь управляющими сигналами извне, должны манипулировать другими молекулами и создавать более сложные механизмы, вплоть до биороботов [4, с. 47—49].
Поскольку технологии искусственного интеллекта развиваются быстрыми темпами, людям придется все более активно контактировать с роботизированными системами. Осознание последствий внедрения в жизнь подобного рода технологий определяет необходимость регулирования общественных отношений, связанных как с процессами хранения и доступа к сведениям о личности в рамках электронных банков данных, так и с различными попытками передачи интеллектуальных и творческих функций человека роботизированным системам. Именно право, закрепляя определенные формы поведения, требуя их соблюдения, запрещая некоторые действия, призвано выступать в качестве стабилизирующего фактора социальной жизни — регламентировать развитие общественных отношений на единых общих началах [1, с. 331].
При этом важно заметить, что в рамках все более широкого внедрения роботизированных систем право, выступая в роли инструмента стратегического управления в обществе, имеет свои отличительные особенности, выделяющие его среди других средств управления. По мнению Р.З. Лифшица, назначение права состоит, прежде всего, в том, чтобы создать и обеспечить общественный порядок, преодолеть общественные противоречия, социальные конфликты [3, с. 170].
Между тем совокупность установленных нормами права качеств, дающая роботизированной системе возможность являться носителем юридических прав и обязанностей, может рассматриваться в качестве ее правосубъектности, которая характеризуется общественно-юридическими свойствами.
В данном случае общественная сторона правосубъектности выражается в том, что правовые признаки роботизированных систем законодатель не может избирать произвольно — они диктуются потребностями и закономерностями общественного развития. Юридическая же сторона такой правосубъектности определяется тем, что признаки роботизированных систем как субъектов права обязательно должны быть закреплены в юридических нормах.
Особенность правосубъектности роботизированных систем, выступающих в качестве юридического лица, заключается в том, что их правоспособность и дееспособность возникают и прекращаются одновременно: возникают — с момента их государственной регистрации (постановки на особый учет), а прекращаются — в момент изменения их функциональных качеств в процессе ликвидации (демонтажа, разрушения).
При этом важно учитывать, что правоспособность означает установленную законом способность роботизированной системы быть носителем субъективных прав и юридических обязанностей, которая выступает в качестве первоначального условия, общей предпосылки к участию такой системы в правоотношениях. Понятие правоспособности всегда связано с определенной отраслью права. Это обусловлено необходимостью вступления в правоотношения конкретной отраслевой принадлежности, поскольку наличие способности выступать субъектом права в целом предполагает наличие правоспособности в рамках хотя бы одной отрасли права.
В 1970—1980-е годы практически во всех развитых странах сложилось законодательство, регулирующее порядок обработки информации о населении (электронные банки данных о гражданах в большинстве стран Западной Европы и США связаны с учетами налоговых ведомств, служб социального обеспечения и правоохранительных органов). Хотя такое законодательство и получило обобщенное наименование «компьютерное право», по сути своей оно является совокупностью правовых норм, создаваемых по мере внедрения компьютерных технологий в общественную практику (без правовой концепции, ориентированной на развитие процесса информатизации) в связи с проблемами, решение которых откладывать было уже нельзя.
К таким проблемам в настоящее время относятся защита прав личности против злоупотреблений информацией персонального характера при ее обработке с применением ЭВМ, защита государственных интересов в связи с необходимостью регулирования «мировых информационных потоков», а также контроль за развитием робототехнических систем.
Первые законодательные инициативы, устанавливающие пределы вмешательства в частную жизнь, появились в 1970 году в ФРГ (земля Гессен); в 1973 году закон по проблеме защиты персональных данных был принят в Швеции. В 1974 году Конгресс США принял закон о неприкосновенности частной жизни, который был призван урегулировать правовое положение банков данных о населении, создаваемых государственными ведомствами. Позднее аналогичные законы были приняты во Франции (1978 год), Англии (1984 год) и других странах. Практически все развитые страны присоединились либо к Конвенции Совета Европы о защите физических лиц при автоматизированной обработке персональных данных 1981 года, либо к Рекомендациям Совета Организации по экономическому сотрудничеству и развитию по защите неприкосновенности частной жизни и международных обменов персональными данными 1980 года.
В отечественной юридической литературе термин «информация» в сочетании с термином «право» стало употребляться в конце 1970-х годов, но в несколько другой интерпретации. А.Б. Венгеров предложил понятие «информационное право», которое он понимал как совокупность норм о работе с информацией в управлении при автоматизации [2, с. 101].
Учитывая важность философско-правового осмысления возможных последствий внедрения роботизированных систем в жизнь российского общества, необходимо заметить, что отрасли права складываются исторически под влиянием объективных общественных процессов. Именно растущий в настоящее время спрос на использование роботизированных систем в связи с функционированием электронных банков конфиденциальной информации, с одной стороны, и необходимость защиты личности, общества и государства от целого ряда опасностей, связанных с внедрением новых информационно-электронных технологий, с другой, определяют неизбежность формирования новой отрасли права в российской правовой системе.
Понятие же «информационное право», как было отмечено участниками VII Международной научно-практической конференции «Право и информация: вопросы теории и практики», состоявшейся на базе Института законодательства и сравнительного правоведения при Правительстве РФ[13], все в большей мере подвергается критике, поскольку с теоретических позиций оно соотносится с некоторым гиперсистемным образованием, претендующим по мере развития информационного общества на постепенную аккумуляцию в себе признаков всех существующих отраслей права. Так птицы с незапамятных времен воодушевляли создателей самолетов, но никому из конструкторов не приходила в голову мысль о необходимости регулирования их полетов. Об этом стали задумываться лишь сравнительно недавно при решении проблемы безопасности взлета и посадки самолетов над аэродромами, в том числе с помощью роботизированных систем[14].
Аналогичным образом обстоит дело и с информацией. На протяжении тысячелетий человечество развивалось в условиях усложняющейся информационной среды (язык, письменность, книгопечатание, радио, телеграф, телефон, телевидение), но никто до 1970-х годов не предлагал регулировать обращение информации с помощью права. Лишь с развитием электронных систем хранения, обработки и доступа к информации все более настойчиво стали говорить о необходимости правового регулирования новой сферы общественных отношений. Вместе с тем очевидно, что такое регулирование не может быть всеобъемлющим. Оно должно распространяться на те отношения, которые наиболее значимы для развития социума (доступ к конфиденциальной информации, развитие био- и психокомпьютерных технологий). В противном случае речь пойдет о процессе тотальной регуляции жизни, которая не совместима с развитием гражданского общества.
В этой связи важно обратить внимание на то обстоятельство, что подобное развитие характеризуется в настоящее время в значительной степени циркуляцией информации по телекоммуникационным каналам связи.
Процесс переноса информации и механизм действия разрабатываемых в настоящее время роботизированных систем имеют ярко выраженную электронно-зависимую природу. С учетом этого представляется возможным вести речь о формировании отрасли информационно-электронного права, в рамках которой могут быть выделены два правовых института:
— институт информационно-электронной безопасности, устанавливающий права, обязанности, запреты и ответственность в сферах доступа к электронным банкам данных конфиденциальной информации и развития био- и психоинформационных технологий;
— институт информационно-электронного иска, регламентирующий порядок урегулирования конфликтных ситуаций, возникающих в связи с применением роботизированных систем в сферах хранения конфиденциальных данных, биоинженерии, психорегуляции.
Развитие информационно-электронного права, как представляется, должно базироваться на следующих общих принципах:
— принципе равной безопасности личности, общества и государства, реализация которого предполагает обеспечение безопасности электронных банков конфиденциальной информации при условии предельно допустимого учета и удовлетворения интересов личности, а также максимизацию угрозы наказания личности либо юридического лица, использующих опасные для существования роботизированных систем методы или приемы деятельности;
— принципе свободы выбора личностью либо юридическим лицом поведения в отношении конфиденциальной информации электронных банков данных и использования био- и психокомпьютерных технологий, который воплощается в оценке личностью баланса затрат и выгод при осуществлении тех или иных действий, связанных с доступом к роботизированной системе с целью изменения такой информации или функционирования системы.
Таким образом, дальнейшее развитие роботизированных систем предполагает создание правовых норм, предназначенных для регулирования отношений, складывающихся в связи и по поводу использования таких систем (в том числе в качестве юридических лиц) для хранения и доступа к сведениям конфиденциального характера, а также развития и применения био- и психокомпьютерных технологий.
Важно иметь в виду то, что появление роботизированных систем предполагает и появление новых форм преступности. Это нацеливает на обеспечение безопасности данных (их хранения и передачи) путем надежной идентификации и аутентификации пользователей, в том числе на основе создания соответствующих правовых норм.
Согласно Уголовному кодексу РФ нарушение правил эксплуатации средств хранения, обработки или передачи компьютерной информации и информационно-телекоммуникационных сетей признается преступлением (ст. 274). Однако проблема функционирования роботизированных систем гораздо сложнее. Видимо поэтому председатель Государственной Думы В. Володин считает, что «в течение пяти лет в России примут законы о взаимоотношениях людей и роботов, чтобы их социализация проходила без неприятных инцидентов — важно заранее обозначить права и обязанности как роботов, так и их создателей»[15].
В каждой отрасли права есть специальные нормы, назначением которых является установление круга субъектов, попадающих под действие норм данной отрасли. Это делается посредством перечисления признаков, указывающих на права и обязанности, которыми эти субъекты должны обладать, чтобы выступить в роли адресатов норм отрасли.
О каких правах и обязанностях роботизированных систем сегодня может идти речь? Видимо, допустимо говорить о праве на существование роботизированных систем, праве на их неприкосновенность, на выполнение ими своего предназначения, на их взаимодействие с людьми и предметами.
Представляется, обязанности для таких систем должны сводиться к следующему: система обязана не причинять вред человеку своими действиями или бездействием; система обязана выполнять команды человека, если они не наносят вред другим людям; система обязана заботиться о своей работоспособности (функциональности) в той мере, в какой это будет безопасно для человека.
Следовательно, в обозримом будущем государство, решая проблему правосубъектности роботизированных систем, призвано обеспечить не только условия для реализации прав этих систем, но и определять четкие юридические процедуры по реализации их обязанностей. Неприятие данной аксиомы фактически лишает смысла постановку вопроса о правосубъектности роботизированных систем.
Список литературы
- Алексеев С.С. Общая теория права: В 2 т. Т. 1. М., 1981. С. 331.
- Венгеров А.Б. Право и информация в условиях автоматизации управления. М., 1978. С. 101.
- Лившиц Р.З. Теория права: учеб. М., 1994. С. 170.
- Степанов О.А. Теоретико-правовые основы безопасного функционирования и развития информационно-электронных систем: дис. … д-ра юрид. наук.М., 2005. С. 47—49.
Библиография
1 Российский Сбербанк «наймет» роботов-юристов. URL: http://economy.apostrophe.ua/news/finansy-i-banki/2017-01-13/rossiyskiy-sberbank-naymet-robotov-yuristov/83301 (дата обращения: 23.04.2017).
2 Эффект от использования нейросетей многократно превосходит возможную ошибку: Вице-президент операционного управления «Ренессанс Страхование» Денис Быстров в интервью «Ъ FM». URL: https://www.kommersant.ru/doc/3093711 (дата обращения: 23.04.2017).
3 Дун И. Как живут нейросети в России. URL: https://www.pcweek.ru/themes/detail.php?ID=47817?ID=47817 (дата обращения: 23.04.2017).
4 Пахомов Ю. Цифровая трансформация: как освободить государство от его собственных оков? URL: https://www.pcweek.ru/gover/article/detail.php?ID=193667 (дата обращения: 23.04.2017).
5 Российская нейросеть в 2019 году составит конкуренцию колл-центрам. URL: https://okoplanet.su/science/sciencenews/340347-rossiyskaya-neyroset-v-2019-godu-sostavit-konkurenciyu-koll-centram.html (дата обращения: 23.04.2017).
6 Пахомов Ю. Цифровое правительство как локомотив цифровой экономики. URL: https://www.pcweek.ru/gover/article/detail.php?ID=193538 (дата обращения: 23.04.2017).
7 Пугач А. Человечество попало в нейросети. URL: hhttp://www.kp.ru/daily/26574.7/3589381/ (дата обращения: 23.04.2017).
8 Там же.
9 Europe’s robots to become ‘electronic persons’ under draft plan. URL: http://www.reuters.com/article/us-europe-robotics-lawmaking-idUSKCN0Z72AY (дата обращения: 23.04.2017).
10 Роботы должны иметь правовой статус электронных лиц, предупреждают депутаты ЕС. URL: http://777s.ru/2017/01/13/roboty-dolzhny-imet-pravovoy-status-elektronnyh-lic-preduprezhdayut-deputaty-es-6edo775vck.html (дата обращения: 23.04.2017).
11 Сергина Е., Болецкая К. Россия может первой узаконить роботов. Основатель Grishin Robotics Дмитрий Гришин разработал концепцию закона о робототехнике. URL: http://www.vedomosti.ru/technology/articles/2016/12/15/669703-rossiya-uzakonit-robotov (дата обращения: 23.04.2017).
12 Судья КС рассказал о будущем роботов в юриспруденции. URL: https://ria.ru/science/20170515/1494332513.html (дата обращения: 16.05.2017).
13 VII Международная научно-практическая конференция «Право и информация: вопросы теории и практики». URL: http://www.izak.ru/institute/events/vii-mezhdunarodnaya-nauchno-prakticheskaya-konferentsiya-pravo-i-informatsiya-voprosy-teorii-i-prakt/(дата обращения: 16.05.2017).
14 В Европе собираются законодательно урегулировать отношения людей и роботов. URL: https://robo-hunter.com/news/v-evrope-sobiraytsya-zakonodatelno-uregulirovat-otnosheniya-lydei-i-robotov (дата обращения: 16.05.2017).
15 Госдума примет закон о взаимоотношениях робота и человека. URL: https://rg.ru/2017/02/13/reg-pfo/gosduma-primet-zakon-ob-otnosheniiah-robota-i-cheloveka.html (дата обращения: 16.05.2017).
Спасибо за ваш голос!
Вы уже проголосовали!