Проблема правосубъектности искусственного интеллекта

Представления о современном обществе неразрывно связаны с понятием искусственного интеллекта, который в последнее время проникает во все стороны нашей жизни: голосовой помощник «Маруся», навигаторы в автомобилях, электронные переводчики, чат-боты, различные приложения для смартфонов, программа «умный дом» и обыкновенные роботы-пылесосы.

Отцы-создатели программисты и техники рассматривают ИИ (artificial intelligence, AI), как некое свойство технических систем, берущих на себя отдельные функции интеллекта человека, заключающиеся в способности выбирать и принимать оптимальные решения на основе ранее полученного опыта и рационального анализа внешних воздействий.

В связи с некой схожестью по результатам деятельности искусственного интеллекта с человеческим в гражданском праве встает проблема правовой дефиниции искусственного интеллекта и проблема его правосубъектности.  Сложность разрешения вопроса связана с тем, что на него нельзя отвечать исключительно с позиции юриспруденции, так как само создание относится творению IТ- индустрии, которая в настоящий момент его активно изменяет и совершенствует. В результате чего сам предмет исследования пребывает в неком эволюционирующем состоянии и все это, в свою очередь, создает трудности как в научно-техническом, как и в юридическом осмыслении понятия искусственного интеллекта.

Но при всем этом следует отметить, что данная задача является первоочередной и требует настоятельного осмысления. Данный факт подтверждается тем, что почти все передовые государства мира друг за другом обозначают развитие искусственного интеллекта как первоочередную стратегическую задачу и постоянно увеличивают капиталовложения в IТ- отрасли.

Не осталась в стороне и Россия. Правовая проблема развития искусственного интеллекта в РФ была озвучена Указом Президента РФ от 10.10.2019 года № 490 «О развитии искусственного интеллекта в Российской Федерации» и затем получила дальнейшее законодательное оформление в «Стратегии развития искусственного интеллекта до 2030 года». Именно в этих правовых актах в истории России впервые была сделана попытка дать законодательную дефиницию Искусственного интеллекта.

В 5 пункте данного документа искусственный интеллект рассматривается как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. При этом отдельно отмечается, что комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений». Необходимо отметить, что данная дефиниция мало чем отличается от предложенной выше трактовки данного понятия IT-специалистами. То есть информационно-техническое понимание искусственного интеллекта стало первоистоком в законодательном оформлении.

При этом законодатель определяет весьма широкие границы понятия, включая в него практически все новинки в области IT-индустрии, выступающих как некое автономное электронное устройство, способное принимать решения, которым свойственны когнитивные функции.

Следует отдельно отметить, что технологиям искусственного интеллекта пункт 5 «Стратегии…» относит технологии, основанные на использовании искусственного интеллекта, включавшие компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы искусственного интеллекта.

В связи с приближением некоторых свойств искусственного интеллекта к человеческим, невольно встаёт вопрос о правоспособности и гражданско-правовой ответственности ИИ.

Отдельно следует отметить, что проблема правосубъектности искусственного интеллекта напрямую связана с его видом и возможностями его использования. В IT-индустрии принято разделять искусственный интеллект на три типа: слабый, сильный и супер-интеллект. Остановимся отдельно на характерных чертах данных видов.

Слабый ИИ (Narrow AI)

Слабый искусственный интеллект рассматривается в IТ-индустрии как прикладной, который выполняет узконаправленные задачи. Данный подвид интеллекта вообще не обладает никаким сознанием и работает только в рамках заранее созданного автором алгоритма. К сожалению, большинство окружающих нас ИИ-технологий — это примеры слабого ИИ, в том числе Google Assistant, Google Translate, Siri и другие инструменты обработки естественного языка. Они слабые, так как они не могут думать самостоятельно, хотя при этом они очень даже способны обрабатывать человеческую речь, отвечать на некоторые вопросы.Данная система просто не сможет выйти за рамки поставленных перед ней задач, а подчас и достаточно полно и корректно выполнить их. И следовательно, проблема правоспособности такого искусственного интеллекта отпадёт сама собой.

Сильный ИИ или ИИ общего значения (General AI)

Следующий вид искусственного интеллекта – сильный. Он имеет много схожего с человеческим разумом, и поэтому он способен выполнять задачи, которые не может сделать среднеарифметический человек. Но при этом ИИ общего значения не может мыслить абстрактно или выдвигать новые креативные идеи. Гениальный человек все же способен превзойти в данном вопросе сильный искусственный интеллект. Мыслительная деятельность их будет существенно ограничена конкретными рамками. Даже современные сильные ИИ не способны справится со сложными проблемами в условиях неопределенности. Поэтому ИИ в данном случае станет лишь рабочей машиной в руках исследователя.

Супер-ИИ (Super AI)

Если и можно будет говорить о правосубъектности искусственного интеллекта, то только в контексте супер-ИИ. Супер-интеллект – совсем иное явление с точки зрения правовой сферы. Именно над юридическими характеристиками этого подвида следует поразмышлять. Для начала стоит выяснить черты, которые отличают сильный интеллект от слабого, сближающие его с личностью гражданина, обладающей правосубъектностью. 

Термин супер-интеллект был введен в научный обиход в IT-технологий еще в 1980 г Джоном Сёрлом в 1980 г. в работе, описывающей мысленный эксперимент «Китайская комната». Сила и сверхспособности супер-ИИ состоят в том, что он способен мыслить и осознавать себя как отдельная личность, то есть он может понимать собственные мысли. И тогда получается, что его мыслительный процесс можно сравнить с человеческим. То есть именно в этом случае у искусственного интеллекта появляются некие когнитивные способности, которые способны дать начало саморазвитию и именно поэтому деятельность Супер-ИИ сопоставима с деятельностью человека и попадает под определение пункта 5 «Стратегии».

Какой же потенциально очень высокий искусственный интеллект можно наделить правоспособностью? Современные IT-специалисты наделяют подобный суперинтеллект следующими чертами:

• принятием решений в условия неопределенности;
• способность к обучению;
• наличием силы воли, то есть возможности объединить свои способности для достижения конкретных целей;
• наличием сознания, выраженного в способности понимать свои мысли и давать им отчет, и самосознания, то есть осознания себя как отдельной личности, связанной с пониманием своей индентифитичности;
• присутствием собственной мотивации поведения;
• сопереживанием происходящему
• наличием этики поведения и механизмов самоконтроля.

Именно эти черты позволяют человеку является неким уникальным сознанием. Поэтому появление подобного сознания у супер-искусственного интеллекта позволяет юристам поставит вопрос о правосубъектности такого создания.

Невольно возникает вопрос: «Существует ли вообще подобный сверх-интеллект?». С однозначностью можно ответить, что в современной мире подобного сверх-разума ученые пока не создали. И поэтому проблема постановки вопроса правосубъектности преждевременна. Но поскольку разработки в данном русле активно проводятся и надежды на создание подобного изобретения имеют место быть, то вопрос об определении правового статуса искусственного интеллекта чисто гипотетически встают с новой силой.

Неоспорим тот факт, что если подобный супер-ИИ будет создан, то он вполне может соперничать с человеческим интеллектом и создать много проблем в правовой плоскости.

Важно отметить, что прецедент, связанный с вопросом о наделении сильного искусственного интеллекта элементами правосубъектности, уже имел место в правовой практике Западной Европе. В качестве подтверждения можно привести заседание парламента Европарламента в 2017 г. В результате чего появился отдельный правовой акт «Рекомендации от Европарламента к Европейской Комиссии относительно норм гражданского права о робототехнике». В нем отдельно оговаривался статус умных роботов, которых в соответствии с характеристиками вполне можно отнести к супер-интеллекту отмечалась необходимости наделения умных роботов особым правовым статусом в долгосрочной перспективе.

Умным роботам предоставлялся отдельный статус электронного лица и отдельно оговаривался тот факт, что «наиболее продвинутые автономные роботы могут создаваться как электронные лица и нести ответственность за причиненный ущерб в тех случаях, когда они принимают решения автономно или иным образом самостоятельно взаимодействуют с третьими лицами».

С правовой точки зрения, к сожалению, так и не были определены виды юридической ответственности, которые можно было бы предъявить искусственного интеллекту или, например, проблемы компенсации вреда, причиненного жизни и здоровью человека, имуществу физического или юридического лица. Это так и осталось правовым пробелом европейского права.

В современной юридической литературе все чаще ИИ относят к электронному лицу, которое бы отчасти могло бы разрешить сложившуюся дилемму права в отношении ИИ. Так Ф.В. Ужов предлагает следующее определение этого юридического понятия: «Электронное лицо — это носитель искусственного интеллекта (машина, робот, программа), обладающий разумом, аналогичным человеческому, способностью принимать осознанные и не основанные на заложенном создателем такой машины (робота) алгоритме решения и в силу этого наделённый определёнными правами и обязанностями». Таким образом, ИИ может функционировать в рамках электронного лица, пока не определенно иное. Это лицо может развиваться, подстраиваться под происходящие в мире изменения, занимая особую нишу в вопросе субъектов права.

Концепция правосубъектности электронного лица в настоящее время в правоведении тоже весьма спорна. В рамках данной проблемы выделяется три подхода.

Первый подход самый сложный, ведь его сторонники приравнивают правосубъектность ИИ к физическому лицу. Но эта позиция имеет смысл лишь том случае, если мы будем иметь дело с супер-искусственным интеллектом, который сможет осознавать применение определенных законом мер ответственности, которые воздействуют на некого как наказание, что безусловно будет трудно сделать в условиях современного развития IТ- индустрии, которая еще не достигла еще такого уровня.

Сторонники второго подхода приравнивают правосубъектность ИИ к правосубъектности юридического лица. Но поскольку ответственность юридического лица на практике всегда оборачивается некой фикцией, поскольку за решениями юридического лица всегда стоит отдельный человек, занимающий какой-либо пост. И в данном случае правосубъектность ИИ тоже станет некой профанацией, ведь ИИ не достиг еще сознания, свойственного человеку.

Третья позиция отождествляет правосубъектность искусственного интеллекта с правосубъектностью малолетних детей, которые частично дееспособны. И за вред, причинённый им ответственность несут их законные представители.

В общем и целом, следует еще раз отметить, что проблему правосубъектности электронного лица при данном уровне развития науки и техники затрагивать преждевременно. В юридическо-правовой плоскости вопрос может быть поставлен не о правоспособности и ответственности электронного лица, а об юридической ответственности физического или юридического лиц, осуществляющих данную деятельность, связанную с ИИ, то есть об ответственности создателя или эксплуататора данной системы.

Поэтому на законодательном уровне в РФ проблемы правосубъектности и ответственности ИИ не поднимаются, а определяются лишь принципы развития и использования искусственного интеллекта. Согласно 19 пункту Стратегии:

• «такие как защита прав и свобод человека: обеспечение защиты гарантированных российским и международным законодательством прав и свобод человека, в том числе права на труд, и предоставление гражданам возможности получать знания и приобретать навыки для успешной адаптации к условиям цифровой экономики;
• : недопустимость использования искусственного интеллекта в целях умышленного причинения вреда гражданам и юридическим лицам, а также предупреждение и минимизация рисков возникновения негативных последствий использования технологий искусственного интеллекта;
• : объяснимость работы искусственного интеллекта и процесса достижения им результатов, недискриминационный доступ пользователей продуктов, которые созданы с использованием технологий искусственного интеллекта, к информации о применяемых в этих продуктах алгоритмах работы искусственного интеллекта;
• технологический суверенитет: обеспечение необходимого уровня самостоятельности Российской Федерации в области искусственного интеллекта, в том числе посредством преимущественного использования отечественных технологий искусственного интеллекта и технологических решений, разработанных на основе искусственного интеллекта;
• целостность инновационного цикла: обеспечение тесного взаимодействия научных исследований и разработок в области искусственного интеллекта с реальным сектором экономики;
• разумная бережливость: осуществление и адаптация в приоритетном порядке существующих мер, направленных на реализацию государственной политики в научно-технической и других областях;
• поддержка конкуренции: развитие рыночных отношений и недопустимость действий, направленных на ограничение конкуренции между российскими организациями, осуществляющими деятельность в области искусственного интеллекта».

Важно отметить, что в связи с использованием искусственного интеллекта разных уровней в юридической практике возникают и другие проблемы, кроме определения правосубъектности ИИ, которые следовало бы официально обозначить в правовых документах.

Среди них следует выделить проблему обеспечения конфиденциальности личной информации. Иногда информация, которую получает ИИ становится достоянием общественности. Данные действия являются не только грубым нарушением личных прав граждан, но и причиной, наносящей моральный вред личности гражданина. Поэтому следует отдельно в ГК РФ оговорить запрет на распространение личной информации граждан и ответственность в случае нанесения нравственного ущерба ИИ человеку.

Другим вопросом, который требует рассмотрения, является проблема вреда, приносимого ИИ гражданам в связи с оказанием некачественных услуг. Вообще использование ИИ в правовой плоскости можно с полной уверенностью отнести к деятельности, связанной с источниками повышенной опасности. Поэтому следует повысить государственный контроль, в связи с этим встает вопрос и об обязательной сертификации деятельности ИИ в разных областях. Данная проблема уже затронута в гражданском праве РФ.

Так, в соответствии со статьей 1079 Гражданского кодекса Российской Федерации ответственность за вред, причиненный с применением искусственного интеллекта, возлагается на его владельца. Однако при причинении вреда вследствие заводской неисправности технологии искусственного интеллекта, то ответственность несет производитель (программист) искусственного интеллекта в соответствии с законом Российской Федерации от 07.02.1992 № 2300–1 «О защите прав потребителей».

Таким образом из всего вышесказанного можно сделать вывод, что в настоящее время проблема дефиниции ИИ и правосубъектности находится в зачаточном стоянии. Данные правовые проблемы только начинают «прорисовываться» в современном гражданском праве, получая нечеткие юридические очертания.

Следует отметить, что в ГК РФ нет правовой дефиниции данного понятия, она представлена лишь на уровне подзаконных актов, в частности в указе Президента и Стратегии развитии.

Исходя из этого представляется невозможным определить правосубъектность ИИ. Кроме этого, данный пробел в законодательстве обусловлен и объективными причинами, а именно уровнем современной развития IТ-индустрии.

Понятие правосубъектности гипотетически можно было бы отнести исключительно к сверх-интеллекту, так как только у него появляются когнитивные функции, свойственные человеку. И только в случае изобретения подобного творения можно будет юридически оформлять понятие правосубъектности ИИ.

Но вместе с этим, деятельность в рамках ИИ порождает много юридических проблем уже сейчас, которые требуют настоятельного решения. И среди них следует выделить проблему защиты конфиденциальности личной информации при работе с ИИ, проблему компенсации морального вреда, наносимой ИИ технологиями, и проблему отнесения ИИ технологий к источникам повышенной опасности.

Все это необходимо обозначить в области российского права уже сейчас.

 

Список используемых источников и литературы

1. «Гражданский кодекс Российской Федерации (часть вторая)» от 26.01.1996 N 14-ФЗ (ред. от 24.07.2023) (с изм. и доп., вступ. в силу с 12.09.2023) // Собрание законодательства РФ. 1996. №5. Ст. 410.
2. Закон РФ от 07.02.1992 N 2300-1 (ред. от 04.08.2023) «О защите прав потребителей» // Собрание законодательства РФ. 1996. №3. Ст. 140.
3. Нестеров А. В. Возможны ли правоотношения и юридические взаимодействия между людьми и роботами? М. 2016. С. 7.
4. Новый уровень искусственного интеллекта: что такое AGI, когда он появится и будет // [Электронный ресурс]. URL: https://skillbox.ru/media/code/novyy-uroven-iskusstvennogo-intellekta-chto-takoe-agi-kogda-on-poyavitsya-i-kakim-budet/?ysclid=lq0wdptkes691390499
5. Рыжкова Е.А., Рыжкова Е.К. Искусственный интеллект как элемент цифрового отношения // Юридические исследования. 2022. № 8. С. 1-11.
6. Софтверный занавес: что на самом деле нужно IТ-компаниям для экспансии // [Электронный ресурс]. URL: https://www.rbc.ru/opinions/business/19/11/2015/564d78a89a7947a472bbce3c?ysclid=lq0wm82gco598567874
7. Ужов Ф.В. Искусственный интеллект как субъект права // Пробелы в российском законодательстве. 2017. № 3. С. 357-360 // URL: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-kak-subekt-prava.
8. Указ Президента Российской Федерации от 10.10.2019 года № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // Собрание законодательства Российской Федерации.14.10.2019. № 41. Ст. 5700.
9. Что показали исследования суперинтеллекта? // [Электронный ресурс]. URL: https://blog.wikium.ru/chto-pokazali-issledovaniya-superintellekta.html?ysclid=lq0wfib7kf386337698
10. Юридическая концепция роботизации: монография / Н. В. Антонова, С. Б. Бальхаева, Ж. А. Гаунова и др.; отв. ред. Ю. А. Тихомиров, С. Б. Нанба. М. 2019. 240 с.