§ 3.2. Экстраполяция модифицированных прав человека на юниты искусственного интеллекта
По мнению Джеймса Гэрфорта, ныне общественные и политические тенденции тяготеют к признанию других видов интеллекта, отличных от человеческого, а также к наделению носителей такого
461
интеллекта юридическими правами .
Хавьер Эредиа отмечает, что по настоящее время юнит искусственного интеллекта не имеет должного уровня самосознания и может существовать только зависимо от физического или юридического лица, создавшего его либо пользующегося результатами его деятельности, однако события и технологии развиваются быстро, и возможно в будущем возникнет вопрос о том, есть ли у электронного лица не только обязанности и функции, но и «права»[459] [460] [461].
Представьте себе, пишет Лоуренс Соулум, что искусственный интеллект заявляет, что он - это личность, и что он, следовательно,
463
претендует, притязает на определенные «конституционные права» .
Существенно значимым здесь является вопрос о том, применимо ли к юнитам искусственного интеллекта традиционное римское право с его концептом правосубъектности.
Наделение юнитов искусственного интеллекта правами, аналогичными человеческим, в результате «давления» со стороны общества и влияния общественных настроений видится весьма маловероятным, а с чисто экономической точки зрения это, по крайней мере, нецелесообразно.
Недавнее, столь широко освещённое в СМИ, предоставление подданства Королевства Саудовской Аравии человекоподобному роботу Софии (производства компании Hanson Robotics) (об этом было объявлено на конференции Future Investment Initiative в г. Эр-Рияде[462] [463]) придало дополнительный импульс и без того ведущейся на этот счёт научной дискуссии.
Как говорит Ф.В. Ужов, в случае если теория «мыслящих машин» (или же «сильного» искусственного интеллекта, т.е. искусственного интеллекта, способного мыслить соответственно и сообразно такой способности, присущей человеку) превратится в практику, перед законодателем неизбежно будет поставлен вопрос о наличии или же об отсутствии необходимости наделения носителя искусственного интеллекта
465
правами .
Должен ли, задаётся вопросом Лоуренс Соулум, закон давать конституционные (или какие-то иные) права юнитам искусственного интеллекта, которые обладают способностями, схожими с человеческими? Ответ зависит от природы конкретного конституционного права человека и от правопонимания основания этого права. Взять, к примеру, свободу слова. Если мы предположим, что такой ответ основывается на утилитарной версии теории рынка идей, в таком случае предоставление искусственному интеллекту свободы слова оказывается весьма простым (по крайней мере, в теории) и может обладать благоприятными последствиями для людей, так как это поможет дополнительно обеспечить производство полезной информации. Однако что, если свобода слова основывается на защите автономности личности? В таком случае сначала придётся ответить на вопрос, являются ли юниты искусственного интеллекта автономными[464].
Достижение автономности[465] - это ключевая перспектива развития технологий и юнитов искусственного интеллекта[466] [467]. Согласно пункту 3.4 ГОСТ Р60.0.2.1-2016 «Роботы и робототехнические устройства. Общие требования по безопасности», «автономность (autonomy) - способность выполнять поставленные задачи в зависимости от текущего состояния и
г 469
восприятия окружающей среды без вмешательства человека» .
Согласно интерпретации Комиссии по гражданско-правовому регулированию в сфере робототехники Европейского Парламента, автономность юнита искусственного интеллекта может быть определена как способность принимать решения и реализовывать эти решения во внешнем мире, независимо от внешнего контроля или определяющего влияния. Такая автономность юнита искусственного интеллекта носит чисто технологический характер, и степень такой автономности зависит от того, насколько усложнёнными являются интерреляции юнита искусственного интеллекта с окружающей средой[468]. От себя добавим: не менее важно то, с какой мерой субстантивности (то есть обладания самостоятельным, независимым существованием), самоосознания и самореферентности (в принятии решений) осуществляет эти интерреляции «разумная машина».
Если юнит искусственного интеллекта будет полностью автономным, то, должно быть, он будет осознавать свои действия. Если юнит искусственного интеллекта осознаёт свои действия, то он должен и нести за них ответственность. Де-юре автономность юнита искусственного интеллекта означает, что юнит искусственного интеллекта обладает правами и соответствующими обязанностями. Права и обязанности атрибутируются субъектам права, следовательно, если возобладает точка зрения о том, что юнит искусственного интеллекта должен и будет нести ответственность за свои действия, его придётся признать и сделать субъектом права[469] [470]. Но остановимся, прежде всего, на том, как именно это сделать, каким образом. О каких именно «правах» юнита искусственного интеллекта упоминается в дискуссиях? Одним из наиболее сложных для понимания, объяснения и обоснования является «право» юнита искусственного интеллекта «на жизнь» - право не быть уничтоженным. К примеру, Е. Плужник допускает возможность и необходимость обсуждения такого права юнитов искусственного интеллекта, как «право на потребление самого важного для них - электроэнергии»[471]. Ф.В. Ужов выделяет такое право юнита искусственного интеллекта, как право на целостность и неприкосновенность, подразумевающее, что любые изменение, модификация, форматирование либо ликвидация юнита искусственного интеллекта (или комплементарного (достраивающего до единого целого) с ним его программного обеспечения) могут быть осуществлены исключительно только с санкции уполномоченного органа власти, тогда как несанкционированные подобного рода действия квалифицируются как преступление против «электронной личности»473 [472]. Предметом дискуссии являются права владельца юнита искусственного интеллекта и самого этого юнита на указанные (автоматически санкционируемые) действия. Таким образом, можно обозначить следующие выделяемые «права» юнитов искусственного интеллекта: 1) право на функционирование, в определённой мере аналогичное жизнедеятельности живого биологического существа (на «жизнь»), в том числе право не быть терминально отключенным или полностью программно-переформатированным (оба этих действия приравниваются к убийству) вне рамок специально санкционируемых процедур; 2) право на энергообеспечение (связанное с «правом» позиции 1 выше); 3) право на самообучение; 4) право не подвергаться «издевательствам»; 5) право на продолжение установившейся по инициативе человека эмоциональной связи юнита с ним. Впрочем, не все авторы разделяют позицию о возможности наделения юнитов искусственного интеллекта аналогами прав человека. Согласно позиции Н. Аверченко, робот - это всего лишь «особая вещь, требующая особого рода регулирования», «вещь, источник .. 475 повышенной опасности с определенной встроенной автономностью» . Вопрос о необходимости (и соответственно - правовой возможности) наделения юнитов искусственного интеллекта некоторыми правами (и соответственно - правосубъектностью) Ф.В. Ужов обоснованно увязывает с резонами наделения юнитов искусственного интеллекта рядом обязанностей, в том числе - обязанностью нести ответственность за 476 совершенные ими деяния , за последствия таковых деяний. Джек Балкин отмечает, что юниты искусственного интеллекта могут рассматриваться законодательством намеренно в некоторых их аспектах в качестве своего рода «живых субъектов» по практическим соображениям или для достижения некоторых рациональных целей государственной политики. Например, роботы могут быть защищены от некоторых форм жестокого обращения - по соображениям опасения возможного проецирования жестокого обращения с роботом на обращение с животными и детьми. Кроме того, если говорить о практических целях, использование юнита искусственного интеллекта может рассматриваться (для минимизации необходимых изменений законодательства об авторском праве) как задействование на работе по найму, в рамках которой этот юнит создает служебные произведения[473] [474] [475]. Логика здесь, по словам Е. Красиловой, проста: если юниты искусственного интеллекта созданы «по образу и подобию человека», то у них должно быть и подобие прав и обязанностей; поскольку таковые тесно взаимодействуют с людьми, необходимо определить их юридический статус и роль в обществе . Луис Франко отмечает, что с учётом потенциальных возможных направлений развития технологий, касающихся использования искусственного интеллекта, необходимо подробное рассмотрение вопроса касательно определения правового статуса юнита искусственного интеллекта в целях содействия интеграции и сотрудничеству между человеком и машиной вместо конфликтов[476] [477]. Проблемой для исследователя-правоведа является то, что практически неизвестна (за редчайшим исключением) релевантная судебная практика по всем этим вопросам. В том числе и поэтому существенный научный интерес в рамках настоящего исследования представляет Решение Суда г. Нью-Йорк от 29.07.2015 по делу «Проект защиты прав негуманоидов против Стэнли»[478], где рассматривалась возможность наделения некоторыми фундаментальными правами (сходными с правами человека) двух негуманоидных субъектов - шимпанзе. Решение было вынесено не в пользу истца, однако судья Барбара Яффе отметила, что стремление распространить действие прав человека на шимпанзе понятно, и однажды такое стремление может увенчаться успехом. По мнению Камила Музики, обретение юнитами искусственного интеллекта прав, аналогичных правам человека, сегодня и в обозримом будущем маловероятно из-за устоявшегося антропоцентрического взгляда 481 на личность и соответствующих подходов к ее пониманию . [479]