Правовые проблемы и риски создания и задействования юнитов искусственного интеллекта
Активное использование юнитов искусственного интеллекта уже
129
сегодня влечет возникновение в правовом пространстве множественных неопределенностей, сложностей, проблем.
Искусственный интеллект выступает как источник огромных потенциальных выгод и детерминирует огромные потенциальные возможности как для публичного сектора, так и для частного .
И эти выгоды и возможности неразумно было бы не использовать.Эффективное правовое регулирование в сфере разработки и использования юнитов искусственного интеллекта необходимо для обеспечения того, чтобы такие искусственные интеллектуальные системы, во-первых, гармонично сосуществовали с людьми, действуя в рамках своего предназначения, а во-вторых - чтобы они соответствовали [129] [130] человеческим потребностям и ценностям и были способны адаптироваться 131 к таковым . При совершенствовании законодательства в этой области следует учитывать, что, с одной стороны, искусственный интеллект обладает значительным потенциалом для кардинальной перестройки общества, с другой стороны - всё же сохраняется существенная неопределённость относительно того, как именно будут развиваться соответствующие 132 технологии . Нерешённые юридические и нравственно-этические проблемы могут стать существенным препятствием для использования 133 потенциальных положительных сторон искусственного интеллекта . При этом полное бездействие (оставление на самотёк) со стороны органов государственной власти относительно решения проблемы надлежащего правового регулирования использования искусственного интеллекта не является выходом. Обоснованно выделять 2 основные группы правовых проблем, которые могут возникать при использовании искусственного интеллекта: [131] [132] [133] - проблемы, связанные с обеспечением надлежащего правового регулирования функционирования и использования (применения, задействования) юнитов искусственного интеллекта в целом, их решение может быть направлено, главным образом, на предотвращение нанесения вреда обществу и индивиду от массового (как следствие, нельзя исключать, - неосторожного и бесконтрольного) использования таких систем; - проблемы, связанные с надлежащим регулированием использования юнитов искусственного интеллекта в конкретных (общественно полезных) сферах деятельности либо для достижения тех или иных публичных интересов. И если для решения проблем первой указанной группы требуется разработка и утверждение универсальных принципов использования таких систем (актов технического нормативного регулирования), то во втором случае необходима надлежащая проработка всех аспектов и разработка детального правового регулирования применительно к каждой конкретной области использования искусственного интеллекта в целях максимизации полезных последствий, минимизации негативных, а также обеспечения соответствия принципам, распространяющимся на соответствующую сферу. Например, в случае использования искусственного интеллекта в публичном управлении должно быть обеспечено соблюдение важнейших принципов публичного управления[134]. Одной из потенциальных проблем применения юнитов искусственного интеллекта в таких сферах, как реализация публичного управления либо оказание юридических услуг, может быть отсутствие надлежащей прозрачности деятельности таких систем, в особенности - в процессе принятия решений такими системами. Так, по мере того как алгоритмы юнитов искусственного интеллекта становятся всё более развитыми, всё более затруднительным становится понимание человеком их внутреннего функционирования - внутренней «кухни», которую зачастую не могут объяснить и даже сами разработчики таких систем. Кроме того, поскольку подобного рода системы самоорганизуются, таковые, по сути дела, не имеют внешнего руководства, во всяком случае - если говорить не о чисто формальном внешнем руководстве . Вызывают беспокойство и вопросы обеспечения конфиденциальности личных данных при использовании искусственного интеллекта, в частности, если речь идёт о некоторых отдельных сферах, таких, как оказание медицинской помощи с задействованием рассматриваемых технологий. Решение возникающих или ожидаемых проблем требует сбалансированного подхода, поскольку излишняя конфиденциальность может также приводить к негативным последствиям[135] [136]. Исходя из допущения идеи абсолютного преимущества сверхразумного искусственного интеллекта, Ник Бостром говорит о необходимости уделения очень серьёзного внимания риску того, что действия взрывным образом развивающегося искусственного сверхразума (сверхмощная система в сфере выработки стратегии, способная разработать план, обеспечивающий существенный и быстрый прирост её собственных интеллектуальных способностей) могут привести к свершению самоуправства машин и, как следствие, причинению необратимого ущерба человеческой цивилизации или вообще к экзистенциальной катастрофе (гибели человечества). Если, конечно, человечество хочет пережить «пришествие сверхразумных машин в наш 137 мир», то следует принимать во внимание эти риски . 1.2.2.