Роботы и искусственный интеллект все шире проникают в нашу жизнь. Мы уже свыклись с мыслью о том, что скоро они будут окружать людей повсюду и станут, видимо, умнее нас. Смогут не только управлять полетом или выигрывать в шахматы, но и принимать решения, как настоящая электронная личность. Какими правами будет обладать такой интеллект? Нужен ли ему паспорт? Резолюция, принятая Европарламентом несколько месяцев назад, предусматривает и такое: специализированное агентство по робототехнике и искусственному интеллекту будет заносить умные машины в особый реестр. А что еще?
Конкуренция законов
Еще в 2006 году Германия одной из первых в мире приступила к широкой программе роботизации и информатизации промышленности. Сегодня о четвертой промышленной революции не говорит только ленивый. Постепенно этот вопрос стал одним из основных в стратегической повестке всего Евросоюза. В 2013 году власти ЕС создали частно-государственное партнерство SPARC - проект, целиком посвященный финансированию и развитию робототехники.
Однако конкуренция в этой сфере очень высока. Китай не горит желанием терять звание «мировой фабрики» и внедряет промышленных роботов тысячами. Япония ищет в роботах возможность решить проблему стареющего населения. США лидирует по числу компаний, занимающихся исследованиями и разработкой роботов, а Южная Корея — по их использованию в промышленном производстве.
При таком активном соперничестве на первый план выходят вопросы регулирования робототехники, которые могут принести вполне осязаемые экономические и технологические результаты. Так, принятый в Корее в 2008 году закон «О развитии и распространении умных роботов» позволил поднять их производство к 2016 году на 80% и принес стране 4 млрд долларов. Господдержка может ускорить или затормозить развитие отрасли, а государство, принявшее всестороннее законодательство в этой сфере, задаст стандарты, на которые будут ориентироваться и остальные страны.
Первый робоевропейский
В феврале 2017 года Европарламент принял резолюцию «Нормы гражданского права о робототехнике». Документ, состоящий из более чем сотни пунктов, посвящен самым разным аспектам и проблемам робототехники и искусственного интеллекта. В частности, предлагается внедрение общеевропейской системы регистрации умных машин.
По замыслу парламентариев, отдельным категориям роботов следует присвоить индивидуальный регистрационный номер, который будет заноситься в специальный реестр. Здесь желающие смогут найти детальную информацию о роботе, включая данные о производителе, владельце и условиях выплаты компенсации в случае причинения вреда. Поддержанием системы и контролем должно заниматься специализированное агентство по робототехнике и искусственному интеллекту, которое могло бы взяться и за другие аспекты регулирования в этой области.
Кроме того, Европарламент совершенно справедливо заметил, что одной из самых быстрорастущих областей остается роботизация человеческого организма, которая ведет к возрастанию нашей зависимости от гаджетов. Но что делать человеку, если производитель имплантата по каким-то причинам перестанет его поддерживать — например, обанкротится?..
Проблему предлагается решить созданием независимых доверенных организаций, которые займутся сохранением работоспособности жизненно важных носимых медицинских устройств — от технического обслуживания до ремонта и апгрейда. Для таких фирм производители обязаны будут сохранять и предоставлять всю техническую информацию о своих устройствах, включая копию исходного кода программ.
Страховка для робота
Парламентарии выступают и за введение страхования ответственности за причиненный роботом вред — по аналогии с ОСАГО или если как купить КАСКО. В самом деле, чем выше уровень автоматизации машины, тем сложнее установить лицо, несущее ответственность за нанесенный ею ущерб. Поэтому обязательное страхование рисков, связанных с действиями роботов, позволит пострадавшему гарантированно получить компенсацию, а на случаи, которые не покрываются страховкой, может быть использован резервный компенсационный фонд.
Впрочем, Европарламент заглянул и дальше — в эру полностью самостоятельных машин, которые смогут сами находить себе контрагентов-работодателей, обсуждать условия договоров и решать, как их исполнять. Пока что чиновники не смогли договориться, по каким именно правилам будет наступать ответственность за вред, причиненный такой полностью автономной машиной. Этот вопрос оставлен на ближайшее будущее.
Хартия робовольностей
Беспокоит Европарламент и нравственная сторона развития робототехники. Поэтому в качестве приложения к резолюции парламентарии представили «кодекс этики», которым разработчикам робототехники предлагают руководствоваться добровольно. Пожалуй, с ключевыми принципами кодекса легко согласятся все: «делай благо» и «не навреди» заимствованы из знаменитых «законов роботехники» Айзека Азимова. Принцип самостоятельности подразумевает добровольное информированное согласие человека на взаимодействие с роботом, а принцип справедливости — правильное распределение созданных при этом благ.
Интересный пункт этого документа — «право на undo», возможность отмены действия, которая должна стать обязательной функцией системы контроля робота. Кроме того, парламентарии задали рамки будущей всеобъемлющей «Хартии робототехники». Предлагается подумать даже о том, должны ли в перспективе самые совершенные автономные роботы получить особый правовой статус электронных лиц — «с их особыми правами и обязанностями, включая обязанность возмещения любого причиненного ими вреда».
Неудивительно, что именно это (в общем, второстепенное) положение резолюции стало самым обсуждаемым публикой. Однако многие юристы рассматривают такие планы как уж слишком преждевременные. В исследовании, которое Натали Невеянс из Центра изучения права, этики и процедур (Университет Артуа) провела для Европарламента, идея названа «бесполезной и неуместной». По мнению ученой, сторонники электронной личности слишком ориентируются на научную фантастику, воспринимая роботов как железных человеческих двойников. Придавать им особый общественный статус — «значит размывать границы между человеком и машиной, между живым и мертвым, человеческим и нечеловеческим».
Юридические итоги
Стоит сказать, что законотворческий процесс в ЕС очень специфичен. Принятая резолюция технически еще не закон: правом законодательной инициативы здесь обладает лишь Еврокомиссия. Поэтому резолюцию Европарламента стоит рассматривать как формальное обращение к ней с просьбой принять те или иные конкретные меры. Шар на стороне законодателей — и хотя реагировать на такие документы Еврокомиссия не обязана, мало кто сомневается в том, что в ближайшее время будет принят и четкий закон, регулирующий робототехнику. Возможно, он ляжет в основу законодательств других стран — и всего нашего будущего.
Законы роботехники
Человечеству не привыкать к тому, что законы нового общественного уклада сперва обдумывают философы, фантасты — и лишь затем к ним подступаются юристы и экономисты. Законы роботехники пережили ту же эволюцию, начиная от первого появления на книжных страницах, через сатиру, фантастику и любительские дискуссии до обсуждения серьезными бизнесменами и официальными лицами.
Вариант: Айзек Азимов. Год: 1942
Справка: В 1986 году в романе Азимова «Академия и Земля» появляется Нулевой закон роботехники: «Робот не может навредить человечеству или своим бездействием допустить, чтобы ему был нанесен вред». В 2016 году американский профессор-юрист Марк Ротенберг выдвинул Четвертый и Пятый законы: «Робот должен открыто идентифицировать себя» и «Робот должен быть способен публично обосновать свои действия».
Законы робототехники Азимова:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
- Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.
Вариант: EPSRC. Год: 2011
Справка: Комитет по инженерии и научным исследованиям (Engineering and Physical Sciences Research Council) — британское государственное агентство, занимающееся регулированием научно-технической сферы в стране.
Законы робототехники EPSRC:
- Роботы не должны разрабатываться с единственной целью уничтожения или причинения вреда людям.
- Ответственным лицом выступает человек, а не робот. Робот — инструмент для достижения человеческих целей.
- Роботы должны разрабатываться с учетом безопасности их использования.
- Роботы — искусственные создания, они не должны играть на эмоциях чувствительных людей. Робот не может быть неотличимым от человека.
- Всегда должна иметься возможность узнать лицо, юридически ответственное за данного робота.
Вариант: Сатья Наделла. Год: 2016
Справка: В то время глава Microsoft; правила были перечислены в интервью журналу Slate.
Законы робототехники Наделла:
- Искусственный интеллект (ИИ) должен создаваться, чтобы помогать человечеству.
- ИИ должен быть прозрачен: всегда должна иметься возможность выяснить, как он работает.
- ИИ должен приводить к росту эффективности решения задач, не нарушая достоинства людей.
- ИИ должен поддерживать разумную конфиденциальность и заслужить доверие, защищая вверенную ему информацию.
- ИИ должен контролироваться алгоритмически: человек имеет возможность «отменить» ненамеренно причиненный им вред.
- ИИ должен быть защищен от помех и относиться ко всем людям одинаково.
Вариант: Марк Тильден. Год: 2016
Справка: Крупный робототехник, основатель компании WowWee, автор концепции BEAM. Его правила созданы именно для BEAM-роботов, которые построены на основе простых аналоговых цепей — нехитрых, зато надежных и эффективных.
Законы робототехники Тильдена:
- Робот должен защищать свое существование любой ценой.
- Робот должен находить и поддерживать доступ к источнику энергии.
- Робот должен постоянно искать новые, лучшие источники энергии.
