16 февраля в газете The Times была опубликована информация о докладе, посвященном перспективам военной робототехники, который был подготовлен Калифорнийским государственным политехническим университетом для ВМС США. Ученые пришли к выводу, что боевые роботы, которым предстоит участвовать в вооруженных конфликтах, должны "жить" в соответствии со строгими правилами, чтобы не представлять угрозу для человека, а также учиться этике ведения войны. Данное исследование стало первой серьезной работой, рассматривающей боевых роботов в качестве солдат, способных принимать самостоятельные решения на поле боя.
Прикладной Азимов
Идею создания свода законов для роботов нельзя назвать совсем новой. У писателей-фантастов она обрела популярность еще в начале прошлого столетия. В частности, в 1942 году в своем рассказе "Хоровод" Айзек Азимов сформулировал "Три закона роботехники", которые фактически стали прописной истиной для прикладных исследований в этой области:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Для создания современных роботов военного назначения эти правила уже не совсем применимы. Машинам, созданным для борьбы с солдатами противника или террористами, причинять вред людям придется по определению. Но если дело дойдет до полностью самостоятельного интеллекта, с помощью которого робот сможет принимать решения без участия человека, то последствия его действий могут быть непредсказуемыми.
Составители доклада пришли к выводу: мнение о том, что робот способен делать лишь то, на что он запрограммирован, является устаревшим. Современное программное обеспечение разрабатывается множеством специалистов. При этом отдельные участники таких проектов могут не знать особенностей программы в целом. Соответственно, отдельные элементы кода в сочетании могут дать самый неожиданный результат при практическом применении.
На примере обычных компьютерных программ понятно - среди них нет идеальных образцов, которые не содержали бы в себе хоть какие-нибудь ошибки. Даже такие софтверные гиганты, как Microsoft, вынуждены годами дорабатывать свое ПО, выпуская тысячи обновлений и исправлений, а заодно и выслушивая критику недовольных пользователей. Но обычные программы, даже неисправные, никого не могут убить. А вот если боевой робот перепутает своих и чужих или просто начнет уничтожать все живое вокруг, жаловаться в службу клиентской поддержки будет поздно.
В своем исследовании ученые также задают множество вопросов, на которые, судя по всему, разработчики роботов пока не могут найти ответы. Например, каким образом боевую технику удастся надежно защитить от вирусов и хакеров? Кто будет нести ответственность за сбой в программе боевого робота, который вдруг начнет массово уничтожать мирных жителей - сам неисправный механизм, допустивший ошибку программист или же президент США, отдавший приказ о начале боевых действий?
Еще один серьезный вопрос - нужна ли такому роботу функция самоуничтожения, которую ученые называют "суицидальным выключателем", или же, напротив, она может быть использована в ущерб машине?
Окончательный вывод, который делают ученые, неутешителен - без правил и даже "программы обучения" вновь созданных самоуправляющихся роботов эксплуатировать опасно. Авторы также предостерегают как Пентагон, так и американских производителей, которые, по их выражению, "рвутся на рынок", от самодовольства и поспешности.
Полуумное железо
Сказать точно, насколько далеко удалось зайти американским инженерам в своих попытках разработать настоящих самоуправляемых роботов-убийц, довольно сложно. Такие работы, скорее всего, ведутся, но из-за своей новизны и специфичности они наверняка засекречены. Пока же американские производители радуют свою армию очередными "полуумными" изобретениями.
В 2007 году немецкий журнал Spiegel сообщил о первых попытках применения боевых роботов в Ираке американскими военными. Вооруженными силами США уже используются различные модификации роботов, которые способны вести разведку и производить разминирование, однако попыток применить на практике машины, способные уничтожать живую силу противника, ранее не предпринималось.
Разработчики отмечают, что робот Swords, созданный специалистами американской компании Waltham, стал первой такой машиной в истории войн. Хотя это изобретение скорее напоминает не робота, а игрушечную машинку на гусеницах, да и до самоуправления ей пока еще очень далеко - руководить роботом-убийцей приходится оператору с помощью специального оборудования.
Вооружена машина пулеметом M249. Кроме этого, как утверждают разработчики, она может использоваться в любое время суток, а также преодолевать самые сложные препятствия, включая ступени.
Испытания Swords, по отзывам военных, дали положительные результаты. Однако, как не без горечи сообщил немецкому изданию представитель компании-разработчика, о том, удалось ли с помощью изобретения уничтожить хотя бы одного боевика, им на тот момент так и не сообщили. А в настоящее время практическое применение Swords вообще приостановлено по неизвестным причинам.
Еще более внушительно выглядит робот Gladiator, разработанный в американском Университете Карнеги-Меллона и впервые представленный в 2005 году. Эти роботы, которым пока также далеко до самоуправления, существуют в различных модификациях, а сама программа по их созданию финансируется Пентагоном. Высокопоставленный представитель морской пехоты США уже заявил, что за этой машиной "будущее ведения боевых действий".
Gladiator позиционируется как "полуавтономный" робот. Изначально машины не предназначались для поражения живой силы противника, а должны были проводить осмотр местности, предупреждать солдат об опасностях, таких как минные поля, ловушки, засады, а также о возникновении химической, биологической и ядерной угрозы. Позже военные, принявшие новинку на вооружение, установили на нее дистанционно управляемый пулемет M240.
В декабре 2007 года об еще одной разработке американских ученых сообщил телеканал CNN. 25-летний инженер-самоучка Адам Геттингс, работающий на созданную несколько лет назад компанию Robotex, представил свое детище - малогабаритного робота MH, вооруженного пулеметом. Машина, высота которой составляет около полуметра, способна передвигаться со скоростью около 15 километров в час и управляется дистанционно. В отличие от дорогостоящего Gladiator, который оценивают в сотни тысяч долларов, ее стоимость составляет 30-50 тысяч.
Деятельность Robotex финансируется частными инвесторами-энтузиастами, хотя компания надеется, что ее разработками заинтересуется и Пентагон. Robotex также рассчитывает на американских полицейских, поскольку некоторые модификации их роботов способны вооружаться не только летальным оружием, но и электрошоковыми устройствами Taser.
В начале июня 2008 года американская компания Foster-Miller также сообщила о завершении поставок министерству обороны США первого боевого робота MAARS (Modular Advanced Armed Robotic System). Уже тогда американские военные объявили, что в целом до 2014 года в 15 сухопутных бригад ВС США должны поступить 1700 боевых роботов и что при этом соотношение личного состава к количеству машин достигнет 29 к 1. К концу 2014 года все 1700 роботов будут готовы к применению.
На MAARS можно устанавливать пулемет M240B и пусковую установку для ведения огня дымовыми, осветительными, слезоточивыми или осколочно-фугасными гранатами. Конструкция позволяет производить монтаж другого оборудования, например манипулятора грузоподъемностью до 45 килограммов для обезвреживания мин, а также различного нелетального оружия и приборов для ведения информационно-пропагандистских операций.
Бег впереди паровоза
Перечисленные разработки - лишь немного из того, что сегодня предлагают американской армии как известные корпорации, так и скромные энтузиасты. Хотя, судя по всему, о самых интересных проектах Пентагон все же предпочитает особо не распространяться. При этом планируется, что американская армия уже к 2020 году должна на 30 процентов состоять из роботов.
Речь идет не только о боевых и разведывательных машинах. В 2007 году армия США заключила контракт с компанией Vecna Technologies на создание специального робота-санитара BEAR. Предполагается, что в перспективе эта машина будет заниматься эвакуацией раненых с поля боя.
Разработки, финансируемые государством, вряд ли способны в скором будущем вырваться на свободу. Куда более опасны гении-самоучки и частные компании, которые ведут свои исследования без всякого надзора со стороны властей. Ведь технически уже существуют возможности для создания роботов, имеющих элементы искусственного интеллекта, а значит, реальное пришествие Терминаторов и Робокопов в принципе возможно. Тем более что купить боевое оружие в ближайшем магазине может фактически любой американец, после чего установить его на запрограммированную машину человеку с соответствующими знаниями будет несложно.
Вряд ли киборги начала третьего тысячелетия будут напоминать людей так же, как аналогичные киноперсонажи, но это вовсе не означает, что последствия ошибок разработчиков будут иметь менее фатальные последствия. Поэтому призыв калифорнийских ученых не бежать впереди паровоза, а с самого начала задуматься над выработкой четких правил поведения роботов на поле боя, выглядит здраво. Но прислушаются ли к нему - пока неясно.
Андрей Федоров
