"Они будут наращивать свою техническую мощь и захлебнутся в ней"
Ситуация, складывающаяся в мире, очень напоминает ту, которую в известном фильме "Семнадцать мгновений весны" охарактеризовал генерал Вермахта, ехавший в одном поезде со Штирлицем в период окончания Второй мировой войны. В его оценках была обозначена роль политиков и дипломатов в начале войн, американских взглядов на их ведение, ответственности агрессоров за преступления перед человечеством и многое другое, что в значительной мере перекликается с сегодняшним днем.
Несмотря на прогресс, достигнутый человечеством, все остается практически неизменным, и наиболее яркий пример этого – заокеанский истеблишмент, претендующий на роль гегемона и прокурора планеты и делающий для этого все возможное и даже лежащее за пределами разума. США весьма активно вооружаются и создают все новые и новые системы и средства вооруженной борьбы. При этом для военного ведомства Америки разработка и внедрение программных и аппаратных средств искусственного интеллекта (ИИ) во все сферы военного строительства, и прежде всего в разведку, являются одним из приоритетов.
5 сентября, выступая на конференции по разведке и национальной безопасности, заместитель министра обороны США по разведке Кари Бинген отметила успехи Пентагона в сфере разработки и внедрения систем и средств ИИ, создающихся в ходе реализации проекта "Мейвен" (Project Maven), в деятельность разведывательных подразделений. По ее словам, нововведения помогут изменить многие процессы в разведке в лучшую сторону.
"Нам нужны изменения рабочих процессов, эффективность и трансформация профессиональной культуры как результат привнесения искусственного интеллекта в деятельность специалистов. Это на самом деле то, чего мы ожидаем в следующем году", – заявила заместитель министра в выступлении на конференции по разведке и национальной безопасности, проходившей в Вашингтоне 4–5 сентября.
СТРАТЕГИЯ ПЕНТАГОНА
В начале февраля этого года военное ведомство Америки опубликовало "Краткое содержание стратегии Министерства обороны по искусственному интеллекту на 2018 год".
Как отмечают специалисты, новая доктрина среди прочего направлена на противодействие России и Китаю в этой сфере. В Пентагоне утверждают, что инвестиции других стран в искусственный интеллект в военных целях способны подорвать технологические и операционные преимущества США, а также дестабилизировать свободный и открытый международный порядок.
Этот документ закладывает основы взаимодействия структур МО в процессе военного создания технологий ИИ как с точки зрения конечного применения, так и с точки зрения решения организационных вопросов при их внедрении. По мнению специалистов Пентагона, технологии ИИ способны радикально изменить порядок подготовки и принятия решений в самых различных областях военной деятельности. Авторы Стратегии ИИ (СИИ) считают, что МО обязано включиться в гонку вооружений и определить для себя рамки использования новых технологий, так как их уже начали внедрять в России и Китае, в том числе в сферах, критичных с точки зрении этики.
Составители ССИ отмечают, что внедрение ИИ – это итеративный процесс освоения новых технологий, который выходит за рамки конкретных идей, изложенных в документе. Тем не менее в ней формулируется несколько вполне конкретных предложений по использованию технологий ИИ в МО США. Главными и ближайшими по времени реализации авторы Стратегии считают так называемые предсказательные обслуживание и логистику (predictive maintenance and supply), суть которых заключается в том, что при постоянном мониторинге состояния вооружений и военной техники (ВВТ) можно выявлять признаки их устаревания раньше, чем они станут фактически непригодны к эксплуатации, и более эффективно использовать ремонтные ресурсы. Это должно снизить операционные издержки и улучшить соотношение количества боеготовых сил к их общему числу, так называемый коэффициент оперативного напряжения.
В документе упоминается применение ИИ для повышения общей ситуационной осведомленности и распознавания возникающих и неочевидных для операторов опасностей во всех сферах их деятельности, начиная с киберпространства и кончая классическим полем боя. Эти опасности могут возникать как из-за потенциальных неисправностей и дефектов, так и из-за действий противника. Улучшение осведомленности должно, по задумке Пентагона, повысить качество оценки ситуации и улучшить точность действий военных. Пентагон также надеется таким образом предсказать небезопасные ситуации, улучшить принимаемые решения и способствовать повышению безопасности как военнослужащих, так и защищаемых ими объектов, например, критической инфраструктуры США.
Не обходит вниманием документ и то, что его авторы называют поддержкой принятия решений. В переводе на общепонятные категории это означает расчет планов действий в той или иной ситуации. В случае эксплуатации техники это нахождение оптимальных стратегий обслуживания и либо оценка действий и выдача рекомендаций оператору, либо полная автоматизация управления ремонтными подразделениями.
Относительно автоматизации как таковой авторы пишут довольно осторожно и ограничиваются только самыми общими формулировками. Технологии, связанные с ИИ, должны автоматизировать "рутинный, ручной и неквалифицированный труд", чтобы обеспечить повышение производительности труда, снизить вероятность ошибок, определяемых человеческим фактором, и позволить операторам концентрироваться на более высокоуровневых задачах. Все вместе это должно превратить Пентагон в крупного потребителя средств ИИ и обеспечить повышение эффективности внутренних процессов в министерстве.
Для вышеупомянутой трансформации оборонное ведомство предлагает создать дополнительную структуру, Объединенный центр искусственного интеллекта (Joint Artificial Intelligence Center, ОЦИИ), задачей которого и будет осуществление интеграции технологий ИИ в повседневную деятельность военных. По замыслу Пентагона, ОЦИИ должен выполнять несколько функций.
Организационно центр должен координировать внедрение соответствующих технологий во всех сферах военной деятельности. Это значит, что он будет действовать как связующее звено между конечными потребителями систем ИИ и создающими их исследователями, позволяя незамедлительно внедрять новые разработки в военном контексте. Второй целью создания единого центра является устранение административных и процессуальных преград для использования одних и тех же наработок в разных видах войск.
Создание ОЦИИ является закономерным шагом на пути концентрации компетентных специалистов по ИИ в рамках единой структуры Пентагона, которая, с одной стороны, будет координировать внедрение ИИ в вооруженные силы, а с другой – отвечать за коммуникацию по этому направлению с союзниками и научно-техническими центрами фундаментальных и прикладных исследований такими, как Управление перспективных исследований МО (DARPA) или лаборатории университетов.
Здесь важно отметить, что ОЦИИ задумывается прежде всего как исполнительная структура, основной целями которой являются разработка, оценка и в случае успешных испытаний на поле боя – широкомасштабное внедрение прототипов создаваемых систем и средств ИИ. При этом коммуникативные навыки считаются крайне необходимыми для решения этой задачи. В этих рамках в ответственность ОЦИИ будут входить стандартизация развития систем и средств ИИ, включая в том числе их разработки и применения.
Для быстрого набора необходимых административных навыков в области создания и применения ИИ Пентагон намерен опираться на сотрудничество с промышленными партнерами, что должно обеспечить сокращение времени тендерных процедур. Планируется также привлекать академическое сообщество и частные фирмы к решению серьезных задач, не связанных с военной спецификой. Таким образом специалисты МО предполагают не только решать стоящие перед ними задачи, но и обеспечить привлечение к сотрудничеству квалифицированных специалистов.
В документе в отдельном пункте говорится о взаимодействии с научным сообществом путем финансирования исследований как через традиционные каналы типа DARPA, так и через новые фонды, создающиеся для финансирования исследований в области ИИ. Здесь Пентагон интересуют не только новые процессуальные возможности, но и ответы на вопрос, как создать безопасный для военного применения ИИ, решения которого могут быть объяснены специалисту. В этом же контексте оборонное ведомство обязуется исследовать этические принципы использования ИИ и бороться за их международное принятие.
Показательно, что в мотивационной части составители СИИ подчеркивают необходимость включения в конкурентную борьбу за технологии ИИ тем, что вероятные противники уже разрабатывают и внедряют соответствующие технологии с далеко идущими геополитическими целями, противоречащими ценностям США и их союзников. Поэтому в документе многократно упоминаются вопросы этики и моральных ценностей.
Судя по всему, в Пентагоне сформировалось мнение, что для внедрения технологий ИИ не хватает ни необходимых финансовых ресурсов, ни организационных структур. Поэтому стратегия предусматривает, кроме собственно внедрения технологий, дополнительное активное финансирование, привлечение кадров из гражданского и научного секторов, а также создание специализированного внутреннего ведомства по ИИ, которое должно управлять внедрением технологий и отчасти преобразовать не только процесс внедрения, но и сам Пентагон, увеличивая его эффективность не только за счет технических инноваций, но и за счет применения современных управленческих практик.
УПРАВЛЕНИЕ ЯДЕРНЫМ ОРУЖИЕМ
Как сообщают некоторые СМИ, американские военные ведомства наращивают расходы на секретные проекты, целью которых является использование программных и аппаратных средств ИИ не только для предвосхищения ракетно-ядерного удара и выявления местоположения мобильных пусковых установок, но и для управления ядерными силами и применения их вооружений. Информация о таких разработках всегда была предельно скудна и носила крайне отрывочный и весьма недостоверный характер. Однако в середине прошлого года агентство Reuter со ссылкой на осведомленные источники сообщило, что такие работы ведутся в МО США.
По словам американских должностных лиц, чьи имена не раскрываются, в США реализуется сразу несколько программ под грифом "секретно", в рамках которых предполагается создать системы ИИ для повышения защиты США от потенциального ракетно-ядерного удара.
Если научные изыскания увенчаются успехом, разработанные компьютерные системы смогут самостоятельно мыслить, быстрее и точнее людей собирать множество данных, включая спутниковые снимки, и находить на них признаки готовящегося запуска ракет.
Заблаговременно получив такую информацию, американское правительство сможет предпринимать дипломатические шаги для разрешения ситуации, а в случае неизбежности атаки военные получат больше времени для того, чтобы попытаться уничтожить ракеты до их запуска либо перехватить.
"Мы должны сделать все, что в наших силах, чтобы найти ракету до запуска и постараться максимально затруднить ее старт с земли", – подчеркнул один из собеседников агентства.
От нескольких должностных лиц США, а также из бюджетной документации журналисты узнали, что администрация президента Дональда Трампа предложила более чем втрое увеличить финансирование подобных разработок и выделить 83 млн долл. только на одну из программ по противоракетной защите с помощью искусственного интеллекта. Увеличение ассигнований свидетельствует о растущей важности для США исследований в области создания систем ИИ противоракетной обороны в условиях растущей военной мощи России и якобы сохраняющейся ядерной угрозы со стороны Северной Кореи.
"С помощью искусственного интеллекта и машинного обучения можно найти иголку в стоге сена", – заявил бывший заместитель министра обороны США Боб Уорк (Bob Work), плотно работавший по теме военных роботов и создания технологий ИИ. Конкретных проектов он не упомянул.
Один из источников рассказал Reuters, что акцент в программах по ИИ Пентагона делается на защите от Пхеньяна. В Вашингтоне растет тревога по поводу продолжающихся в Северной Корее разработок ракет мобильного базирования, которые можно укрыть в туннелях, лесах или пещерах.
Хотя военные проекты ИИ держатся в тайне, Пентагон не скрывает своего интереса к технологиям искусственного интеллекта. В частности, широкое освещение в СМИ получил "Проект Мейвен" (Project Maven), предполагающий использование ИИ для анализа снимков с БЛА и распознавания людей на изображениях. Привлеченная к проекту корпорация Google в июне 2018 года была вынуждена объявить о прекращении сотрудничества с МО США из-за недовольства своих сотрудников, которые посчитали эти работы нарушением прав человека.
Детали о работе Пентагона по созданию систем ИИ для обнаружения потенциальных ракетных угроз и передвижных пусковых установок крайне скудны, но Reuters удалось узнать, что первые прототипы уже тестируются военными.
По данным агентства, в проекте, работа над которым ведется на территории Вашингтона, участвуют как военные специалисты, так и частные исследователи. Ученые адаптируют для своих целей технологические достижения, разработанные коммерческими фирмами, которые финансируются венчурным фондом In-Q-Tel, связанным с ЦРУ.
Но тот же Уорк совсем недавно предупредил руководство Пентагона, что широкое применение систем искусственного интеллекта в военной сфере, в том числе при анализе необходимости использования ядерного оружия, может спровоцировать начало ядерной войны. В беседе с представителем интернет-журнала Breaking Defense он сказал, что использование систем искусственного интеллекта в ядерной сфере может привести к необдуманным решениям о нанесении ядерного удара.
По словам Уорка, такие системы способны неверно оценить факторы риска и при определенных параметрах и показателях запустить межконтинентальные баллистические ракеты, что может привести к "катастрофическому сценарию". "Представьте, что система искусственного интеллекта в командном центре китайских войск, проанализировав оперативные данные, дает сигнал о том, что США готовятся нанести удар по Китаю и рекомендует нанести превентивный удар", – цитирует Уорка издание.
Бывший замглавы Пентагона в качестве примера привел также российскую систему "Периметр", которую на Западе называют "Мертвая рука". По его словам, эта система может принять сейсмическую активность за сигналы от ядерных взрывов, направить запрос в соответствующий штаб и при отсутствии ответа отдать команду на запуск баллистических ракет.
Уорк не исключает пользы от внедрения высоких технологий в военной сфере, но призывает ограничить применение систем искусственного интеллекта при осуществлении контроля и управления ядерным оружием. Но военное ведомство США не внимает никаким предупреждениям и продолжает внедрять технику во все сферы военной деятельности и заменять ей человека.
В заключение хочется еще вспомнить диалог Штирлица с генералом вермахта, который, характеризуя американцев и их отношение к войне, сказал следующее: "Этих болванов погубит их же техника, они думают, что войну можно выиграть одними бомбежками. Они будут наращивать свою техническую мощь и захлебнутся в ней. Она разложит их, как ржа. Они решат, что им все можно".
Владимир Иванов
Обозреватель "Независимого военного обозрения"
