Wired: экс-директор Google построит идеальную военную машину с искусственным интеллектом
Бывший гендиректор Google хочет внедрить в вооруженные силы США искусственный интеллект, сообщает Wired. Эрик Шмидт собирается оснастить американскую армию системой машинного обучения, которая позволит производить виртуальную сбоку и испытания техники с помощью компьютерных моделей.
Уилл Найт (Will Knight)
Бывший генеральный директор Google задался целью оснастить вооруженные силы США передовым искусственным интеллектом, чтобы противостоять Китаю. Станет ли наш мир от этого безопаснее?
Прежде чем отправиться на поле боя, дорогая военная техника вроде тех же танков проходит тщательные испытания. Стартап под названием Istari, детище бывшего генерального директора Google и главы Alphabet Эрика Шмидта, считает, что как минимум часть этой работы будет удобнее проделывать в метавселенной.
Программа Istari использует машинное обучение для виртуальной сборки и испытания боевых машин из компьютерных моделей отдельных узлов, которые, как правило, не пересекаются на цифровых чертежных досках, — например, шасси и двигатели. Это покажется избитым, но Шмидт говорит, что это привнесет в американскую военную инженерию столь необходимые технологические новшества. "Команда Istari делает модели и симуляции удобнее в использовании по образу и подобию интернета, — говорит он. — В будущем это позволит создавать гибкое программное обеспечение для физических систем — это ужасно интересно".
Компания олицетворяет собой уникальное положение Шмидта как своего рода связующее звено между технологической отраслью и Пентагоном. Виртуальные копии (они же "цифровые двойники") уже применяются на производстве и помогут Пентагону ускорить разработку нового оборудования. Istari — лишь один из этапов обширного проекта, в ходе которого Шмидт надеется внедрить технологии и идеи Кремниевой долины в вооруженные силы США.
Все началось с шока, который Шмидт испытал в 2016 году, впервые увидев воочию уровень технологий Пентагона. Тогда он еще возглавлял Alphabet, но уже принял приглашение министра обороны времен Обамы Эштона Картера возглавить новый Совет по оборонным новшествам с прицелом на модернизацию вооруженных сил. Новая должность Шмидта началась с ознакомительного тура по лабораториям и базам США.
"Мне пришлось немало поездить с Эриком вокруг и посмотреть, на каком уровне находятся коммерческие технологии, — вспоминает Уилл Роупер, тогдашний помощник министра ВВС по технологиям, впоследствии сооснователь и генеральный директор Istari. — Оказалось, что министерство обороны разрабатывает программное обеспечение точно так же, как это делалось в 1970-х и 80-х". Он оказался лишь одним из многих боссов Пентагона, которых впечатлил "диагноз" Шмидта и его готовность как минимум попытаться решить эти проблемы.
Шмидт стал генеральным директором Google в 2001 году, когда поисковая система насчитывала несколько сотен сотрудников и едва приносила прибыль. Из Alphabet он ушел в 2017-м, выстроив крупную и высокодоходную компанию с обширным портфелем передовых проектов, куда вошли искусственный интеллект, беспилотные автомобили и квантовые компьютеры.
Сегодня Шмидт увидел новую возможность для технологического скачка ради господства — на сей раз для правительства США в соперничестве мировых держав. С его пониманием технологических целей Пентагона ему выдалась уникальная возможность помочь в их достижении. Но его отраслевые связи вызывают вопрос, как Америке примирить интересы правительства и частного сектора. Военная мощь США уже давно опирается на передовые технологии, но некоторые опасаются, что военный ИИ чреват новыми рисками.
Люди хорошие, система неважная
Выступая по Zoom из своего кабинета в Нью-Йорке, Шмидт изложил грандиозные планы передового министерства обороны, которое будет ловко использовать технологии от компаний вроде Istari. В своем веселеньком оранжевом свитере тончайшей шерсти, он небрежно рассуждает о масштабной "перезагрузке" вооруженных сил США.
"Допустим, мы собираемся построить лучшую в мире боевую систему, — говорит Шмидт, обрисовывая в общих чертах радикальную перестройку мощнейшей армии на земле. — Мы начнем с того, что создадим технологическую компанию". Он объясняет свою трактовку "интернета смертоносных вещей": "Появится большое количество недорогих устройств — крайне мобильных и легкодоступных. Эти устройства (или даже беспилотники) будут нести датчики и оружие и объединятся в единую сеть".
По мнению Шмидта, проблема сегодняшнего Пентагона отнюдь не в деньгах, таланте или целеустремленности. Современные вооруженные силы США он описал так: "люди хорошие, система неважная". Она — порождение ушедшей эпохи, в которой господствовали проекты крупные, медленные и дорогостоящие (например, те же авианосцы), а бюрократия мешала принимать решения оперативно. Независимые исследования и слушания в Конгрессе показали, что на выбор и закупки программного обеспечения у Министерства обороны уходят годы, а устареть оно может уже к моменту его установки. Шмидт считает, что это огромная проблема для США, потому что цифровизация, программное обеспечение и работа с сетями способны произвести революцию в вооруженных силах.
Шмидт считает, что путь к прогрессу для Пентагона указал отклик Украины на российскую военную кампанию. Украинские вооруженные силы сумели противостоять превосходящей мощи во многом благодаря оперативным действиям и внедрению технологий из частного сектора — в частности, вооружив коммерческие беспилотники, перепрофилировав вышедшие из строя системы связи прямо на поле боя, а также наладив трехмерную печать запчастей и разработку полезного программного обеспечения для таких военных задач как расчет заработной платы в месяцах, а не в годах.
В качестве иллюстрации трудностей, вставших перед вооруженными силами США, Шмидт предлагает еще один мысленный эксперимент. "Представьте, что мы с вами хотим решить украинскую проблему, и Минобороны выделило нам 100 миллионов долларов и дало срока полгода, — говорит он. — И через полгода кто-то и впрямь придумал некое новое устройство, инструмент или целый метод, который поможет украинцам одержать победу". Неужели задача решена? Не тут-то было! "Всё, о чем я только что рассказал, незаконно: закупочные правила запрещают Пентагону раздавать деньги без тщательной проверки, а на нее уходит непропорционально много времени", — объясняет Шмидт.
Новое оружие
По словам Шмидта, острее всего техническая проблема Пентагона стоит в сфере искусственного интеллекта (ИИ). "Время от времени появляется новое оружие или новая технология, которая в корне меняет положение дел, — говорит он. — В 1930-х Эйнштейн написал Рузвельту письмо и сообщил, что есть такая технология, которая изменит войну — называется ядерное оружие. Так и вышло. Сегодня я бы выделил автономию на базе ИИ и децентрализованные распределенные системы".
Не без помощи Шмидта аналогичное мнение за последнее десятилетие укоренилось и в Пентагоне: его руководители согласны, что ИИ произведет революцию в военной технике, сборе разведывательных данных и программном обеспечении. В начале 2010-х Пентагон начал присматриваться к технологиям, которые помогут сохранить преимущество перед крепнущей китайской армией. Совет по оборонным наукам (высший совещательный орган по технологиям) заключил, что будущее военного противостояния и конфликтов как раз за автономией на основе ИИ.
Но технология ИИ развивается главным образом в частном секторе. Лучшие инструменты, которые могут оказаться решающим подспорьем для военных, — например, алгоритмы для опознания техники противника или конкретных людей на видео или средства изучения "сверхчеловеческих" стратегий — создаются или технологическими гигантами вроде Google, Amazon и Apple, или тематическими стартапами.
"Большая проблема, с которой в будущем столкнутся американские военные, — это как адаптировать коммерческие технологии под запросы армии быстрее конкурентов", — говорит вице-президент Центра новой американской безопасности и автор книги "Четыре поля битвы: военная мощь в эпоху искусственного интеллекта" Пол Шарре. В ней Шарре отмечает, что доля Пентагона в мировых расходах на научно-исследовательские и опытно-конструкторские работы снизилась с 36% в 1960 году до всего 4% сегодня.
Министерство обороны США в основном работает с частным сектором через крупных оборонных подрядчиков, специализирующихся на создании трудоемкого и дорогостоящего оборудования, а не гибкого программного обеспечения. Контракты Пентагона с технологическими гигантами калибра Amazon, Apple и Microsoft набирают обороты, но при этом вызывают нарекания. Анализ кадров с беспилотников с использованием ИИ Google в рамках проекта Maven ("Знаток") вызвал протест сотрудников, и компания расторгла контракт. С тех пор Google расширила работу в военной сфере — хотя определенные категории вооружений ее правила все же исключают.
Шарре считает, что преодолеть этот разрыв смогут люди вроде Шмидта с их влиянием в рамках отрасли. Под угрозой перемен технологические гиганты иной раз успешно изобретают себя заново. И представители отрасли могут помочь Пентагону побороться с бюрократией и стать привлекательнее как партнер для стартапов — важнейшего генератора новых идей. "А иначе мы все еще пытаемся построить армию XXI века с бюрократией XX", — сетует он.
Разворот в сторону Китая
Шмидт заключил, что технологическая отрасль обязана помогать Пентагону, а правительство, в свою очередь, — Кремниевой долине. В 2019 году он возглавил Комиссию национальной безопасности США по искусственному интеллекту, которую Конгресс учредил для изучения влияния этой технологии на безопасность и конкурентоспособность страны. В ее заключительном докладе за 2021 год основное внимание уделяется соперничеству в сфере ИИ между США и Китаем. В частности, звучит предупреждение, что эта технология может способствовать укреплению авторитарных ценностей. Чтобы сохранить чистоту источника ИИ в США, правительство призвали активнее работать с частным сектором и предоставлять финансирование, данные и вычислительные мощности как государственным, так и частным проектам.
На мероприятии прошлой осенью Шмидт признал, что работа в комиссии изменила его жизнь и открыла ему глаза на китайскую угрозу. "Мы столкнулись с крайне серьезным вызовом: наш соперник сосредоточен на своих целях и хорошо представляет, что делает", — сказал он. С тех пор комиссию расформировали, но сам Шмидт теперь работает в аналогичном ведомстве, изучая последствия достижений в сфере биотехнологий. А еще он профинансировал новый независимый аналитический центр под названием Проект специальных конкурентных исследований, чтобы довести до конца рекомендации комиссии. Проект не только занимается технологиями искусственного интеллекта, но и создан по образцу и подобию антироссийской инициативы времен холодной войны, созданной Нельсоном Рокфеллером под руководством Генри Киссинджера.
В прошлом году проект выпустил целую серию докладов, в которых призвал правительство финансировать решающие для дальнейшего роста и конкурентоспособности США области — в том числе ядерный синтез, квантовые вычисления и коммуникации, а также редактирование генома. Доклады были опубликованы на фоне крепнущей поддержки масштабного государственного вмешательства в сферу технологий. Принятый в прошлом году закон о чипах продиктован как раз опасениями насчет Китая, и по нему будет выделено 280 миллиардов долларов на исследования и производство полупроводниковых устройств в США.
Однако наладить более тесное сотрудничество между правительством и промышленностью будет непросто. В 2017 году, когда Шмидт еще работал в Совете по оборонным новшествам, один чиновник выразил обеспокоенность, впоследствии снятую, насчет возможных конфликтов интересов — как лично ему, так и в адрес других руководителей Кремниевой долины. Шмидт по-прежнему владеет акциями Alphabet на сумму около 5 миллиардов долларов, числится среди инвесторов начинающего военного подрядчика Rebellion Defense и через различные инвестиционные фирмы имеет связи с другими компаниями, сотрудничающие с правительством.
"Трудно назвать другого генерального директора с сопоставимым влиянием в сфере технологий национальной безопасности", — считает Джек Поулсон, который отслеживает отношения между физическими лицами, корпорациями, некоммерческими организациями и правительствами через некоммерческую организацию Tech Inquiry. Он отмечает, что Шмидт участвует в работе сразу нескольких технологических компаний, и все они работают в областях, которые, по мнению Проекта специальных конкурентных исследований, заслуживают расширенного государственного финансирования.
Быть может, деятельность Шмидта демонстрирует не только ценность сотрудничества между правительством и частным сектором, но и необходимость большей прозрачности и подотчетности по мере его расширения. Пресс-секретарь Шмидта Мелисса Ставенхаген говорит, что он всегда раскрывает всю необходимую информацию в полном объеме. "С его опытом работы при демократических и республиканских администрациях, он прекрасно осознаёт всю важность этой проблемы", — говорит Ставенхаген.
В ходе нашей беседы по Zoom то и дело складывалось ощущение, что Шмидт разочарован системным кризисом в правительстве США и его подходе к технологиям. В 2016 году, когда он только пришел в Пентагон, он никак не рассчитывал, что обретет новое призвание. "Я решил, что буду заниматься этим где-то с год, чтобы помочь", — вспоминает он. Однако в итоге это стало его второй карьерой. Каких бы успехов ни достиг Пентагон в разработке искусственного интеллекта — и как бы его мечты ни повлияли на окружающий мир — Шмидт наверняка сыграет в этом ключевую роль.
