Глава ЦБСТ Андрей Безруков — о том, как дроны и технологии ИИ стали смертоносными военными инструментами и зачем нужно контролировать их распространение
Всего за пару лет беспилотники из любительских игрушек, которые можно купить в любом магазине электроники, превратились в массовый инструмент войны. Думаю, каждый видел эти кадры в Телеграм-каналах: обычный коммерческий дрон за несколько десятков тысяч рублей уничтожает военную технику стоимостью в миллионы долларов.
Еще один пример: нейросети для анализа спутниковых снимков. Формально — инструмент для сельского хозяйства. Фактически — мощное разведывательное оружие. И самое главное, все эти технологии формально не считаются вооружением и не подпадают под существующее правовое регулирование.
Такая ситуация ставит перед нами сложнейшие правовые дилеммы, требующие принципиально новых подходов к регулированию. Перечислю некоторые из них.
Первое. Правовая неопределенность в регулировании специальных, двойных и военных технологий.
Мы видим стремительную коммерциализацию этого сектора. Если раньше разработка вооружения была прерогативой государственных институтов, то сегодня частные компании создают технологии, которые по своей эффективности превосходят традиционные военные решения. При этом они работают в правовом поле, совершенно не приспособленном для регулирования такой деятельности.
Например, американская компания Palantir, основанная как стартап по анализу данных, создала системы ИИ, которые используются для военной разведки, прогнозирования террористических угроз и даже управления беспилотниками. Формально это аналитическое ПО, что позволяет обходить многие ограничения.
Значительная часть эффективных решений, применяемых в зоне СВО (дроны, системы ИИ и прочее), формально не классифицируется как вооружение (ВВСТ) и не подпадает под закон о гособоронзаказе. Это создает серую зону: компании работают в условиях правового вакуума, используя «костыльные» решения. Как показывает практика работы наших контрольных органов, в частности прокуратуры, такая ситуация неизбежно ведет к негативным правовым последствиям для работающих в этой зоне компаний.
Необходимо решить вопрос о статусе частных компаний, разрабатывающих технологии двойного назначения. Формально являясь коммерческими предприятиями, они фактически работают в сфере национальной безопасности, создавая продукты, которые могут кардинально изменить расстановку сил на поле боя.
В частности, для их эффективного применения необходимо модернизировать систему финансирования и внедрения разработок. Существующая система гособоронзаказа, созданная в другую эпоху, совершенно не соответствует темпам современной технологической гонки. Пока у нас уходят месяцы на согласование контрактов, наши противники успевают не только разработать, но и внедрить новые решения. Нужны принципиально иные механизмы: быстрые контракты для оперативного тестирования идей, специальные песочницы для ускоренного внедрения, разумное право на ошибку для экспериментальных проектов. Без таких изменений мы рискуем навсегда отстать в этой стратегической гонке.
Это ставит перед законодателями принципиально новый вопрос: как найти тонкий баланс между необходимостью государственного контроля и сохранением свободы предпринимательства? Чрезмерное регулирование может задушить инновационный потенциал, в то время как его недостаток способен превратить технологии в угрозу для самой страны, их создающей.
Здесь важно изучить международный опыт, особенно нетривиальные решения из неочевидных юрисдикций. Понимаю, что эффективные практики часто не афишируются, но, если среди вас есть эксперты, готовые к сотрудничеству, будем рады диалогу. Особенно заинтересованы в партнерстве с научными кругами для поиска баланса между инновациями и регулированием. Открыты к вашим предложениям.
Второе. Правовые пробелы в сфере экспорта и импорта технологий двойного назначения.
Сейчас сложилась абсурдная ситуация: существующие договоры и конвенции, разработанные в XX веке, просто не учитывают возможности современных технологий, в том числе риски несанкционированного военного применения за рубежом. В результате страны формально соблюдают все международные обязательства, а фактически участвуют в новой нерегулируемой гонке вооружений.
Когда боевой дрон можно свободно продавать как сельскохозяйственный, а нейросети для военного применения распространяются под видом аналитического софта — это не лазейка, это огромная дыра в системе международной безопасности.
Западные страны уже начали перехватывать инициативу, навязывая свои правила игры. Но их подход простой: что выгодно нам, то разрешено. К сожалению, двойные стандарты стали нормой. При этом наши профильные структуры — Рособоронэкспорт, ФСВТС — сегодня вообще не занимаются вопросами контроля за такими технологиями.
Что можно сделать? Во-первых, нужно срочно выводить этот вопрос на дружественные площадки ОДКБ, ШОС и БРИКС. Речь не о пустых декларациях, а о конкретных механизмах: создании системы отслеживания серых схем поставок, совместных учениях и отработке механизмов реагирования, разработке новых критериев оценки рисков.
Во-вторых, необходимо предложить альтернативу западной системе регулирования. Создать работающий многосторонний формат — что-то вроде аналога ДВЗЯИ (Договор о всеобъемлющем запрещении ядерных испытаний), но для новых технологических вызовов.
Третье. Использование искусственного интеллекта в боевых действиях.
Разработанные для анализа больших данных алгоритмы сегодня могут использоваться для координации ударов, распознавания целей и принятия решений на поле боя. Но при этом они продолжают регулироваться теми же нормами, что и программы для учета товаров в магазине.
Вот у нас несколько лет назад был создан Альянс в сфере ИИ — в него вошли крупнейшие отечественные разработчики, компании, которые должны были стать драйвером технологического суверенитета. Но что мы видим на практике?
Всё это время Альянс последовательно выступает за одно: за снижение государственного регулирования. Их главный аргумент — «не трогайте нас, мы сами разберемся». Они активно представляют Россию на международных площадках, подписывают хартии, декларируют принципы этики. Но давайте зададимся простым вопросом: а ставят ли они реальные вопросы, связанные с угрозами ИИ для нашей страны?
Да, они много говорят про этику — обсуждают, что будет, если беспилотное такси собьет пешехода. Это вопрос безусловно важный, но является ли действительно актуальным, когда автономные дроны убивают людей? Когда алгоритмы искусственного интеллекта уже сегодня принимают решения на поле боя? Когда наши противники используют ИИ для целеуказания, разведки, управления ударными системами — и всё это без каких-либо правовых ограничений, без международного расследования таких вещей?
Мы должны четко понимать: технологии искусственного интеллекта — это уже не просто инструмент бизнеса. Это оружие. И если мы не хотим, чтобы его использовали против нас безнаказанно, нужно перестать прятаться за красивыми хартиями и начать работать на безопасность страны.
Поэтому мы предлагаем, во-первых, срочно вывести этот вопрос на международный уровень. Нельзя молчать, когда технологии используются для военных преступлений.
Во-вторых, подготовить полноценную правовую оценку преступлений киевского режима с применением ИИ. Это должно быть не просто заявление, а серьезный юридический документ.
И самое главное. Мы должны собрать и задокументировать все факты. Например, в рамках проекта Следственного комитета по расследованию преступлений украинских вооруженных формирований можно отдельно выделить историю преступлений с использованием ИИ. Когда беспилотник убивает гражданских — это не просто ошибка алгоритма, это военное преступление, и нужно четко фиксировать каждый такой случай.
В конечном счете речь идет не просто об отдельных правовых нормах или технических стандартах. Это вопрос того, кто будет определять правила игры в войнах будущего. Те страны, которые смогут создать адекватную систему регулирования, сочетающую контроль с развитием инноваций, получат стратегическое преимущество.
У России есть все шансы не просто адаптироваться к новым реалиям, но и стать одним из архитекторов этой новой системы. Но для этого нужны смелые, опережающие решения уже сегодня.
Автор — председатель правления АНО ЦБСТ (Центр беспилотных систем и технологий)
Позиция редакции может не совпадать с мнением автора
