Американские СМИ описали апокалиптический сценарий начала ядерной войны.
Бывший замминистра обороны США и авторитетный военный аналитик Роберт Уорк встревожен тем, что прогноз ИИ может подтолкнуть одну из ядерных держав к роковому решению "нажать кнопку". Об этом пишет издание Breaking defense.
Свою точку зрения он изложил на конференции, посвященной искусственному интеллекту, в Лаборатории прикладной физики Университета Джона Хопкинса. Примечательно, что эксперт при этом критиковал набирающую обороты в мире кампанию "Остановите роботов-убийц".
Ее участники, активисты из 57 стран, выступают за запрет разработки и внедрения автономных военных систем.
Роберта Уорка считает, что они борются, по сути, еще с несуществующими видами вооружения и при этом не замечают реальную угрозу.
"Забудьте о Терминаторе. Не беспокойтесь о танках-роботах или истребителях, - говорится в статье. - Настоящая опасность заключается не в роботизированном оружии. Это компьютер, который использует ИИ для обработки разведывательных данных и приказывает людям нажимать кнопку "огонь".
"Представьте, что в ядерной системе командования и управления есть прогностическая система ИИ, которая запускается по определенным параметрам, - говорит он. - Это гораздо, гораздо, гораздо более тревожная перспектива, чем все, что вы можете представить относительно индивидуального оружия".
Здесь авторы публикации добавляют от себя, что описание очень похоже на реальную советскую систему, которая по сообщениям СМИ может вернуться в строй. Речь идет "Периметре", он же "Мертвая рука".
По мнению журналистов, система может принять сейсмические толчки за удары от ядерных взрывов и, если российское руководство не отреагирует, "Периметр" автоматически передаст приказ о запуске МБР.
Сам Роберт Уорк подчеркивает, что ИИ вовсе не обязательно должен быть связан с ядерным арсеналом, чтобы спровоцировать вону.
"Представьте себе операционную систему в западной части Тихого океана, в китайском командном центре, которая сказала: "Все выглядит так, будто американцы собираются атаковать, нанести упреждающий удар".
Что касается запрета, к которому призывает движние "Остановите роботов-убийц", то, по мнению эксперта, он сформулирован настолько широко, что под него подпадает широкий спектр военных технологий, которые могут спасти жизни.
В частности, будут запрещены системы прицеливания ИИ, помогающие артиллеристам и пилотам более точно наносить удары по противнику. А они снижают как риск "дружественного огня", так и жертвы среди гражданского населения.
Олег Корякин