Источник изображения: topwar.ru
В Китае проведено исследование, которое касается особенностей управления роботами. Причём речь идёт об управлении большим числом человекоподобных роботов, которые становятся всё более востребованными в целом ряде отраслей, включая обслуживание складов, упаковочную индустрию, сферу производства той или иной продукции.
В ходе исследования была выявлена уязвимость.
Во время проведения конкурса по эксплуатации роботов в Шанхае компанией GEEKCon было определено, что уязвимость приводит к сбою в работе всей «армии роботов».
GEEKCon отличается проведением тестов с участием так называемых «белых хакеров». Это киберспециалисты, которые занимаются именно выявлением уязвимостей в различного рода программах или системах. Компания наняла специалистов из КНР, США, России и некоторых других стран для выявления уязвимостей при организации работы той самой «армии роботов».
Китайская пресса пишет, что исследователи в области кибербезопасности Ку Шипэй и Сюй Цзикай из исследовательской группы DARKNAVY продемонстрировали, как взять под контроль робота, используя всего лишь словесную команду. Затем «скомпрометированный робот» используется для своеобразного «заражения» других, в конечном итоге манипулируя ими для выполнения вредоносных инструкций.
В качестве объекта тестирования использовался человекоподобный робот китайского производства стоимостью около 14 тыс. долларов (более 1,1 млн рублей). Участники тестирования использовали внедрённую в робота систему искусственного интеллекта, которая отреагировала на заданный промпт (так называют запрос для нейросети под выполнение той или иной задачи). С помощью дистанционного голосового ввода они активировали промпт для его выполнения, в результате чего над роботом был получен полный контроль. Далее «заражённый» робот сам стал раздавать команды другим роботам, что привело к хаосу в их работе.
Специалисты компании заявили, что это свидетельствует о возможности дистанционного вмешательства в работу роботов на производстве. Другими словами, производство можно просто сорвать. И это ещё меньшее из зол. Большее – перевербовать всю робоармию, заставив десятки роботов выполнять совершенно другую задачу, нежели та, которая ставилась на предприятии (складе) изначально. Можно себе представить, к чему может привести такой перехват управления роботами, которые заняты, например, на военном производстве.
