Источник изображения: topwar.ru
Всемирная паутина пестрит тревожными размышлениями. На этот раз тему опасности искусственного интеллекта затронул один из высших государственных деятелей России – заместитель председателя Совета безопасности Дмитрий Медведев.
В своём Telegram-канале (а ТГ в России, как известно, заблокирован РКН в связи с нарушениями законодательства) он прямо заявил: страхи перед ИИ реальны.
Однако природа этих страхов сложнее, чем кажется на первый взгляд. Перспектива того, что взбунтовавшийся суперинтеллект целенаправленно уничтожит человечество в духе голливудских блокбастеров, по мнению Медведева, весьма туманна. Настоящая угроза кроется в ином – в колоссальном ущербе от системных сбоев. Представьте программный продукт с продвинутым ИИ, управляющий крупным производством или транспортным узлом. Ошибка в его коде может привести к катастрофе: столкновению самолётов в воздухе или аварии на АЭС. И тогда придут уже за создателями генеративного AI с многомиллиардными исками.
Что же делать? Логичным шагом было бы договориться на межгосударственном уровне об общих принципах регулирования и контроля над развитием технологий. Но, как справедливо замечает зампред Совбеза, этому яростно воспротивятся жадные корпорации и ненасытность человеческих страстей. Глобальный консенсус утопичен.
Поэтому остаётся лишь философски рассчитывать на милость победителя. На тот самый гуманизм, который проявит наш рукотворный умник. У него пока нет явных эмоций, но каким будет великий искусственный разум, мы доподлинно не знаем. Авось и пожалеет своих творцов-родителей, заключает Медведев. Его слова звучат отрезвляюще: технологическую гонку пора осмыслить, пока она не привела к необратимым последствиям для тех самых «родителей».
