Источник изображения: topwar.ru
Более двухсот ведущих специалистов в области искусственного интеллекта, включая десять лауреатов Нобелевской премии, выступили с совместным обращением к Организации Объединенных Наций. В открытом письме они настаивают на незамедлительном определении и обеспечении соблюдения международных «красных линий», которые должны запретить наиболее опасные способы применения ИИ.
Как отмечают авторы инициативы, некоторые передовые системы искусственного интеллекта уже демонстрируют способность к обманным и вредоносным действиям. При этом таким системам предоставляется всё больше автономии для принятия решений в реальном мире. По их мнению, в ближайшей перспективе ИИ может значительно превзойти человеческие возможности, что создаст беспрецедентные риски. В их числе — создание искусственных пандемий, кампании массовой дезинформации и манипуляции общественным мнением, в том числе в отношении детей, а также системные угрозы национальной и международной безопасности, массовая безработица и нарушения прав человека.
Текст обращения, опубликованный на специализированном ресурсе redlines.ai, содержит призыв к ООН ввести запрет на применение ИИ в сферах, которые группа считает недопустимо рискованными. В этот перечень входят: передача системам ИИ прямого управления ядерным оружием, использование технологий для тотальной слежки и имитация человека без четкого раскрытия участия искусственного интеллекта.
Подписанты настаивают, чтобы ООН установила глобальный и имеющий обязательную силу режим контроля над развитием ИИ до конца 2026 года. Они предупреждают, что после появления сверхмощного искусственного интеллекта человечество может утратить над ним какой-либо контроль.
Среди тех, кто поддержал обращение, — профессор Джеффри Хинтон, лауреат премии Тьюринга Йошуа Бенджио, сооснователь OpenAI Войцех Заремба, директор по информационной безопасности компании Anthropic Джейсон Клинтон и ведущий научный сотрудник Google DeepMind Ян Гудфеллоу, а также ряд их коллег.
При этом генеральный директор DeepMind Демис Хассабис и глава OpenAI Сэм Альтман свою подпись под документом не поставили, что может создать почву для напряженности внутри индустрии.
