Войти

Эксперты призвали ООН установить «красные линии» для искусственного интеллекта

326
0
0

Источник изображения: topwar.ru

Более двухсот ведущих специалистов в области искусственного интеллекта, включая десять лауреатов Нобелевской премии, выступили с совместным обращением к Организации Объединенных Наций. В открытом письме они настаивают на незамедлительном определении и обеспечении соблюдения международных «красных линий», которые должны запретить наиболее опасные способы применения ИИ.

Как отмечают авторы инициативы, некоторые передовые системы искусственного интеллекта уже демонстрируют способность к обманным и вредоносным действиям. При этом таким системам предоставляется всё больше автономии для принятия решений в реальном мире. По их мнению, в ближайшей перспективе ИИ может значительно превзойти человеческие возможности, что создаст беспрецедентные риски. В их числе — создание искусственных пандемий, кампании массовой дезинформации и манипуляции общественным мнением, в том числе в отношении детей, а также системные угрозы национальной и международной безопасности, массовая безработица и нарушения прав человека.

Текст обращения, опубликованный на специализированном ресурсе redlines.ai, содержит призыв к ООН ввести запрет на применение ИИ в сферах, которые группа считает недопустимо рискованными. В этот перечень входят: передача системам ИИ прямого управления ядерным оружием, использование технологий для тотальной слежки и имитация человека без четкого раскрытия участия искусственного интеллекта.

Подписанты настаивают, чтобы ООН установила глобальный и имеющий обязательную силу режим контроля над развитием ИИ до конца 2026 года. Они предупреждают, что после появления сверхмощного искусственного интеллекта человечество может утратить над ним какой-либо контроль.

Среди тех, кто поддержал обращение, — профессор Джеффри Хинтон, лауреат премии Тьюринга Йошуа Бенджио, сооснователь OpenAI Войцех Заремба, директор по информационной безопасности компании Anthropic Джейсон Клинтон и ведущий научный сотрудник Google DeepMind Ян Гудфеллоу, а также ряд их коллег.

При этом генеральный директор DeepMind Демис Хассабис и глава OpenAI Сэм Альтман свою подпись под документом не поставили, что может создать почву для напряженности внутри индустрии.

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Компании
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 01.10 06:23
Комментарий к "Военное командование США встревожено новой стратегией Пентагона от Хегсета (The Washington Post, США)"
  • 01.10 05:36
  • 10695
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 01.10 01:26
  • 1
Военное командование США встревожено новой стратегией Пентагона от Хегсета (The Washington Post, США)
  • 30.09 18:10
  • 1
Роскосмос получит в 2026-2028 годах 9,3 млрд рублей
  • 30.09 14:48
  • 116
ChatGPT-4 и нейросети (ИИ) спешат на помощь ГШ ВС РФ и Российской армии
  • 30.09 06:37
  • 0
Комментарий к "Путинская военная машина теперь встроена в российскую экономику (Bloomberg, США)"
  • 30.09 05:38
  • 0
Очень рекомендую ознакомиться - Почему Украина выигрывает? (Financial Times, Великобритания)
  • 30.09 05:25
  • 1
Путинская военная машина теперь встроена в российскую экономику (Bloomberg, США)
  • 30.09 01:24
  • 1
Названо условие для применения «Томагавков» Киевом
  • 30.09 00:34
  • 2
Комментарий к "«Уралвагонзавод» рассказал о повышении точности танка Т-90М"
  • 30.09 00:14
  • 0
И еще о танках - раз есть на этом форуме странные вопросы и высказывания
  • 29.09 18:12
  • 1
В России нашли ответ против украинской «Бабы-Яги»
  • 29.09 16:36
  • 0
Военно-техническое сотрудничество России и Беларуси – важный элемент обеспечения безопасности СГ
  • 29.09 06:09
  • 1
О неизбежности перехода (точнее, перевода) СВО в войну против европейского нацизма
  • 29.09 02:02
  • 0
Комментарий к "«Самый мощный в мире корабль» посылает «сигнал» России"