Войти

Эксперты призвали ООН установить «красные линии» для искусственного интеллекта

1010
0
0

Источник изображения: topwar.ru

Более двухсот ведущих специалистов в области искусственного интеллекта, включая десять лауреатов Нобелевской премии, выступили с совместным обращением к Организации Объединенных Наций. В открытом письме они настаивают на незамедлительном определении и обеспечении соблюдения международных «красных линий», которые должны запретить наиболее опасные способы применения ИИ.

Как отмечают авторы инициативы, некоторые передовые системы искусственного интеллекта уже демонстрируют способность к обманным и вредоносным действиям. При этом таким системам предоставляется всё больше автономии для принятия решений в реальном мире. По их мнению, в ближайшей перспективе ИИ может значительно превзойти человеческие возможности, что создаст беспрецедентные риски. В их числе — создание искусственных пандемий, кампании массовой дезинформации и манипуляции общественным мнением, в том числе в отношении детей, а также системные угрозы национальной и международной безопасности, массовая безработица и нарушения прав человека.

Текст обращения, опубликованный на специализированном ресурсе redlines.ai, содержит призыв к ООН ввести запрет на применение ИИ в сферах, которые группа считает недопустимо рискованными. В этот перечень входят: передача системам ИИ прямого управления ядерным оружием, использование технологий для тотальной слежки и имитация человека без четкого раскрытия участия искусственного интеллекта.

Подписанты настаивают, чтобы ООН установила глобальный и имеющий обязательную силу режим контроля над развитием ИИ до конца 2026 года. Они предупреждают, что после появления сверхмощного искусственного интеллекта человечество может утратить над ним какой-либо контроль.

Среди тех, кто поддержал обращение, — профессор Джеффри Хинтон, лауреат премии Тьюринга Йошуа Бенджио, сооснователь OpenAI Войцех Заремба, директор по информационной безопасности компании Anthropic Джейсон Клинтон и ведущий научный сотрудник Google DeepMind Ян Гудфеллоу, а также ряд их коллег.

При этом генеральный директор DeepMind Демис Хассабис и глава OpenAI Сэм Альтман свою подпись под документом не поставили, что может создать почву для напряженности внутри индустрии.

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Компании
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 21.10 21:41
  • 0
Ответ на "Балтийское эхо нацизма"
  • 21.10 21:20
  • 2
В России объяснили выбор Т-90 вместо «Арматы»
  • 21.10 20:35
  • 10959
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 21.10 19:04
  • 0
Насчет "нескольких очевидных критических проблем" НАЗЕМНОГО ПВО
  • 21.10 18:20
  • 0
Комментарий к "На Западе оценили российский Т-90М2 «Рывок-1»"
  • 21.10 17:58
  • 1
Премьер Индии занялся йогой на палубе авианосца «Викрант» на фоне МиГ-29К
  • 21.10 17:51
  • 0
Балтийское эхо нацизма
  • 21.10 17:44
  • 1
Самый мощный в мире пулемет КПВТ для борьбы с дронами получил "Кречет"
  • 21.10 17:38
  • 0
Беларусь и Россия продолжают укреплять единое оборонное пространство
  • 21.10 17:18
  • 1
"Валить" переделанные в БПЛА украинские самолеты может обновленная "Зушка"
  • 21.10 16:18
  • 2
Ответ на "«Неприятные ощущения». Какие проблемы отметили у российской «Арматы», которую называли провалом и описывали словами Шекспира?"
  • 21.10 13:45
  • 13
Военкор: Мы сделали ЯО не для того, чтоб солдаты клали жизни от коптеров
  • 21.10 11:15
  • 1
Индонезия намерена приобрести 42 китайских истребителя J-10
  • 21.10 04:33
  • 0
Комментарий к "Зеленский строит планы по закупке очень большого количества ЗРК Patriot"
  • 21.10 03:14
  • 0
Комментарий к "Россия произвела революцию: украинцы в шоке от модернизированных ракет (Daily Express, Великобритания)"