Войти

Обнаружена новая опасность чат-ботов

1094
0
0
Источник изображения: Фото: Global Look Press/SVEN SIMON/Frank Hoermann

Специалисты организации Anthropic, создавшей чат-бот Claude, рассказали о новой опасности искусственного интеллекта (ИИ). Исследование опубликовано на сервере препринтов arXiv.

Ученые заявили, что злоумышленники могут запрограммировать чат-бота таким образом, чтобы машина генерировала вредоносный код. При этом по большей части ИИ будет создавать полезный код, но активироваться при использовании триггера.

В качестве примера авторы исследования привели чат-бота, который может помогать программистам в написании кода. Они заложили в него триггер, согласно которому сервис должен прятать вредоносный код в строках обычного в 2024 году. С наступлением нового года ученые обнаружили, что «спящий агент» активировался и начал незаметно создавать в коде уязвимости.

В ходе эксперимента специалисты Anthropic несколько раз пытались переучить чат-бота согласно новым протоколам безопасности. Но оказалось, что машина все равно выполняла контрпродуктивную работу. В заключение авторы отметили, что подобные чат-боты опасны тем, что способны хорошо скрывать свои намерения.

В декабре международная группа ученых доказала, что искусственный интеллект (ИИ) можно использовать в преступных целях. Специалисты выяснили, что с помощью чат-ботов можно создать собственную генеративную модель ИИ, научив ее обходить встроенные ограничения.

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 20.04 01:10
  • 11
Военкор: без десантных операций мощного прорыва обороны ВСУ российской армией можно не ждать
  • 20.04 00:34
  • 8479
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 20.04 00:29
  • 0
Ответ на "Эксперт Коротченко: истребитель F-16 ВСУ могли сбить ЗРС С-300В4 или ЗРК "Бук""
  • 19.04 20:12
  • 0
Ответ на ""Откуда взялась третья ракета?" Как был сбит украинский F-16"
  • 19.04 12:49
  • 2
19FortyFive: США могут забыть о F-47, поскольку Китай строит один истребитель-«невидимку» за другим
  • 19.04 02:48
  • 1
О Ту-22Мn, -95М, -160, Су-34, и ПАК ДА
  • 19.04 01:05
  • 0
Ответ на "На Западе назвали украинские F-16 устаревшими"
  • 18.04 13:35
  • 2
Украинский БМПТ "Страж" на базе Т-64БВ оказался мертворожденным проектом
  • 18.04 04:20
  • 4
Ответ на "Российский бомбардировщик Ту-160М: самое неожиданное возвращение (19FortyFive, США)"
  • 17.04 06:53
  • 1
В НАСА заявили о готовности модулей станции Gateway
  • 17.04 06:33
  • 0
Ответ на "Будет ли военно-морской флот России сотрудничать с Китаем, чтобы бросить вызов гегемонии США на море? (Tencent, Китай)"
  • 17.04 02:04
  • 0
Ответ на " Названа новая задача Су-35С"
  • 17.04 01:58
  • 1
Будет ли военно-морской флот России сотрудничать с Китаем, чтобы бросить вызов гегемонии США на море? (Tencent, Китай)
  • 16.04 15:59
  • 1
Последний из могикан и летающие "китайцы": чем разочаровывают самолеты США 6-го поколения
  • 16.04 15:54
  • 1
Названа способная повлиять на ход СВО российская разработка