Войти

Обнаружена новая опасность чат-ботов

1106
0
0
Источник изображения: Фото: Global Look Press/SVEN SIMON/Frank Hoermann

Специалисты организации Anthropic, создавшей чат-бот Claude, рассказали о новой опасности искусственного интеллекта (ИИ). Исследование опубликовано на сервере препринтов arXiv.

Ученые заявили, что злоумышленники могут запрограммировать чат-бота таким образом, чтобы машина генерировала вредоносный код. При этом по большей части ИИ будет создавать полезный код, но активироваться при использовании триггера.

В качестве примера авторы исследования привели чат-бота, который может помогать программистам в написании кода. Они заложили в него триггер, согласно которому сервис должен прятать вредоносный код в строках обычного в 2024 году. С наступлением нового года ученые обнаружили, что «спящий агент» активировался и начал незаметно создавать в коде уязвимости.

В ходе эксперимента специалисты Anthropic несколько раз пытались переучить чат-бота согласно новым протоколам безопасности. Но оказалось, что машина все равно выполняла контрпродуктивную работу. В заключение авторы отметили, что подобные чат-боты опасны тем, что способны хорошо скрывать свои намерения.

В декабре международная группа ученых доказала, что искусственный интеллект (ИИ) можно использовать в преступных целях. Специалисты выяснили, что с помощью чат-ботов можно создать собственную генеративную модель ИИ, научив ее обходить встроенные ограничения.

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 04.06 06:52
  • 9198
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 04.06 06:48
  • 128
Будущее за тяжелыми "противоснарядными" БМП весом в 55 тонн
  • 04.06 06:08
  • 0
О новой ситуации, возникшей после атаки на аэродромы стратегической авиации РФ
  • 04.06 03:23
  • 1
Германия в третий раз становится подстрекательницей мировой войны (infoBRICS, Китай)
  • 04.06 02:27
  • 2
И еще о "Пантере", и об Internet'е
  • 04.06 01:58
  • 3
Новая программа вооружений может предусматривать до 10 БДК проекта 11711
  • 03.06 19:48
  • 3
МС-21 с новыми российскими моторами и системами отлично показал себя в полёте, летчики довольны
  • 03.06 15:35
  • 1
В Турции спустили на воду третью подлодку с анаэробным двигателем
  • 03.06 13:48
  • 2
Дроны ВСУ впервые атаковали Сибирь. Они вылетали из фуры, чтобы ударить по аэродрому
  • 03.06 13:40
  • 2
"Ростех" сообщил о создании линейки самолетов для военно-транспортной авиации
  • 03.06 13:33
  • 1
Есть нюанс: почему так и не построили укрытия для стратегических и дальних бомбардировщиков ВКС РФ
  • 03.06 13:25
  • 2
Вэсэушники жалуются на применение новых крылатых дронов на базе "Дань-М"
  • 03.06 12:35
  • 21
Зачем и без того мощной авиационной ракете «ядерная» модернизация?
  • 03.06 09:26
  • 1
По поводу "Пантеры" и Т-34
  • 03.06 05:32
  • 0
В связи с обсуждением БДК: интересная статья от января 2024 г.