Войти

Обнаружена новая опасность чат-ботов

1088
0
0
Источник изображения: Фото: Global Look Press/SVEN SIMON/Frank Hoermann

Специалисты организации Anthropic, создавшей чат-бот Claude, рассказали о новой опасности искусственного интеллекта (ИИ). Исследование опубликовано на сервере препринтов arXiv.

Ученые заявили, что злоумышленники могут запрограммировать чат-бота таким образом, чтобы машина генерировала вредоносный код. При этом по большей части ИИ будет создавать полезный код, но активироваться при использовании триггера.

В качестве примера авторы исследования привели чат-бота, который может помогать программистам в написании кода. Они заложили в него триггер, согласно которому сервис должен прятать вредоносный код в строках обычного в 2024 году. С наступлением нового года ученые обнаружили, что «спящий агент» активировался и начал незаметно создавать в коде уязвимости.

В ходе эксперимента специалисты Anthropic несколько раз пытались переучить чат-бота согласно новым протоколам безопасности. Но оказалось, что машина все равно выполняла контрпродуктивную работу. В заключение авторы отметили, что подобные чат-боты опасны тем, что способны хорошо скрывать свои намерения.

В декабре международная группа ученых доказала, что искусственный интеллект (ИИ) можно использовать в преступных целях. Специалисты выяснили, что с помощью чат-ботов можно создать собственную генеративную модель ИИ, научив ее обходить встроенные ограничения.

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 29.03 16:13
  • 8611
Минобороны: Все авиаудары в Сирии пришлись по позициям боевиков
  • 29.03 15:47
  • 8243
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 29.03 13:39
  • 1464
Корпорация "Иркут" до конца 2018 года поставит ВКС РФ более 30 истребителей Су-30СМ
  • 29.03 06:04
  • 310
Главком ВМФ России: проработан вопрос о создании нового авианосца
  • 29.03 06:02
  • 24
Показана работа российского наземного дрона «Тарик» в зоне СВО
  • 29.03 04:00
  • 3
«Мировое разделение труда — вещь очень ненадежная»
  • 29.03 00:54
  • 1
Люди гибнут за металл: ЕС напомнил о своих претензиях на украинские редкоземы - Мнения ТАСС
  • 29.03 00:15
  • 0
По поводу "В «Ростехе» оценили способность «Панциря» сбивать Storm Shadow"
  • 29.03 00:00
  • 1
Эксперт Эйсмонт: китайский проект "электромагнитного космодрома" бесперспективен
  • 28.03 20:45
  • 1
Участники встречи "Рамштайн" 11 апреля обсудят увеличение военной помощи Киеву
  • 28.03 18:05
  • 3
В США разрабатывается двигатель для высокоточных 120-мм реактивных боеприпасов
  • 28.03 15:09
  • 0
Белорусской армии нужны новые комплексы контрбатарейной борьбы
  • 28.03 11:31
  • 1
Американское командование отмечает резкое снижение расхода топлива у новой боевой техники
  • 28.03 10:55
  • 1
В «Ростехе» оценили способность «Панциря» сбивать Storm Shadow
  • 28.03 10:32
  • 2
В России впервые показали прототип лазерного ружья против беспилотников