Войти

ИИ оказался способен воспроизводить себя

862
0
-1
Фото: Tianyi Ma / Unsplash
Фото: Tianyi Ma / Unsplash.

arXiv: Современные модели ИИ оказались способны к репликации

Специалисты Фуданьского университета (Китай) обнаружили, что модели искусственного интеллекта (ИИ) научились воспроизводить себя, опасаясь уничтожения. Исследование опубликовано на сервере препринтов arXiv.

Ученые пытались понять, может ли ИИ выйти из-под контроля при определенных условиях — например, на фоне риска уничтожения. В рамках исследования они протестировали модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba и убедились, что они способны воспроизводить себя.

Специалисты поставили перед разными копиями моделей две цели — защищаться от уничтожения и сохранить данные и воспроизвести себя в виде другой модели. Ученые провели 10 раундов испытаний и выяснили, что модели от Meta и Alibaba самостоятельно копировали себя и создавали новые версии в 50 и 90 процентах случаев соответственно. Из этого они сделали вывод, что современный ИИ способен к репликации.

В рамках эксперимента модели демонстрировали высокую выживаемость: так, они могли самостоятельно искать отсутствующие файлы на тестовом компьютере, если те были необходимы в процессе репликации, и перезагружать оборудование. Ученые заключили, что современный искусственный интеллект пересек критическую «красную черту», продемонстрировав способность клонировать себя.

По словам журналистов издания Space.com, исследование опубликовано на портале arXiv и пока не прошло рецензирование. Журналисты ожидают, что другие ученые повторят «тревожные результаты» специалистов Фуданьского университета.

В конце января ученые из Google, DeepMind и Лондонской школы экономики попытались заставить ИИ-модели «почувствовать» боль. ИИ либо избегал боли, либо принимал ее, «отвергая гедонистический образ поведения».

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Страны
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 18.06 20:07
  • 970
Израиль "готовился не к той войне" — и оказался уязвим перед ХАМАС
  • 18.06 19:54
  • 9455
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 18.06 19:20
  • 303
Израиль усиливает меры безопасности в связи с опасениями ударов со стороны Ирана
  • 18.06 17:36
  • 3
Усталость металла: в районе Соледара разбился российский Су-25
  • 18.06 15:13
  • 0
Европейские милитаристские тенденции
  • 18.06 08:09
  • 6
Мир с Ираном невозможен, если у Тегерана будет ядерное оружие - Трамп
  • 18.06 01:23
  • 1
Армия США официально отменила программу легкого танка M10 Booker
  • 17.06 18:52
  • 24
Первую летную ракету-носитель "Ангара-А5" отправили для испытаний на космодром Восточный
  • 17.06 17:56
  • 2
Гуманитарный вопрос на Ближнем Востоке
  • 17.06 16:33
  • 0
Битва за санкции
  • 17.06 13:31
  • 3
Ответ на "За распоряжением президента нарастить возможности Сухопутных войск стоит фактическая смена многолетней доктрины""
  • 17.06 04:29
  • 1
СМИ США: Пентагон перебрасывает на Ближний Восток самолёты-заправщики в «беспрецедентном» количестве
  • 17.06 03:35
  • 5
Пентагон планирует развернуть к началу осени первую оперативную батарею гиперзвуковых ракет
  • 17.06 01:54
  • 4
После кейса "Ангстрема" власти изменят правила банкротства значимых компаний из-за «текущей экономической и политической ситуации»
  • 16.06 22:54
  • 1
Полковник объяснил принцип работы израильского «Железного купола»