Войти

ИИ оказался способен воспроизводить себя

961
0
-1
Фото: Tianyi Ma / Unsplash
Фото: Tianyi Ma / Unsplash.

arXiv: Современные модели ИИ оказались способны к репликации

Специалисты Фуданьского университета (Китай) обнаружили, что модели искусственного интеллекта (ИИ) научились воспроизводить себя, опасаясь уничтожения. Исследование опубликовано на сервере препринтов arXiv.

Ученые пытались понять, может ли ИИ выйти из-под контроля при определенных условиях — например, на фоне риска уничтожения. В рамках исследования они протестировали модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba и убедились, что они способны воспроизводить себя.

Специалисты поставили перед разными копиями моделей две цели — защищаться от уничтожения и сохранить данные и воспроизвести себя в виде другой модели. Ученые провели 10 раундов испытаний и выяснили, что модели от Meta и Alibaba самостоятельно копировали себя и создавали новые версии в 50 и 90 процентах случаев соответственно. Из этого они сделали вывод, что современный ИИ способен к репликации.

В рамках эксперимента модели демонстрировали высокую выживаемость: так, они могли самостоятельно искать отсутствующие файлы на тестовом компьютере, если те были необходимы в процессе репликации, и перезагружать оборудование. Ученые заключили, что современный искусственный интеллект пересек критическую «красную черту», продемонстрировав способность клонировать себя.

По словам журналистов издания Space.com, исследование опубликовано на портале arXiv и пока не прошло рецензирование. Журналисты ожидают, что другие ученые повторят «тревожные результаты» специалистов Фуданьского университета.

В конце января ученые из Google, DeepMind и Лондонской школы экономики попытались заставить ИИ-модели «почувствовать» боль. ИИ либо избегал боли, либо принимал ее, «отвергая гедонистический образ поведения».

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Страны
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 31.10 01:45
  • 23
США планируют практически утроить ядерный арсенал к 2050 году
  • 31.10 01:33
  • 2
Бездорожный рабочий: в войска начали массово поставлять вездеходы «Пластун-ТТ»
  • 30.10 23:56
  • 0
Об истинно-русской альтернативе ВОСР 1917 г.
  • 30.10 23:05
  • 11193
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 30.10 17:07
  • 61
МС-21 готовится к первому полету
  • 30.10 16:39
  • 2
О росте производства в богоспасаемой империи св. Николая II
  • 30.10 15:26
  • 1
В Госдуме рассказали о способном уничтожать целые государства «Посейдоне»
  • 30.10 14:40
  • 1
Путин сообщил о проведении испытаний подводного аппарата «Посейдон»
  • 30.10 12:32
  • 2
Эксперт: у России есть самолеты быстрее, чем американский Х-59
  • 30.10 11:48
  • 1
"Цифровая война" - новая реальность
  • 30.10 03:22
  • 4
Искусственный интеллект - реальность, которую поздно отрицать
  • 30.10 03:08
  • 1
Технологии «Буревестника» применили в космических программах
  • 30.10 03:01
  • 1
План Китая по потоплению авианосца США описали одним словом
  • 29.10 23:30
  • 1
В России рассказали о совместимости «Буревестника» с «Орешником»
  • 29.10 23:19
  • 3
Путин поддержал идею добровольческих формирований для защиты опасных объектов