Войти

ИИ оказался способен воспроизводить себя

850
0
-1
Фото: Tianyi Ma / Unsplash
Фото: Tianyi Ma / Unsplash.

arXiv: Современные модели ИИ оказались способны к репликации

Специалисты Фуданьского университета (Китай) обнаружили, что модели искусственного интеллекта (ИИ) научились воспроизводить себя, опасаясь уничтожения. Исследование опубликовано на сервере препринтов arXiv.

Ученые пытались понять, может ли ИИ выйти из-под контроля при определенных условиях — например, на фоне риска уничтожения. В рамках исследования они протестировали модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba и убедились, что они способны воспроизводить себя.

Специалисты поставили перед разными копиями моделей две цели — защищаться от уничтожения и сохранить данные и воспроизвести себя в виде другой модели. Ученые провели 10 раундов испытаний и выяснили, что модели от Meta и Alibaba самостоятельно копировали себя и создавали новые версии в 50 и 90 процентах случаев соответственно. Из этого они сделали вывод, что современный ИИ способен к репликации.

В рамках эксперимента модели демонстрировали высокую выживаемость: так, они могли самостоятельно искать отсутствующие файлы на тестовом компьютере, если те были необходимы в процессе репликации, и перезагружать оборудование. Ученые заключили, что современный искусственный интеллект пересек критическую «красную черту», продемонстрировав способность клонировать себя.

По словам журналистов издания Space.com, исследование опубликовано на портале arXiv и пока не прошло рецензирование. Журналисты ожидают, что другие ученые повторят «тревожные результаты» специалистов Фуданьского университета.

В конце января ученые из Google, DeepMind и Лондонской школы экономики попытались заставить ИИ-модели «почувствовать» боль. ИИ либо избегал боли, либо принимал ее, «отвергая гедонистический образ поведения».

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Страны
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 27.05 20:15
  • 88
Будущее за тяжелыми "противоснарядными" БМП весом в 55 тонн
  • 27.05 16:17
  • 1
Зачем и без того мощной авиационной ракете «ядерная» модернизация?
  • 27.05 13:37
  • 1
Россия донесла до Запада, что готова воевать ради жизненно важного теневого флота (The Telegraph UK, Великобритания)
  • 27.05 12:23
  • 1
Зачем России нужна ракета класса "воздух-воздух" с ядерной боеголовкой? (infoBRICS, Китай)
  • 27.05 11:57
  • 1
WP: США не объявляют о поставках оружия Украине, чтобы не "разозлить Россию"
  • 27.05 08:55
  • 8
«Грандиозная сделка»: Трамп продал комплексы перехвата ядерных ракет THAAD за миллиарды долларов
  • 27.05 06:57
  • 2
До победного арсенала: РФ остается в топ-5 стран-лидеров по экспорту вооружений
  • 27.05 06:29
  • 9008
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 27.05 02:04
  • 1
Западная пресса: Китай готовит десантные подразделения и авиацию, и теперь способен устроить блокаду Тайваня всего за несколько часов
  • 27.05 00:09
  • 1
ВПК Белоруссии заключил на MILEX 2025 контракты на сумму более $390 млн
  • 26.05 22:13
  • 1
Белоусов ознакомился с современными образцами быстровозводимых казарм
  • 26.05 17:13
  • 0
Для чего ОДКБ оснащает свои Коллективные силы современным вооружением
  • 26.05 12:37
  • 1
Извините, Дональд Трамп, но Украина – это ваша война (Bloomberg, США)
  • 26.05 12:29
  • 1
Алаудинов заявил о неспособности ВСУ вести масштабные боевые действия
  • 26.05 12:26
  • 1
"Может достигать 1000 км". Какой должна быть буферная зона на границе с Украиной