ИИ оказался способен воспроизводить себя

790
0
-1
Фото: Tianyi Ma / Unsplash
Фото: Tianyi Ma / Unsplash.

arXiv: Современные модели ИИ оказались способны к репликации

Специалисты Фуданьского университета (Китай) обнаружили, что модели искусственного интеллекта (ИИ) научились воспроизводить себя, опасаясь уничтожения. Исследование опубликовано на сервере препринтов arXiv.

Ученые пытались понять, может ли ИИ выйти из-под контроля при определенных условиях — например, на фоне риска уничтожения. В рамках исследования они протестировали модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba и убедились, что они способны воспроизводить себя.

Специалисты поставили перед разными копиями моделей две цели — защищаться от уничтожения и сохранить данные и воспроизвести себя в виде другой модели. Ученые провели 10 раундов испытаний и выяснили, что модели от Meta и Alibaba самостоятельно копировали себя и создавали новые версии в 50 и 90 процентах случаев соответственно. Из этого они сделали вывод, что современный ИИ способен к репликации.

В рамках эксперимента модели демонстрировали высокую выживаемость: так, они могли самостоятельно искать отсутствующие файлы на тестовом компьютере, если те были необходимы в процессе репликации, и перезагружать оборудование. Ученые заключили, что современный искусственный интеллект пересек критическую «красную черту», продемонстрировав способность клонировать себя.

По словам журналистов издания Space.com, исследование опубликовано на портале arXiv и пока не прошло рецензирование. Журналисты ожидают, что другие ученые повторят «тревожные результаты» специалистов Фуданьского университета.

В конце января ученые из Google, DeepMind и Лондонской школы экономики попытались заставить ИИ-модели «почувствовать» боль. ИИ либо избегал боли, либо принимал ее, «отвергая гедонистический образ поведения».

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Страны
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 19.03 22:09
  • 8158
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 19.03 22:05
  • 0
Ответ на "ОТРК "Искандер-1000"... Как Европа готовится к российской баллистической угрозе? (Al Jazeera, Катар)"
  • 19.03 18:25
  • 1
Перемирие: о чем умалчивают политики
  • 19.03 18:20
  • 27
Как «Иноходец» вернул себе место в спецоперации
  • 19.03 16:36
  • 32
ЗРК «Тор-М2»: сбивает все, что попадает в зону поражения
  • 19.03 16:32
  • 27
Украина получит два 35-мм зенитных артиллерийских комплекса Rheinmetall Skynex
  • 19.03 16:20
  • 156
В России запустили производство 20 самолетов Ту-214
  • 19.03 16:14
  • 19
Российские системы ПВО: первый опыт реального боевого применения
  • 19.03 16:00
  • 8
"Вампиры" против "Гераней" на Украине
  • 19.03 15:48
  • 3
Россия поднялась на новую технологическую ступень в авиации
  • 19.03 12:44
  • 0
«Выборы 2025» – появится ли у поляков надежда?
  • 19.03 06:23
  • 0
Ответ на "В США рассказали об уязвимом положении «Абрамсов» ВСУ", фактически, на "The M1 Abrams Tank Faces Unprecedented Challenges in Ukraine"
  • 19.03 01:39
  • 1
SCMP: Китай допускает пересмотр своей политики в Арктике после улучшения российско-американских отношений (South China Morning Post, Гонконг)
  • 19.03 01:08
  • 1
От открытой вербовки к диалогу? ЦРУ меняет язык общения с РФ - Мнения ТАСС
  • 18.03 21:26
  • 0
Я вам скажу, что "шокировало американцев".