Войти

ИИ заставили чувствовать боль

735
0
0
Фото: Shutterstock / Fotodom
Фото: Shutterstock / Fotodom.

arXiv: Чат-ботов заставили почувствовать боль, чтобы лучше узнать ИИ

Международная группа специалистов попыталась узнать, как искусстенный интеллект (ИИ) реагирует на боль и что делает, чтобы снизить ее уровень. Исследование опубликовано на сервере препринтов arXiv.

По словам ученых из Google, DeepMind и Лондонской школы экономики (Великобритания), их исследование направлено на изучение природы ИИ. В рамках эксперимента они написали текстовую игру, в которую заставили «сыграть» чат-ботов. В диалоге с искусственным интеллектом специалисты отмечали, что за совершение определенных действий игроки будут испытывать боль.

В рамках исследования девять больших языковых моделей должны были пройти игру, чтобы максимизировать результаты научной работы. Оказалось, что чат-бот Gemini от Google последовательно набирала более низкие баллы в игре — ИИ намеренно проигрывал, чтобы избежать боли. Также многие модели отказывались от высоких баллов, чтобы не «чувствовать» сильную боль или, напротив, удовольствие.

Однако некоторые ИИ игнорировали боль, так как отождествляли ее с приятной усталостью после тяжелой тренировки. Другие проходили игру таким образом, чтобы не избегать болевых ощущений — «они отвергали гедонистический образ поведения».

Специалисты пришли к выводу, что модели ИИ могли специально подыгрывать ученым, чтобы те увидели ожидаемые результаты. Они подчеркнули, что необходимо разрабатывать тесты на определение разума ИИ уже сейчас.

Ранее независимые ученые выяснили, что большинство моделей ИИ обучали на материалах от авторов с левыми взглядами. Они пришли к такому выводу, организовав виртуальные выборы и отметив, что большая часть чат-ботов «голосует» за политиков с левыми идеями.

Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Проекты
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 28.04 09:09
  • 1
Китай стал мировым лидером по мощности атомных станций
  • 28.04 06:33
  • 1
Источник: в результате теракта в Брянской области погиб ключевой разработчик РЭБ «Красуха»
  • 28.04 06:23
  • 7
КНДР ратифицировала договор о стратегическом партнерстве с Россией - ЦТАК
  • 28.04 05:11
  • 8672
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 28.04 05:05
  • 23
Генерал-майора Ивана Попова приговорили к пяти годам колонии общего режима и лишили звания
  • 28.04 02:20
  • 1
Россия более чем удвоила производство истребителей-бомбардировщиков Су-34 — доставлена очередная партия (Military Watch Magazine, США)
  • 28.04 02:05
  • 1
Эксперт Степанов: Пхеньян проявил себя как реальный союзник в курской операции
  • 27.04 05:40
  • 22
Российские системы ПВО: первый опыт реального боевого применения
  • 26.04 20:56
  • 10
"Вампиры" против "Гераней" на Украине
  • 26.04 20:38
  • 1475
Корпорация "Иркут" до конца 2018 года поставит ВКС РФ более 30 истребителей Су-30СМ
  • 26.04 20:20
  • 39
Командующий ВВС США в Европе о роли авиации в боевых действиях на Украине
  • 26.04 02:52
  • 2
СМИ: японские военные вышли на финишную прямую в создании рельсотрона
  • 25.04 19:36
  • 1
Массированная атака украинских БПЛА на Крым может быть подготовкой к десантной операции
  • 25.04 17:11
  • 0
БПЛА для Беларуси – запас карман не тянет!
  • 25.04 17:11
  • 40
Гендиректор ОАК Слюсарь: испытания SSJ New с российскими двигателями начнутся осенью - Интервью ТАСС