Войти

Роботов поставили в ситуацию морального выбора

1317
0
0
Эксперимент
Эксперимент по созданию для роботов ситуации этического выбора.
Источник изображения: alanwinfield.blogspot.ru

Создав для роботов ситуацию этического выбора — кого из двух человек, одновременно попадающих в опасность, надо спасать — ученые выяснили, что больше всего смертей приносит не сам выбор, а слишком долгие размышления машины. О своем эксперименте Алан Винфилд (Alan Winfield) из Бристольской лаборатории робототехники рассказал на конференции по автономным роботам, которая прошла 2 сентября в Бирмингеме. Кратко об исследовании сообщается в интернет-издании New Scientist.


Винфилд запрограммировал робота удерживать другие автоматы (которые изображали людей) от падения в яму. Такой эксперимент представляет собой, по сути, иллюстрацию к первому закону робототехники А. Азимова: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».


Сначала у машины проблем не возникло: как только «человек» приближался к яме, робот быстро отодвигал его от опасного места. Но когда ученые добавили второй автомат, приближавшейся к ловушке с той же скоростью, перед роботом встала дилемма — кого спасать первым. Иногда ему удавалось удержать одного «человека», пару раз — двоих, но в 14 случаев из 33 робот столько времени тратил на этические размышления, что оба «человека» падали в яму.


Винфилд признает неутешительные результаты своего эксперимента и подчеркивает, что роботы все еще остаются «этическими зомби»: они, способны соблюдать определенный кодекс поведения, но не понимают его моральные основания.


Научить машины принимать этические решения могут специалисты по военной робототехнике. Рональд Аркин (Ronald Arkin) из разработал набор алгоритмов («этический руководитель»), который призван помочь роботам действовать на поле боя: в каких ситуациях прекращать огонь, в какой обстановке (около школы или больницы, например) стремится свести к минимуму количество жертв.


Аркин считает, что научить морали военных роботов будет проще всего, так как законы войны являются четкими и прописаны в международных договорах. В отличие от живых солдат, подверженных эмоциям и аффектам, машины никогда не нарушат эти законы.


Права на данный материал принадлежат
Материал размещён правообладателем в открытом доступе
  • В новости упоминаются
Проекты
Похожие новости
18.05.2007
Индия провела испытания системы тактической разведки
20.04.2007
В России заявили о разработках нанооружия
13.04.2007
ОТ ИСТРЕБИТЕЛЕЙ ДО МЕЖПЛАНЕТНЫХ КОСМИЧЕСКИХ СТАНЦИЙ У НПО имени С.А. Лавочкина богатая история и прекрасная перспектива
01.01.2007
ПРИЗРАЧНОЕ ПРЕВОСХОДСТВО. Технологии вчерашнего дня маскируются под современные
20.04.2007
Т-72
18.04.2007
Кронштадт
23.04.2007
МЭИ
Хотите оставить комментарий? Зарегистрируйтесь и/или Войдите и общайтесь!
ПОДПИСКА НА НОВОСТИ
Ежедневная рассылка новостей ВПК на электронный почтовый ящик
  • Разделы новостей
  • Обсуждаемое
    Обновить
  • 28.03 16:35
  • 414
Без кнута и пряника. Россия лишила Америку привычных рычагов влияния
  • 28.03 16:17
  • 0
Force de Frappe. Франция перебрасывает истребители Rafale в Румынию
  • 28.03 15:34
  • 1
Представлен модуль акустической разведки, находящий беспилотники по звуку
  • 28.03 14:32
  • 1
Источник сообщил об успешном применении ВС РФ перспективных "прыгающих мин" в зоне СВО
  • 28.03 13:54
  • 5
«Дальность полета возрастет в три раза»: французская компания представила управляемую бомбу Hammer 1000
  • 28.03 10:55
  • 2
Раскрыто назначение трехтонной российской бомбы
  • 28.03 10:12
  • 1
В США вспомнили о советском атомолете
  • 28.03 10:06
  • 62
В США оценили российские Су-34 с УМПК
  • 28.03 10:05
  • 1
Клинцевич рассказал о запускаемых со «Смерча» российских бомбах
  • 27.03 19:52
  • 1
Генпрокурор рассказал, как боевую технику ремонтировали контрафактом
  • 27.03 15:15
  • 454
Международные расчеты, минуя доллар, по странам
  • 27.03 15:00
  • 10
Глава Ростеха анонсировал возобновление выпуска самолётов радиолокационного обнаружения и управления А-50У
  • 27.03 14:34
  • 8
Александр Михеев: система ПВО С-400 "Триумф" в разы превосходит конкурентов
  • 27.03 14:29
  • 0
Украина начинает экспорт биогаза в ЕС
  • 27.03 11:51
  • 4
В спецоперации на Украине задействован триумвират крылатых ракет - "Калибр", "Оникс" и Х-35