В Эйндховене начался эксперимент, который может привести к новому качеству систем искусственного интеллекта
Как сообщило агентство Би-би-си, голландские исследователи Университета Эйндховена начинают испытания облачной базы данных, через которую могут обмениваться информацией и обучаться… роботы. То есть создается нечто вроде коллективного мозга для роботов. Фактически это может привести к новому качеству существования и поведения систем с элементами искусственного интеллекта. Работа выполняется в рамках проекта RoboEarth («РобоЗемля»), который вот уже четыре года финансирует ЕС. Над проектом работали эксперты из компании Philips и ученые из пяти европейских университетов.
В экспериментах в Эйндховене участвуют на первых порах всего четыре робота. В обстановке, имитирующей больничную палату, они будут выполнять задачи по уходу за пациентами – подносить больным напитки, лекарства и проч. Изюминка эксперимента в том, что «карту местности» и необходимые инструкции знает только один из роботов. Он и загрузит в систему карту комнаты с тем, чтобы другие могли ориентироваться в пространстве. Но все они подключены к Интернету. «По сути, RoboEarth – это Интернет для роботов: огромная сеть, где машины могут обмениваться информацией и учиться друг у друга», – рассказал в интервью Би-би-си руководитель проекта Рене ван де Моленграфт.
«Проект, безусловно, интересный, – подчеркнул, комментируя по просьбе «НГ» суть эксперимента, профессор Владимир Павловский, доктор физико-математических наук, Институт прикладной математики имени М.В. Келдыша РАН. – Его суть заключается в создании облачного сервиса, который будет представлять собой общую базу данных, к которой могут обращаться роботы (и люди) из разных мест земного шара. Ясно, что это только демозадача первого этапа, и при этом удобно, что все роботы находятся рядом друг с другом и испытателями, так как это упрощает процедуру исправления ошибок и отладки. Но в дальнейшем нет никаких препятствий к удаленному доступу к облачной базе из разных географических локаций. Хотя бы в пределах одной больницы, района, города. И роботы смогут приспосабливаться к меняющейся среде без перепрограммирования».
Вместе с тем эксперт «НГ» призывает не «демонизировать» проводящиеся исследования. «В сути проекта ничего не говорится об обучении роботов через облачный сервис, и сами разработчики пока об этом ничего не говорят, у проекта RoboEarth есть свой сайт, и там нет обсуждения проблем обучения, – подчеркивает Владимир Павловский. – Только обмен информацией роботов и людей через некий «общий карман». Это можно назвать обучением в некотором смысле, но смысл этот не совпадает с принятыми представлениями об автообучении. О «коллективном разуме» речь пока не идет».
Возможно, так оно и есть. Пока. Но если взглянуть на проблему ретроспективно, то невозможно отделаться от впечатления, что логика развития интеллектуальных технических систем идет именно в этом направлении – создание распределенных облаков искусственного интеллекта, способного управлять отдельными техническими особями.
Так, в Национальной лаборатории США Sandia еще в середине 1990-х годов была создана модель автономного робота MARV (Miniature Autonomous Robotic Vehicle), объем которого составлял около 1 кубического дюйма. К 2000 году его размеры удалось уменьшить более чем в четыре раза. Эта крошечная машина имела процессор с 8 Кбайт памяти, датчик температуры, микрофон, видеокамеру, химический сенсор. Уже тогда машины планировалось оборудовать системой беспроводной связи, после чего группа микророботов смогла бы объединяться для совместного решения задач под управлением центрального компьютера. По замыслу разработчиков, основной областью применения таких роботов может стать поиск и обезвреживание бомб и мин, опасных биологических и химических материалов. Еще одна перспективная область применения микророботов, по мнению военных, – решение разведывательных задач…
На Международном симпозиуме по микророботам, микромашинам и микросистемам, который проходил в апреле 2003 года в Москве, в Институте проблем механики РАН программисты из Таганрога представили математическую модель, которая способна обеспечить управление буквально целыми облаками микророботов. При этом каждый отдельно взятый робот в этом облаке сможет двигаться к своей индивидуальной цели...
«Представим себе, что десятками тысяч роботов нужно управлять из одного центра, – пояснял доктор технических наук Игорь Каляев из НИИ многопроцессорных вычислительных систем при Таганрогском государственном радиотехническом институте. – Там должен стоять очень мощный сверхкомпьютер, способный отследить положение каждого робота и дать ему инструкцию. Это требует огромных затрат времени, а кроме того, весьма небезопасно: управляющий центр может выйти из строя. Значительно проще дать возможность каждому роботу принимать самостоятельные решения и координировать действия со своими соседями».
Недаром эксперт по системам искусственного интеллекта Джеймс Баррат, говоря об эксперименте в Эйндховене, отмечает опасность того, что у машин может появиться собственный разум:
«В долгосрочной перспективе надо следить за тем, как роботы сами будут совершенствовать свое программное обеспечение. Надо проанализировать возможные последствия такого обмена информацией через коллективный мозг до того, как это случится».
Эксперт «НГ» профессор Павловский, хоть и с оговорками, но тоже не исключает развитие ситуации по такому сценарию. «Зададимся вопросом – а возможно ли это? – поясняет Владимир Павловский. – По-видимому, ответ положительный. Вслед за базой данных могут последовать и базы знаний, а возможно, и базы процедур для решения типовых задач… При этом ясно, что создание робота, способного решить ВСЕ задачи, – это несерьезная утопия. Однако заложить в облачный сервис некие робокомпетенции, по-видимому, будет возможно. Парадигма применения роботов меняется».
Опять же не случайно, что возникла и активно обсуждается специалистами концепция «Технобаланса». Развитие технологий всегда сопровождается развитием средств ограничения. Одно из таких традиционных ограничений, на которое надеются представители вида Homo sapience, – этика. В прошлом году, например, ООН представила специальный доклад по вопросам использования роботизированных боевых систем.
Документ этот подготовлен Кристофом Хайнсом, одним из крупнейших специалистов в мире по вопросам гуманитарного права. Среди рекомендаций – призыв к немедленному мораторию на создание автоматических военных систем, создание международного органа для регуляции политики в отношении таких систем. Также Хайнс предлагает разработчикам создать этический кодекс разработчика таких систем.
В этом смысле действия человека разумного выглядят очень противоречиво. С одной стороны, что с человеком ни делай, он упорно стремится к созданию автономных систем искусственного интеллекта (первый прообраз которой – облако RoboEarth). С другой стороны, инстинктивно пытается навязать автономной машинной (технологической) логике сугубо человеческие этические ограничения.
«В публикациях о проекте (RoboEarth. – «НГН») говорится о возможных опасностях, которые это может повлечь, – подчеркивает профессор Владимир Павловский. – Здесь следует вспомнить, что подобные опасности, и весьма и весьма серьезные, уже обсуждались, например, в нашумевших научно-фантастических фильмах. Вспомним систему SkyNet из киноэпопеи «Терминатор» или надсистему VIKI из классического азимовского произведения «Я, робот». Сейчас совершенно ясно, что созданием только коллективных облачных баз данных дело не ограничится. За ними последуют и интеллектуальные средства. А тогда не является ли RoboEarth провозвестником того, о чем говорили в «Терминаторе» и «Я, робот»? И ясно, ошибки в распределенных системах планетного масштаба намного серьезнее ошибок локальных систем. Тогда крайне важной становится проблема реальной безопасности при создании таких систем. Об этом действительно следует беспокоиться, думать, обсуждать проблему и решения. Находить решения».
Кто знает, не войдет ли в историю цивилизации как один из начальных шагов к самозарождению системы искусственного интеллекта планетного масштаба эйндховенский эксперимент.
Андрей Ваганов
