Кто переупрямит железо, кому неймется в ночь туманную, как сказку сделать былью
Искусственный интеллект сегодня забрал такую силу, что его пора уже как-нибудь персонифицировать. Сокращать, например, не как ИИ, а как И.И.
Эти точечки после букв делают, как ни странно, большую разницу. Сравните, например, сокращения ВВП и В.В.П.
Там какой-то мутный вал товаров, денег и услуг. В случае Китая – цунами, а у Молдавии или Габона – так, легкая рябь на осенней лужице.
А тут человек, к которому весь мир прислушивается (с какими чувствами – это уже второй вопрос). Хотя Владимир Путин давно уже попытался перевести стрелки. «Искусственный интеллект – это будущее всего человечества... Тот, кто станет лидером в этой сфере, будет властелином мира», – заявил он 1 сентября 2017 года на открытом уроке для школьников.
Иными словами: о, не зовите меня властелином мира, не зовите меня так. Настоящий властелин совсем другой, еще неведомый избранник. И хорошо бы он пришел к нам, а не к ним.
ВЕЛИКИЙ И УЖАСНЫЙ
Заметки об И.И. нынче любят иллюстрировать изображением этакой головы Железного Дровосека. Происходит эта голова с автосалона в немецком Эссене, сделана из деталей автомобильного двигателя в стиле стимпанк. А кто ее изваял, мне не удалось дознаться.
Еisenkopf, одним словом. Хотя машинный переводчик предлагает и другой немецкий вариант: Dickschädel. Что означает «упрямец».
Но в сказке «Волшебник Изумрудного города» есть и другие образы И.И.
Например, для Страшилы чудодей Гудвин изготовляет искусственные мозги из отрубей, перемешанных с булавками и иголками (нынешние блогеры сказали бы: из говна и палок).
Еще один образ – огромная лысая голова. В таком виде Гудвин предстал перед Элли, простодушной девочкой из Канзаса.
А ее друзьям он являлся в иных обличьях. Дровосеку – в образе шестилапого монстра, этакого Аргуса с глазами по всему телу. Страшиле – в теле девы с хвостом копченой скумбрии, гибрида Русалки и Золотой рыбки. Трусливому Льву – в виде огненного шара.
И все эти аллегории – Говорящая Голова, Недреманное Око, Обольстительница Сирена и Последний Взрыв (или, если угодно, Капец Котенку) – применительно к И.И. имеют право на жизнь. Как и титул «Великий и Ужасный», которым Гудвина наградили жители Волшебной страны. Потому что И.И. нынче усиленно демонизируют.
Впрочем, сеанс разоблачения в сказке тоже состоялся. И разоблачила Гудвина даже не девочка Элли, а ее маленькая собачка Тото.
ЗА ГУМАНИЗМ И ДЕЛО МИРА
И.И. может уничтожить человечество, пророчит Илон Маск. «Все к тому и идет, совершенно точно», – сказал он в интервью телеканалу Fox News, отвечая на вопрос, появится такой ИИ, который невозможно отключить.
«Регулировать что-то пытаются только после того, как происходит что-то плохое, – рассуждает Маск. – Если в сфере И.И. такое произойдет, может быть слишком поздно».
Маск также рассказал, что ярым сторонником Железной головы является Ларри Пейдж, один из основателей Google. В беседе с Маском он рассуждал о «цифровом боге», а к вопросам безопасности отнесся довольно беспечно. И даже обвинял Маска в «излишней человечности».
ДИАЛОГИ В ПОЛЬЗУ БЕДНЫХ
Кстати, Илон Маск нынче, похоже, сделался главным говоруном США, а то и всего Запада. Оно и понятно: возможности природного интеллекта президента Джозефа Байдена давно уже вызывают серьезные опасения. А окружают Байдена, проповедника политкорректности, по большей части альтернативно одаренные фрики. А его главный оппонент Дональд Трамп – герой чересчур скандальный, хотя и более здравомысленный.
Есть в США еще патриархи вроде Генри Киссинджера или Наума Хомского. Но они, что ни говори, уже двумя ногами в прошлом: одному 99 стукнуло, другому 94. А Илон Маск – миллиардер, прогрессор и крепыш в расцвете сил.
В России главным оппонентом Маска долго выступал Дмитрий Рогозин. Но не так давно он оставил пост главы «Роскосмоса» (то есть утратил связь с космосом). И занялся проблемами спецоперации на Украине. О своих нынешних занятиях он говорит обиняками и недомолвками. Конечно, и в этих условиях можно играть роль собачки Тото, да военная тайна мешает.
Так что на роль постоянного собеседника Маска выдвинулся Дмитрий Медведев, бывший президент, а ныне зампред Совета безопасности РФ. С этим политиком вообще произошла метаморфоза: он стал в последний год гораздо разговорчивей и экспрессивней («Да пропади и околей с вашей деревней!» – «Ах, какие ты забранки пригинаешь!» – сказала старуха, глядя на него со страхом»).
Скажем, когда два вражеских дрона долетели до Кремля, официальный ответ был такой: Москва оставляет за собой право принять ответные меры – где и когда посчитает нужным. А Медведев высказался куда более конкретно: «У России не осталось вариантов, кроме физического устранения президента Украины Зеленского».
Маск в диалоге с Медведевым поначалу отделывался недовольным хмыканьем. А теперь и вовсе перешел на проклятый им же самим машинный язык: то забанит Медведева в своем Twitter, то снова разбанит.
Кстати говоря, Twitter заблокирован в России по решению Роскомнадзора в силу своей враждебности и вредоносности. Но Медведев, оказывается, пользуется им как ни в чем не бывало. «Что нужно Лондону, то рано для Москвы».
БРИТАНСКИЕ УЧЕНЫЕ И ДРУГИЕ ПРОРОКИ
Но продолжим список страшилок.
New York Times написала: канадский ученый британского происхождения Джеффри Хинтон, автор пионерских работ по части И.И., покинул компанию Google, чтобы предупредить мир об опасности ее технологий.
В 2012 году доктор Хинтон построил в Торонто нейросеть для распознавания среди тысяч изображений цветов, автомобилей и собак (опять эти собаки). Google перекупила изобретение и наняла на работу самого ученого. Теперь доктор Хинтон сетует, что 10 лет работал едва ли не на дьявольские технологии. А что будет еще через пять лет – и представлять не хочет («Соотечественники! страшно!.. Чую исполинские возрастанья и плоды, которых семена мы сеяли в жизни, не прозревая, какие страшилища от них подымутся»).
А российский публицист Петр Акопов рисует такую схему. Злые англосаксы устроили глобализацию, которая привела к невиданной концентрации власти и богатства в руках корпораций. И поставила под вопрос существование государств, которые в новом мире не нужны. От государств должен остаться даже не «ночной сторож», а «некий набор онлайн-приложений, платформ и сервисов», управлять которыми будет И.И. А им уже, в свою очередь, будут рулить авторы глобалистского проекта.
Это уже не прокси-война, а какой-то прокси-мир, в смысле прокси-глобус. А прокладка в виде И.И. нужна, чтобы обеспечить новым богам поистине божественные возможности.
Хотя все это человечество уже проходило. В «Илиаде» как раз такой мир и изображен: боги на Олимпе решают вопросы войны и мира, одни – на стороне ахейцев, другие – на стороне троянцев. Но мы следим не за кознями богов, а за приключениями людей – доблестного Ахилла, хитроумного Одиссея, сластолюбивого Париса.
А в Китае управление по вопросам киберпространства разработало проект по регулированию И.И., сообщает РИА Новости. Там, в частности, отмечается, что генерируемый нейросетями контент должен воплощать «базовые социалистические ценности».
Эта мера определенно направлена против сладкозвучных западных сирен с атлантическим хвостом. Китайцы, конечно, сильны тысячелетней мудростью предков, но западные соблазны тоже проникают в их души. Недаром в Китае даже интернет сепаратный и суверенный.
ОГНЕННЫЙ ШАР ДЛЯ ТРУСЛИВЫХ ЛЬВОВ
Уже лет десять идут дискуссии о важной этической проблеме: могут ли компьютеры сами принимать решения об убийстве людей, без участия человека-оператора.
Между тем еще в СССР придумали систему для уничтожения изрядной части человечества. Это система «Периметр», которую на Западе прозвали «Мертвая рука». Она обеспечивает гарантированное ядерное возмездие – нанесение массированного ответного удара, если иные центры управления уничтожены.
Обнаружив признаки ядерной атаки, «Периметр» посылает запрос в Генштаб. Если ответа нет, он обращается к системе «Казбек» (президентскому ядерному чемоданчику). Если и «Казбек» не отзывается, «Периметр» принимает решение об ответном ударе самостоятельно. Если это еще не И.И., то важнейший его элемент, устраняющий из процедуры принятия решений человека.
ГЛАЗАСТЫЙ АРГУС ДЛЯ ЖЕЛЕЗНЫХ ДРОВОСЕКОВ
А в США сегодня больше озабочены разведывательными способностями И.И. По крайней мере если верить журналу «Нэшнл Дефэнс», который рассказывает об украинском конфликте как «живой лаборатории для И.И.». Одна из главных областей, где нынче трудятся нейросети, это разведка и определение целей. Скажем, распознавание лиц в аэропортах. Распознавание военных объектов – мишеней для ракетного удара. Распознавание местности, называемое модным словом «геолокация».
А проект Пентагона под названием Project Maven призван развеять пресловутый «туман войны». Поскольку живые люди уже не могут обработать огромное количество данных со спутников и дронов, на помощь им призвали нейросети.
Причем сотрудники той же компании Google, одного из подрядчиков Пентагона в этом проекте, еще в 2018 году подняли протест, не желая работать на военщину. Подписантов было 4 тысячи, уволились несколько десятков. В итоге компания не стала продлевать контракт с Пентагоном. Но ее место заняли менее щепетильные конкуренты – Microsoft и Amazon.
ЛЕТУЧИЕ ОБЕЗЬЯНЫ ДЛЯ ЛУКАВЫХ ФОКУСНИКОВ
В публикации «Нэшнл Дефэнс» говорится также об оснащении И.И. дронов MQ-9 Reaper. И о разработках компании General Atomics, которые позволят отдельным дронам и целым их роям работать в полностью автономном режиме. То есть самостоятельно выбирать объекты для наблюдения или удара.
Сказочный аналог – атака летучих обезьян на Изумрудный город. Сам Гудвин потерпел в этой войне поражение. И вынужден был натравить на злую колдунью Бастинду, хозяйку обезьян, неуязвимую девочку Элли.
Но как бы ни вела себя военная техника, боевыми действиями на Украине пока управляют люди. Правда, специалисты пророчат, что и эту миссию скоро доверят И.И. Нейросети уже привлекают к проведению штабных учений. А дальнейшее развитие И.И. приведет к революции в военном деле, сопоставимой с изобретением пороха и ядерного оружия.
ДУБОЛОМЫ С УЛЫБОЧКОЙ
Но пока на Украину, как нас уверяют, поставляют продукты военно-технологической мысли второй и третьей свежести.
Что же касается первой свежести – президент Байден на днях поставил задачу «сделать каждую машину в американской армии безвредной для климата».
Воображение тут же рисует электропушки с ветряками и танки с солнечными батареями. А сказочный аналог – это войско Урфина Джюса после реморализации. Напомним, этот узурпатор сделал себе войско деревянных роботов: солдат-дуболомов и шпионов из коряг. Но когда этому воинству намалевали на физиономиях лучезарные улыбки – дуболомы превратились в бравых строителей, а шпионы – в почтальонов.
Правда, чтобы воплотить этот проект, Урфина Джюса нужно сначала одолеть. А с этим у американцев проблемы. Ну-ка, напомните мне, кого они победили в последний раз?
ЕСЛИ ДОЛГО СИДЕТЬ НА БЕРЕГУ РЕКИ
Титул чемпиона мира по шахматам завоевал китаец Дин Лижэнь.
С одной стороны, это сюжет совершенно сказочный. Дин случайно попал в турнир претендентов (после дисквалификации россиянина Карякина по политическим причинам). Дин случайно занял в нем второе место (американец Накамура проиграл ему в последнем туре абсолютно ничейную позицию). Дин случайно стал участником матча на первенство мира (норвежец Карлсен отказался играть). Весь матч Дин был в роли догоняющего, а исход решили секунды в последней партии тай-брейка.
С другой стороны, этот результат идеально укладывается в русло китайской геополитики. Китай уже почти полвека (с 1979 года) ни с кем не воюет, а своих целей терпеливо добивается не мытьем, так катаньем.
В одном из первых интервью Дин Лижэнь заявил: «Не знаю, действительно ли я хотел стать чемпионом мира... Я хотел играть как компьютер, как искусственный разум».
В шахматы компьютеры уже давно, со времен Карпова и Каспарова, играют сильнее людей. Но сказочные сюжеты в них по-прежнему случаются. И это оставляет человечеству надежду: что может И.И. против сказочной логики?
Аркадий Вырвало
Аркадий Фомич Вырвало – журналист.