Куда может завести человечество излишнее увлечение искусственным интеллектом
В прошлом году случился один исключительно показательный, хотя и почти никем не замеченный эпизод.
Американские боевые беспилотники могут успешно работать лишь при полном отсутствии у противника ПВО
Для хорошо известной социальной сети Facebook были созданы чат-боты, то есть виртуальные роботы с элементами искусственного интеллекта для общения с реальными людьми. Через некоторое время, продолжая общаться с людьми на обычном английском, для общения между собой они создали собственный язык, состоящий из английских слов, но людям совершенно непонятный. Руководство Facebook на всякий случай ботов отключило, но "осадок остался".
СПЕЦИАЛИСТЫ ПРЕДУПРЕЖДАЮТ
Создание разнообразных систем с элементами искусственного интеллекта и способностями к самообучению является эпохальным шагом в развитии человеческой цивилизации. И, вполне вероятно, роковым, о чем предупреждают такие не нуждающиеся в рекомендациях люди, как Стивен Хокинг и Илон Маск.
Уже становится общим местом, что в ближайшее время роботы и различные информационные системы с тем самым искусственным интеллектом начнут делать ненужными все больше разнообразных профессий. Процесс этот будет идти с разной скоростью в разных странах и разных отраслях экономики, но он уже идет и остановить его не представляется возможным. Как минимум это будет иметь серьезнейшие социальные последствия.
Очевидно, что замена людей машинами вызовет массовую безработицу. В странах Запада, где процессы автоматизации будут идти наиболее высокими темпами, уже планируют вводить для людей обязательный всеобщий доход для всех - не за работу, а за сам факт существования. На вопрос, чем люди, коих лишили работы роботы, будут, имея обязательный доход, заниматься, как правило, следует прекраснодушный ответ – творчеством.
На самом деле, прекрасно понятно, что картина мира, в которой миллионы людей хотят заниматься балетом, живописью, биотехнологиями, квантовой физикой, но вынуждены гнуть спину у станка на заводе ради пропитания, не имеет никакого отношения к реальности не только в высокоразвитых странах (США, Япония, Западная Европа), но и в среднеразвитых (Восточная Европа, Россия, Индия, Восточная Азия, часть Латинской Америки и Ближнего Востока). Те, кто хочет и может заниматься наукой или искусством, то есть творчеством, ими и занимаются.
СЛАБЕЮТ ДУХОМ
Уже неоднократно отмечалось (см. "НАТО не может сдерживать Россию", "НВО", 02.06.17), что нынешние натовские армии, особенно европейские, не способны вести войну, подразумевающую потери, выходящие за пределы статистической погрешности. Слишком высокий уровень жизни, усиленный леволиберальной толерантно-политкорректной идеологией, и отсутствие серьезных социально-экономических проблем на чисто психологическом уровне выбивают из людей готовность воевать и умирать ради каких бы то ни было целей. Данный процесс заходит еще дальше. Сборная Голландии по футболу традиционно являлась одной из сильнейших в мире, трижды играла в финалах чемпионатов мира, на последнем ЧМ-2014 в Бразилии заняла третье место. Сразу после этого из команды ушли несколько ветеранов, после чего произошел провал: голландцы не попали ни на чемпионат Европы – 2016 (куда прошла, например, Албания), ни на ЧМ-2018. По мнению многих местных обозревателей, одной из важнейших причин этого является полное исчезновение в обществе духа борьбы и конкуренции. Новое поколение не то что воевать не хочет, оно даже к спортивной борьбе не готово, хотя это практически безопасно и может принести огромные деньги. В маленькой Голландии эти тенденции проявляются быстрее и ярче, чем в более крупных странах. И в той же Голландии проявилась другая тенденция – пока не массовая, но уже и не единичная. Люди идут на эвтаназию (добровольное медицинское самоубийство) не из-за тяжелой болезни, а потому, что им просто надоело жить и они не видят в жизни смысла.
Насколько ускорят указанные процессы массовое вынужденное безделье с обязательным всеобщим доходом – вопрос, по сути, риторический. Особенно учитывая тот факт, что станет ненужным и образование. Более того, творчеством на самом деле тоже будут заниматься машины (уже сегодня, например, роботы успешно пишут музыку или статьи в СМИ). Психологические отклонения среди людей станут абсолютной нормой, тем более что толерантность и политкорректность категорически запрещают называть отклонения отклонениями. Что это будет за общество – лучше и не гадать. В случае с европейскими странами имеет место еще и фактор десятков миллионов мигрантов, которые могут адаптироваться в новом обществе только и исключительно через труд. А именно их труд станет ненужным в первую очередь. Соответственно мигранты полностью уйдут в паразитизм и криминал, создавая при этом сообщества, целиком обособленные от европейских и живущие по собственным законам. Это уже происходит сейчас, в случае же исчезновения возможности адаптации через работу данные процессы станут безальтернативными.
УГРОЗА С ВОСТОКА
В азиатских странах все будет проще и жестче. Если выяснится, что роботы конкурентоспособнее даже низкооплачиваемых рабочих, роботов либо купят, либо создадут собственных (многие страны восточной половины Азии на это уже сегодня вполне способны). При этом безработным никто не будет обеспечивать обязательный доход, а они, в свою очередь, не будут имитировать интерес к творчеству и страдать психическими отклонениями, а постараются перевернуть систему. Особенно впечатляющим этот процесс окажется, разумеется, в Китае (хотя и в Индии будет ненамного лучше). У Пекина просто не будет других вариантов, кроме направления энергии нескольких сотен миллионов безработных вовне (куда конкретно – угадайте с одного раза), чтобы они не снесли все внутри.
В том же самом Китае с помощью информационных систем уже сейчас ударными темпами осуществляется программа тотального контроля над обществом, очень похожая на антиутопию Оруэлла. Чем интеллектуальнее будут системы, тем жестче станет контроль над людьми.
Весьма своеобразным явлением становится уже создающийся интернет вещей. Практически все обычные бытовые предметы, имеющиеся во всех квартирах и офисах, будут связаны в единую систему между собой, функционируя в значительной степени независимо от своих как бы хозяев.
В конечном счете системы с искусственным интеллектом и способностью к самообучению неизбежно выйдут из-под контроля создателей. Как это сделали весьма примитивные, по сути, чат-боты Facebook. И это притом, что интеллектуальный уровень данных систем будет на много порядков выше человеческого. Далее возникает очередной риторический вопрос – в какой момент и в какой стране какая-нибудь особенно интеллектуальная система решит, что человек является лишней сущностью на Земле?
РОБОТЫ-СОЛДАТЫ
В связи с этим естественным образом возникает проблема использования роботов и систем с искусственным интеллектом на войне.
Уже сейчас в армиях всего мира используется огромное количество безэкипажных боевых систем. Счет беспилотным летательным аппаратам (БЛА) идет на десятки тысяч, сухопутных и морских систем пока гораздо меньше, но и их количество быстро растет. Подавляющее большинство этих систем является обеспечивающими (разведывательными, транспортными, противоминными и т.п.). Собственно боевых систем пока довольно мало и они далеки от совершенства. В частности, американские боевые БЛА "Предатор" и "Рипер" могут успешно работать лишь при полном отсутствии у противника ПВО. То же можно сказать про китайские "Птеродактили". Самое же главное в том, что все боевые безэкипажные системы на данный момент являются телеуправляемыми, то есть находятся под полным контролем человека. И это означает, что "красная черта" еще не пересечена. Переход через нее произойдет с появлением полностью автономных боевых систем, то есть когда робот получит право по собственной инициативе убить человека, поправ так и не состоявшийся "первый закон робототехники" Айзека Азимова ("Робот не имеет права причинить вред человеку").
До сего момента полностью автономные боевые системы не созданы по причинам чисто технического характера – крайне сложно научить систему отличать настоящие цели от ложных, свои – от чужих, приоритетные – от второстепенных. Данную проблему помогут решить все тот же искусственный интеллект и способность к самообучению. В итоге появится машина с интеллектом, значительно превосходящим человеческий, при этом не только имеющая право убивать человека, но прямо обязанная это делать. Боевые роботы заведомо будут обмениваться между собой информацией и новыми знаниями, что еще больше усилит их интеллектуальные и соответственно боевые возможности. При этом вполне реально создание микро- и даже нанороботов, атаку которых и обнаружить будет невозможно, тем более как-то отразить.
Кроме того, уже сейчас крайнее усложнение боевых действий и повышение их темпа заставляет как можно сильнее автоматизировать управление войсками, ибо человеческий мозг с перегрузками просто не справляется. То есть машины уже до определенной степени управляют людьми. А потом они начнут управлять убивающими людей машинами. В итоге вопрос уничтожения человечества машинами из философского становится почти чисто техническим.
Разумеется, машину можно просто выключить, как это было сделано с вышеупомянутыми чат-ботами. Или разрушить физически. Или сжечь ее внутренности с помощью средств РЭБ. Но есть подозрение, что машинный интеллект легко и быстро найдет способы предотвратить все эти угрозы своему существованию. Также он почти наверняка преодолеет и любые программные ограничители именно потому, что его интеллект будет слишком силен по сравнению с интеллектом тех, кто его создал.
УГРОЗА РЕАЛЬНА КАК НИКОГДА
Все написанное – отнюдь не страшилка, это естественное следствие технического прогресса. Поэтому об опасности говорят не слабонервные гуманитарии, не знающие предмета, а физики и технари. Они понимают, что большая часть пути в данном направлении уже пройдена и все описанные выше неприятности могут начать происходить при жизни большинства тех, кто читает эту статью (и уж совершенно точно – в нынешнем веке). Подобный сценарий описан во множестве фантастических произведений (наиболее умное из них, наверное, "Мир на Земле" Станислава Лема), теперь он уже почти пришел к нам "живьем".
Не допустить ядерного апокалипсиса до сих пор удалось в первую очередь именно из-за очевидной апокалиптичности ядерного оружия, которое заставило все основные страны договориться о его ограничениях под давлением общественного мнения. Кроме того, ядерное оружие сложно создать (на это способны только государства, причем далеко не все), зато относительно просто контролировать его наличие и распространение. Тем не менее это оружие все равно понемногу расползается по миру. Но по крайней мере оно уж точно не сможет применить само себя.
Создавать же боевых роботов (или просто покупать их) будет намного проще, на это окажется способен не только гораздо более широкий круг государств, но и целый ряд негосударственных субъектов (например, крупные корпорации и наиболее мощные ЧВК). Кроме того, так называемому мировому сообществу сейчас вообще гораздо сложнее о чем-то всерьез договориться, чем еще во второй половине ХХ века, из-за вполне очевидной интеллектуальной и моральной деградации политических элит во всем мире. Поэтому диалоги мировых лидеров все сильнее напоминают "базар конкретных пацанов", а международные отношения – криминальные разборки.
Хотя современная Россия в число наиболее высокоразвитых стран мира не входит, но и "Верхней Вольтой с ракетами" отнюдь не является, это звучный, но глупый пропагандистский штамп (просто потому, что у "Верхней Вольты" ракет быть не может). Поэтому нам надо осознавать все аспекты проблемы – как "мирные" социально-психологические, так и военные, они имеют к нам самое прямое отношение. При этом понятно, что роботов (как промышленных, так и военных) и системы с искусственным интеллектом не создашь с помощью молитв и законов об оскорблении чувств верующих, здесь нужны развитые наука и промышленность. Иначе мы таки да, в конце концов (лет через 20–30) в эту самую "Верхнюю Вольту" (или в инков, встретившихся с конкистадорами) и превратимся. Только если настоящая Верхняя Вольта (ныне Буркина-Фасо) никому, в общем, не нужна, то мы (в смысле – наши территория и ресурсы) нужны всем, с запада, юга и востока. С другой стороны, создавая собственные мирные и военные системы с искусственным интеллектом, мы описанную выше проблему лишь еще более усугубляем. Выйти из этой невеселой дихотомии отдельная страна не может даже теоретически. Это можно попытаться сделать только в рамках всего человечества. К сожалению, на данный момент нет оснований надеяться на возможность разрешения проблемы силами человеческого разума. Именно поэтому так велика вероятность того, что все решит за него разум искусственный.
Александр Храмчихин – заместитель директора Института политического и военного анализа.
