Президент компании Microsoft предупредил, что жизнь, изображенная в книге Джорджа Оруэлла «1984», «может стать реальностью в 2024 году», если законодатели не защитят нас от искусственного интеллекта.
В интервью программе Би-би-си «Панорама» Брэд Смит сказал, что быстроразвивающиеся технологии будет «трудно догнать».
В программе исследуется все более широкое применение искусственного интеллекта Китаем для наблюдения за своими гражданами. Существуют опасения, что главенствующая роль государства в области искусственного интеллекта несет непосредственную угрозу демократии.
«Если мы не примем законы, которые будут защищать общественность в будущем, мы обнаружим, что технологии стремительно развиваются, и догнать их будет очень трудно», — сказал Смит.
 |
| Брэд Смит. |
| Источник: BBC |
«Мне постоянно вспоминаются уроки Джорджа Оруэлла из его книги “1984”. На самом деле эта история… была о правительстве, которое всегда могло видеть и слышать все, что делают и говорят все, — сказал Смит. — Этого не произошло в 1984 году, но, если мы не будем осторожны, это может случиться в 2024 году».
Китайский искусственный интеллект
Смит добавил, что в некоторых частях мира реальность все больше догоняет научную фантастику.
- В 2019 году Китай превзошел США по количеству патентов, полученных академическими учреждениями на инновации в технологиях искусственного интеллекта
- Согласно исследованию Comparitech, 54% из 770 миллионов камер видеонаблюдения в мире находятся в Китае
Эрик Шмидт, бывший генеральный директор Google, а ныне председатель Комиссии национальной безопасности США по искусственному интеллекту, предупредил, что победа над Китаем в сфере искусственного интеллекта необходима.
«Мы находимся в состоянии геополитического стратегического конфликта с Китаем, — сказал он. — Путь к победе — объединить наши ресурсы, чтобы разработать национальные и глобальные стратегии победы демократий в сфере искусственного интеллекта. Если этого не сделать, нас ждет будущее, в котором нам будут навязаны другие ценности».
Доктор Лан Сюэ, консультант китайского правительства, считает, что распознавание лиц может оказаться «чрезвычайно полезным» при идентификации людей в массовых собраниях в случае «крупной аварии».
«Китай действительно добился огромного прогресса в развитии технологий, — добавил он. — [США] считают это угрозой… и хотят начать холодную войну против технологий».
Хотя Китай существенно отличается от западного мира своими ценностями и политикой, китайское видение мира — «это не конвергенция, а сосуществование», считает доктор Кею Цин, доцент Лондонской школы экономики.
«Китай не стремится экспортировать свои ценности», — утверждает она.
Проект Maven
Эрик Шмидт стал советником Пентагона в 2016 году, сохранив должность исполнительного председателя Alphabet, материнской компании Google. В последующие годы Google заключила контракт с Пентагоном, позволив ему использовать некоторые из своих технологий распознавания изображений в рамках военных проектов.
Проект Maven использовал машинное обучение, чтобы различать людей и предметы в видеороликах, снятых с дронов.
«В то время Maven был способом заменить человеческий глаз автоматическим зрением для видеозаписей с дронов, которые использовались в различных конфликтах в арабских странах, — говорит Шмидт. — Я считал, что использование этой технологии — положительный фактор для национальной безопасности и хорошее партнерство для Google».
«Кровь на руках»
Но ряд сотрудников Google раскритиковал проект и подал в отставку.
«Google не должен участвовать в военном бизнесе, — считает инженер-программист Лора Нолан, которая ушла в отставку в 2018 году, узнав, чем занимается Google в проекте Maven. — Мне казалось, что у меня руки в крови».
Нолан утверждает, что эту технологию в будущем можно будет использовать в системах наведения. Но Google заявила, что ее искусственный интеллект будет использоваться только в невоенных целях, а в июне 2018 года компания покинула проект Maven. Шмидт сказал, что считает полезными технологии, которые могут помочь военным принимать правильные решения.
Гонка интеллектов
Министерство обороны США, тем временем, продолжает искать партнеров в Кремниевой долине, стремясь выиграть глобальную гонку вооружений искусственного интеллекта.
Сет Моултон, председатель Целевой группы США по вопросам будущего обороны, призывает технологические компании поддержать военных.
«Все сводится к тому, что это гонка, это соревнование, и мы в нем участвуем, — говорит он. — Собираетесь ли вы помочь нам выиграть эту гонку или станете нашими противниками? В Китае нет такой же системы правления, как у нас. Может ли гонка вооружений в сфере искусственного интеллекта привести к конфликту с Китаем? Вполне может».
Доктор Сюэ соглашается, что вероятность конфликта существует, хотя он и не является неизбежным. Но для того, чтобы этого не случилось, США и Китай должны действительно сотрудничать, считает он.