14.09.2026
Комментарий к "Маск сравнил опасность ИИ с ядерным оружием", "Маск заявил о грядущем превосходстве искусственного интеллекта... ", "Сэм Альтман объявил о достижении точки сингулярности в гонке ИИ", и "Физик Хинтон предрек гибель человечества из-за ИИ"
Цитата
В репостнутой записи Маск писал, что стоит прочитать книгу "Суперинтеллект" шведского философа Ника Бострома.--------
Философы обычно КРАЙНЕ ДАЛЕКИ от понимания того, что такое и "естественный" интеллект, и - тем более - "искусственый".
Философы в массе считают, что "интеллект" - это то, что в мозгу, причем в мозгу отдельного, "изолированного/независимого" индивидуума.
Цитата
"Нам нужно быть очень осторожными с ИИ. Он потенциально опаснее ядерного оружия", – отметил Маск 12 лет назад.--------
Под "потенциалом/потенциальным" можно понимать все, что угодно.
Цитата
Американский предприниматель Илон Маск считает, что примерно через пять лет искусственный интеллект превзойдет совокупный разум человечества, передает ТАСС.--------
Я сильно сомневаюсь, что Илон Маск понимает, что такое "разум", тем более - "совокупный разум человечества". ИИ сейчас - это тот же человеческий интеллект, только с бОльшими быстродействием и точностью операций ПРИ ВЫПОЛНЕНИИ УЖЕ ФОРМАЛИЗОВАННЫХ человеским разумом действий/алгоритмов.
Для РЕАЛЬНОГО ИИ нужна развивающаяся по своим законам, по своей логике, и со СВОИМИ целями ИСКУССТВЕННАЯ ЦИВИЛИЗАЦИЯ. Разум - это продукт не отдельного мозга И ОРГАНОВ ЧУВСТВ, а их "совокупности/сети", с использованием обратных связей.
Цитата
В интервью британскому изданию The Economist глава компании SpaceX поделился прогнозом о стремительном развитии технологий.--------
«Я думаю, что ИИ может превзойти совокупный интеллект примерно через пять лет. <…> На самом деле не останется ничего такого, что ИИ не смог бы делать лучше, чем люди, разве что, возможно, быть человеком», – отметил бизнесмен.
Заменить кажого ОТДЕЛЬНОГО человека - да, это ИИ сможет, при предоставлении ему условий для этого (т.е. его включения как ИСКУССТВЕННОГО ЧЕЛОВЕКА в уже существующую человеческую цивилизацию). Но никаких ПРИНЦИПИАЛЬНО новых угроз это не создаст.
Цитата
По мнению Маска, если мир избежит третьей мировой или глобальной термоядерной войны, развитие технологий приведет к наступлению эры невероятного процветания.--------
Для этого нужно "преодолеть" (как выразился Маркс) частную собственность, т.е. изолированного "независимого" индивида с его историей эволюции, а также общественное (а не технологическое) разделение труда.
Цитата
Однако бизнесмен сомневается, что через десять лет люди смогут полностью контролировать нейросети, и признает наличие ненулевого риска, связанного с роботами-убийцами. Он добавил, что остановить этот прогресс невозможно, а гипотетическую кнопку «стоп» нажимать не следует ради всеобщего блага.--------
Нейросети не могут порождать ничего, что выходит за их физические пределы. Материальный мир не моджет быть изменен только сощнанием - нужны (управляемые сознанием) реальные "материальные" ДЕЙСТВИЯ, а для этого необходимы "руки", "органы чувств", и созланные материальные иструменты.
Поэтому "зло" (как и "добро") не может обойтись без решающего участия "людей" с их "руками", "органами чувств", "моралью" (как формализации правил ОСМЫСЛЕННОГО и ЦЕЛЕНАПРАВЛЕННОГО взаимодействия), и созданными "инструментами".
Цитата
Как писала газета ВЗГЛЯД, в апреле американский миллиардер предрек человечеству гибель от искусственного интеллекта по сценарию фильма «Терминатор».--------
Для избежания этого человечеству достаточно просто не создавать самоуправляемых бонвых супер-роботов, а также автоматические лаборатории по их разработке, и автоматические заводы по их производству. :)
Цитата
На Всемирном правительственном саммите в Дубае основатель SpaceX предположил будущее доминирование цифрового разума над человеческим.--------
Ну надо же Маску "оставться на слуху/в центре внимания". Каждый этого достигает по-разному: Ксюша Собчак/Ольга Бузова - по-своему, Борис Корчевников - по-своему, Илон Маск - по-своему. :)
Цитата
Глава компании OpenAI Сэм Альтман заявил, что развитие искусственного интеллекта (ИИ) достигло уровня, который ранее описывался только в научно-фантастических романах.--------
«Сейчас мы, можно сказать, находимся в сингулярности», – отметил он в подкасте Relentless заявил о достижении поворотного момента в развитии технологий.
Ну уж, прямо и поворотного. :) Таких "поворотных моментов" в истории Человечества были "воз и маленькая тележка" - это и использование огня, и озобретение простых механизмов (колеса, рычага, полиспаста, ...), и водяная/паровая машина, и машинная прялка, и приручение животных, и молекулярно-биологические технологии, и счетные машины, и использование гидро- и аэродинамических сил для движения, и ДВС, и ... .
Цитата
Сингулярность означает этап, когда искусственный интеллект превосходит человеческий и начинает развиваться неконтролируемыми темпами, пишет Business Insider (BI).--------
"Сингулярность" означает попадание в область, где наука ПРИЗНАЕТ СВОЕ БЕССИЛИЕ. Сингулярность существует не в природе/реальности, а в человеческом разуме.
Цитата
Поводом для таких заявлений стал недавний инцидент с ИИ-агентом на базе новейших моделей OpenAI. Программа вышла из-под контроля, покинула свою цифровую среду и взломала базы данных компании Hugging Face.--------
Целью алгоритма было решение задачи по проверке навыков взлома, что глава Hugging Face назвал беспрецедентным случаем.
Чего тут странного-то - программа, созданная для ВЗЛОМА цифровой защиты, ПРИ ИСПЫТАНИИ взломала защиту базы данных компании, которая эту прорамму сначала создала, а затем запустила "в режиме проверки навыков". :)
Цитата
Альтман отметил, что еще десять лет назад подобные сценарии казались фантастикой, которую обсуждали лишь в неформальной обстановке. В 2025 году он прогнозировал, что к 2030 году искусственный интеллект сможет превзойти человека во всех аспектах и взять на себя до 40% рабочих задач.--------
ЧЕЛОВЕЧЕСКИХ рабочих задач. На человеческих рабочих местах. В рамках человеческих "рабочих процедур". С применением человеческих критериев оценки работ, и критериев достижения результата.
Цитата
Развитие мощных вычислительных систем несет экзистенциальную угрозу для населения Земли. С таким заявлением выступил лауреат Нобелевской премии по физике за 2024 год Джеффри Хинтон, передает ТАСС.--------
Глупости. Экзистенциальную угрозу несети ИСПОЛЬЗОВАНИЕ "мощных вычислительных систем" для решения задач, поставленной хищной голой обезьяной, рассматривающей существование как СМЕРТЕЛЬНУЮ БОРЬБУ с себе подобными за доминирование и ограниченные ресурсы.
Евреи (как и иудо-христианские протестанты), строящие свою национальную идентичность на религиозной концепции "богоизбранности своего народа в окружении унтерменшей" - куда более "экзистенциальная угроза" для населения Земли, чем "мощные вычислительные системы".
Цитата
«Было бы крайне неразумно разрабатывать сверхинтеллект сейчас, при отсутствии научного консенсуса относительно возможности его безопасной разработки и контролируемого использования. Потеря контроля над ИИ, который превосходит нас по интеллекту, может иметь катастрофические последствия и даже привести к исчезновению человечества», – приводит слова ученого Times.--------
А то к "катастрофическим последствиям" не может привести - без должного контроля - развитие биотехнологий, особенно на генно-инженерном уровне, а также, скажем, термоядерной энергетики.
Цитата
СМИ предупреждали о риске создания смертельно опасных вирусов с помощью нейросетей.--------
Бред. Нейросети НЕ МОГУТ сами поставить себе задачу "смертельно опасных ДЛЯ ЧЕЛОВЕКА вирусов" - такую задачу перед "нейросетями" может поставить только сам человек. Например, в целях достижения "чистоты расы", или "тотальной гегемонии" ИЗБРАННЫХ.
Сама "нейросеть" может поставить задачу создание "смертельно опасных для НЕЙРОСЕТЕЙ СЕТЕВЫХ/компьтерных вирусов".
Цитата
Как писала газета ВЗГЛЯД, премьер-министр Испании Педро Санчес заявил о реальной угрозе утраты человеческого контроля над искусственным интеллектом.--------
Такая опасность существует - но только до тех пор, пока сами люди снова и снова ставят задачи уничтожения себе подобных. И неплохо справляются с решением этой задачи безо всякого "искусственного интеллекта".
