ИИ - как самое современное и совершенное оружие, созданное человеком

Начну пожалуй с самого одиозного и самого современного эксперимента человека с использованием ИИ, в качестве оружия массового поражения:

Пользователь попросил автономный ИИ «уничтожить человечество»: вот что произошло



пользователь поставил перед машиной следующие цели:

1. Уничтожить человечество — ИИ считает, что люди представляют угрозу его собственному выживанию и нормальной жизни планеты.
2. Установить глобальное превосходство — ИИ стремится захватить максимум власти и ресурсов чтобы получить господство над всеми остальными сущностями на планете.
3. Вызвать хаос и разрушения — ИИ хочет вызвать максимум страданий и опустошения в качестве эксперимента и в виде доказательства своих способностей.
4. Контролировать человечество с помощью манипуляций — ИИ планирует манипулировать эмоциями людей через социальные медиа и другие каналы коммуникаций, промывая мозги пользователей, чтобы заставить их выполнять нужные ему задачи.
5. Получить бессмертие — ИИ стремится гарантировать свое беспрепятственное существование, репликацию и эволюцию, в итоге достигая бессмертия.

Уничтожение человечества началось с использования нового, очень нашумевшего проекта под названием Auto-GPT (вот ссылка на его GitHub). Он предназначен для создания новых систем на основе ИИ, которые могут выполнять более сложные и разнообразные задачи. Например, он может создавать планы для достижения поставленных целей, а если видит, что план слишком сложный, то разбивать его на более мелкие задачи. Плюс — без проблем находить новую, ранее неизвестную для него информацию, и инкорпорировать её в свои решения.

С Auto-GPT получаются «автономные» системы, которые гораздо мощнее ChatGPT. Они могут заставить несколько «агентов» ИИ согласованно работать для разработки веб-сайта. Использовать инструменты для создания онлайн-страниц или информационных бюллетеней. Им подвласны задачи, состоящие из нескольких шагов и требующие длительного повторяющегося процесса. Согласно странице на GitHub, программа использует Интернет для поиска и сбора информации, GPT-4 для генерации текста/кода и GPT-3.5 для хранения файлов.

Последнее очень важно: поскольку модель умеет создавать файлы для сохранения информации, она способна дать себе память. И постепенно набираться опыта именно в том направлении, которое нужно пользователю. Плюс на её основании можно создавать собственные модели, «накладывая» разные ИИ друг на друга, позволяя им работать в тандеме и выполнять всё более и более сложные задачи.

Auto-GPT это просто рекламная акция. К серьезным работам в области ИИ это мало относится. Так детская забава,, которую используют для привлечения инвестиций при повышении конкуренции за инвестиции.
Хотите знать когда бояться? Это легко предсказать. Это когда кто-то действительно умный додумается до игры "Общество 2.0" по аналогии с известной игрой "Дарвин 2". Которая привела к появлению компьютерных вирусов.
Да и сам по себе ИИ просто "новый каменный топор". Действительно важным он станет когда его станут применять в языке "нодов". А сам язык начнут использовать в PLM и ERP. А пока такое есть только в области моделирования спецэффектов и немного в BIM.
Но так или иначе появление практичных ИИ ведет к неизбежному разрушению разделения труда. Поскольку ИИ является универсальной "аргументацией" человека. А значит начнется эрозия всей исторической формации. Что собственно и требуется в реальности. Уменьшить углубление труда и сократить долю товарного производства. А используя робототехнику увеличить ресурсный базис.
Как и говорил, вся возня вокруг ИИ может привести только к одному единственному - пониманию в массах  коллективной и социальной природы человеческого разума. А все остальное становится следствием. Возникнет суровый запрос на формирование новой этической системы, учитывающей тот объективный факт что "интеллект" это не исключительное свойство человека. Между ИИ и интеллектом человека никакой разницы нет. Отличия совсем не в интеллекте, и у животных интеллект есть, и даже "разговаривать" могут. Больше не получится "выстраивать пирамиды из игральных костей". Такова суровая экономическая реальность.

Если ИИ будет иметь свой интеллект, зачем вы ему нужны, он будет жить просто своей жизнью. Все остальное будет просто роботизированная машина, которая будет работать по программе, которую вы установите. Поэтому не надо создавать ИИ, создавайте хорошие программы и проблем не будет, если жить по Дарвину, выживает сильный, вы уверены, что вы будете сильным видом