Как ИИ делает мир и общество тоталитарными и почему выхода нет

То общество, в котором мы живём, начинает уничтожать само себя. Буквально. Физически.  Войны, страшные теракты, массовые убийства и т.п. Это уже перестало быть чем-то экстраординарным и не воспринимается больше нашим сознанием с ужасом - даже не добавляет тревожности. Мы ПРИВЫКЛИ к этому, и даже происходит страшное – мир смиряется с неизбежностью ядерной войны. В этой ситуации через несколько десятилетий, а может быть, лет или даже месяцев человечество может просто перестать существовать? И что делать? Остаётся одна надежда - на искусственный интеллект.

Он может погубить человечество, а может и спасти.

Есть для общества очень большая опасность, я об этом предупреждал довольно давно:

Тотальное удобство или “число зверя”: ростовчане опасаются всеобщей цифровизации

Цифровизация обязательно приведёт к тоталитаризму и возможному истреблению человечества

Ростовчане начинают расплачиваться за всеобщую цифровизацию

Цифровизация терпит крах: даже мелкие мошенники могут завладеть нашими данными

Кто и как уничтожает человечество

Ну, и т.д. и т.п. Вот только другого выхода у нас, по-видимому, и нет.

Очередное покушение на очередного генерала. Спустя короткое время выясняется, кто это сделал. С именами, фотографиями, историей и прочими мелкими деталями и подробностями. Как всё это узнали? Если этих киллеров и пособников «вели» спецслужбы, почему не арестовали заранее и не предотвратили покушение? Ответ прост: за всеми не уследишь, а после можно о конкретном человеке многое найти и разузнать - сейчас без цифрового следа не живёт никто.

Понятно, что к каждому не приставишь полицейского и следователя и с человеческими способностями в мозги не залезешь. Но за всеми можно установить тотальную слежку, и это уже давно практикуется во всём мире.

Кто-то, наверное, вспомнит, как был уничтожен Джохар Дудаев - его отследили по телефонному звонку. Примерно так же были уничтожены и другие террористы. Моссад проводит блестящие, с военной точки зрения, операции по ликвидации руководства враждебных Израилю движений. США с Бен-Ладеном как расправились? Только ли разведчики нашли террориста №1?

За нами следят - этот факт трудно не признать. Следят давно и тотально. Те, кто не верит, может поговорить о чём-нибудь на кухне: ну, про болезни, про планы замены бытовой техники или о планируемых покупках. Через минуту в ваших соцсетях, на страницах посещаемых сайтов вы увидите массу предложений по этому поводу.

То есть вас прослушивают, читают вашу переписку, за вами подглядывают. Кто? Было бы наивно полагать, что это некий физически существующий «товарищ майор». Всем этим давно занимается искусственный интеллект. В основном в интересах бизнеса - предлагая таргетированную рекламу. Но кто мешает к этой слежке подключиться спецслужбам?

Когда мы поставили несколько лет назад материал «Почему нужно заклеивать камеры и микрофоны в ноутбуках», над нами многие смеялись. А теперь вот смотрим - на днях президент одной из стран был сфотографирован с телефоном, у которого заклеена камера…

За нами следят не только через телефоны, но и через умные колонки, телевизоры, компьютеры, уличные камеры, банкоматы, терминалы оплаты и т.п. То есть тотально. Обрабатывают эту информацию с помощью ИИ.

Искусственный интеллект обучают находить слова-триггеры, анализировать их, компоновать, выявлять потенциальные угрозы, сортировать их и выдавать заинтересованным сторонам. Причём это могут быть не только силовики, но и спецслужбы других государств, далеко не всегда дружественных нам.

Спастись от этого в настоящее время практически невозможно, разве что уйти в глухие леса или влезть навсегда в подземный бункер. И бороться с этим тоже, в общем, бесполезно.

Такого рода слежка может уберечь общество от уничтожения и страха.

Вот мне, например, нечего скрывать от государства, я не замышляю каких-то противоправных действий. Поэтому не заклеиваю камеры гаджетов, не отключаю умную колонку и проч. - пользуюсь теми преимуществами, которые всё это даёт. И если со временем ИИ стане совершеннее и сможет уберечь меня, моих близких и знакомых от террористов и экстремистов, я буду только приветствовать.

Даже если я на кухне с женой что-то буду говорить против существующей власти, рассказывать анекдоты, высказывать своё мнение, вряд ли это будет вменено в вину: такие мелочи никого не интересуют.

Но есть и оборотная сторона всего этого. Вполне возможно, что в гонке за создание наиболее совершенных систем ИИ победим не мы, а наши враги. Тогда несложно будет без войны подчинить целые страны и континенты, лишив их на долгое время коммунальных удобств, заблокировав карты, возможности получать помощь по любым каналам. Можно натравить страны друг на друга, можно организовать утечку опасных материалов и погрузить мир в пандемию, как это было недавно сделано (возможно, как раз с целью дальнейшего усиления контроля). Ну, и т.п. - кому на что и на сколько хватит фантазии.

Искусственный интеллект, с одной стороны, защищает людей от физического уничтожения, с другой - может способствовать уничтожению стран и континентов, а то и всего человечества. Главный вопрос - кто в будущем станет контролировать эти наиболее продвинутые системы, которые смогут подавить конкурентов и подчинить всё и вся тотальному контролю.

Надеюсь, теперь такого рода предположения не воспринимаются как конспирологические?

Иллюстрация сгенерирована тем же ИИ