В доску свой ИИ. Эксперты обсудили, чем мошенники цепляют стариков и детей

Преступники все активнее начинают использовать данные о пользователях и применять их в связке с ИИ. При этом шанс на успех у них постепенно может расти, потому что подростками, у которых наблюдаются проблемы с критическим мышлением, теперь можно считать и людей до 25 лет. То, как это произошло и к чему ведет, обсудили эксперты.

«Отсутствие критического мышления»

Сейчас, исходя из исследований клиники, в обществе наблюдается ситуация, при которой подростками порой можно считать мужчин и женщин до 25 лет, обращает внимание во время своего доклада завотделением медицинской психологии Научного центра психического здоровья Сергей Ениколопов. Кроме того, подчеркивает он, заметно у молодежи снижение когнитивных способностей и уровня критического мышления.

«Во время исследований в клинике мы наблюдаем резкое снижение когнитивных способностей. При этом по результатам одной части исследований нам очень радостно, ведь идет рост фронта вовлеченных, грамотных взрослых. Но при этом наблюдается и снижение уровня критического мышления у молодых людей», — отметил эксперт.

И все это влияет на то, как человек воспринимает информацию и чему верит. И так порой получается, что человек не ставит под сомнение то, что ему говорят.

О том, как работать и противостоять этому, эксперты разных сфер обсудили на круглом столе «Поле битвы — интернет и социальные сети», проведенном Союзом журналистов Москвы.

На чем мошенники ловят стариков и детей

А это уже активно применяют в своей работе мошенники и другие силы, отмечает доцент, заместитель руководителя образовательного проекта «Университет цифровой полиции» Московского университета МВД им. В. Я. Кикотя Наталья Михайленко.

«На чем зиждется деятельность в отношении несовершеннолетних, молодежи, пожилых людей? Есть Два основных кита воздействия. Первый — страх за близких. И второй — это лень, жажда наживы, быстрых денег. Отсюда возникают две мобилизационные группы, с помощью которых воздействуют на любые группы населения, особенно, конечно же, молодежь, в силу их еще не сформировавшегося до конца мышления, отсутствия знаний, потому что они только их получают», — отмечает эксперт.

По ее словам, опираясь на эти принципы, мошенники и вовлекают в противоправную деятельность молодых людей. Причем опираются они на разные ситуации. «У нас пообещали какие-то выплаты — тут же происходят схемы с этими выплатами. У нас проблемы с ЖКХ? Вот и возникла тема с домофонами, ремонтами лифтов и так далее», — отмечает Михайленко.

В чём опасность ИИ

В то же время, подчеркивает руководитель Ассоциации лабораторий по развитию искусственного интеллекта Вячеслав Береснев, меняется и роль ИИ во взаимодействии с людьми. Если раньше его задачей было формирование рекомендаций внутри соцсетей, то теперь он стал понимать наполнение контента и то, как пользователь взаимодействует с материалом. В результате все это ведет к еще большей атомизации общества, причем такой, когда ИИ, обученные Западом, получают все больше информации, ведь они становятся «друзьями» для пользователей, просто без физической формы.

«В то же время есть ряд исследований, доказывающих, что большие языковые модели, те самые сервисы искусственного интеллекта, которые используются в телефонах, политизированы и имеют глубокую западную ориентированность, значительно отличающуюся от нашей», — отмечает эксперт.

При этом Береснев подчеркивает — так как критичность восприятия при работе с соцсетями у многих нулевая, то ИИ постепенно получают весь объем данных о людях. А это уже позволяет сложить цифровой портрет человека с высокой точностью.

«К сожалению, это приведет к тому, что атаки мошенников станут намного более сложными и, конечно, не менее серьезными. В таких случайных веерных масштабных атак на пользователей тоже будет больше, не потому что они эффективны, а потому что стоимость каждой конкретной единицы атаки будет дешеветь со временем. Но будет намного больше персонализированных атак, когда будут взламываться отдельные социальные сети, скачиваться ваши переписки с родственниками, а потом от лица ваших родственников вам будут звонить, говорить информацию, которую знаете вы и тот, с кем вы общались. И это делать будет всё проще и проще», — предупреждает эксперт.

Нужен позитивный ответ

С учетом такой ситуации, полагают эксперты, обществу еще предстоит сформировать позитивный ответ на деструктивный контент, который распространяется через разные источники. Так, отмечает психолог Центра антикризисной психологической подготовки и психологической помощи Оксана Бочкарева, сейчас в сети есть 3 тыс. «групп смерти», однако крайне мало тех групп, которые решают конфликты.

«Почему мы, зная психофизиологию, зная психологию, не развиваемся вместе с ними? Почему мы не меняемся? Если идет поток информации деструктивной, то где же превалирующий поток информации позитивной, доброй, хорошей? Он отсутствует. Если мы говорим про интернет-пространство, где же позитивные инфоповоды? У нас есть "Юнармия", у нас есть центры "Моя карьера", у нас есть образовательные центры, которые занимаются спортом. Но все это так узко, так закрыто, что этим будут интересоваться только родители, которые занимаются детьми. Здесь опять встает вопрос о качестве взаимодействия», — подчеркивает Бочкарева, предлагая менять подходы работы с людьми в Сети.

В доску свой ИИ для молодежи

Декан кафедры журналистики и массовых коммуникаций Московского политехнического университета (МПОЛИТЕХ) Леонид Толчинский подчеркивает, что сейчас алгоритмы ИИ идеально подстраиваются под интересы и будущие предпочтения, которые уже им просчитаны. В результате он создает ощущение, что он в доску свой. И это уже норма жизни, от которой не уйти, но с которой можно работать.

«Надо понять, что многие технологические решения, которые сегодня не просто вызрели, а выплеснулись в массовое пользование, мы не в состоянии остановить или запретить. А раз так, то нам нужно понимать, что с ними нужно работать. И если ИИ не будут наполнены нашим датасетом, то мы проиграем. В таких условиях мы не можем работать по старым методичкам. Современный ИИ — оружие двойного назначения. С одной стороны, он создает проблемы с точки зрения идеологического воздействия на человека. А с другой — он может стать помощником, если начнется работа по формированию конструктивного датасета», — отметил собеседник.

И так как ИИ уже пользуются в России массово, но он стабильно нужен во многом молодым людям, то они, во-первых, должны быть причастны к формированию этого позитивного для нас датасета — полагает эксперт. Во-вторых, специально для молодежи нужны геймифицированные проекты по обучению тому, как взаимодействовать с угрозами, исходящими от ИИ, а также с угрозами, исходящими от соцсетей.

«Нужно нестандартно работать с новыми явлениями нашей жизни. И лучше молодым людям набивать ошибки в игровых форматах, потому что это не будет фатальным», — завершил эксперт.