Селфи с “президентом“ и “роман“ с Брэдом Питтом: что грозит казахстанцам за ИИ-фейки
Очень реалистичные изображения, созданные нейросетями, всё чаще вводят людей в заблуждение. С ними "общаются" в мессенджерах, им верят, им переводят деньги. Tengri Life выяснил, как в Казахстане планируют контролировать такой контент и кто несёт ответственность за фейки.
С чего всё началось
Не так давно в Кыргызстане блогерша решила "хайпануть" и выложила сгенерированное изображение президента Садыра Жапарова. Итог — поход в суд и административный штраф в 5 500 сомов (около 32 тысяч тенге).
View this post on Instagram
A post shared by TengriNews | Новости Казахстана (@tengrinewskz)
Адвокаты считают, что она легко отделалась. Любая подобная картинка может трактоваться как клевета или издевка, которая вводит в заблуждение целую страну.
Мошенники превратили искусственный интеллект в идеальный инструмент для выкачивания денег. К примеру, в России, в Приморском крае, пенсионерка из Дальнереченска "общалась" по видеозвонку с Чонгуком, солистом K-pop-группы. Позже оказалось, что образ корейского айдола был создан мошенниками с помощью ИИ. Женщина перевела злоумышленникам почти 650 тысяч рублей (4,3 миллиона тенге) за "налоги" и "организацию встречи", после чего "Чонгук" исчез.
View this post on Instagram
A post shared by Коса. Медиа и комьюнити для женщин (@kosa_media)
А в 2025 году жительница Костаная шесть месяцев переписывалась в соцсетях с человеком, который представился голливудским актером Киану Ривзом. Со временем он рассказал ей о "трудной жизненной ситуации" и попросил финансовой помощи в 400 долларов.
Не зная, как сделать перевод, женщина обратилась в банк. Сотрудники сразу заметили, что счет, на который она собиралась отправить деньги, принадлежит неизвестной игровой компании, что и вызвало подозрения.
Изображение сгенерировано при помощи нейросети Midjourney
В январе 2025 года также стало известно ещё об одном инциденте с фейковой знаменитостью. Тогда француженка Анна поверила в онлайн-роман с Брэдом Питтом и перевела мошенникам почти 830 тысяч евро. Обман раскрыли летом, когда она увидела актера с новой партнёршей.
Мошенники связывались через Instagram, выдавая себя за мать Питта и самого актера, присылали фото и копии документов.
Позже стало ясно, что злоумышленника, выдававшего себя за Питта, задержали в Нигерии; он входил в группу из 3–4 человек, обманувших как минимум 34 жертвы и пытавшихся выдавать себя за других знаменитостей, включая Киану Ривза.
The scammer used poorly-edited pics to convince her that Brad Pitt needed money for hospital care.My favorite pics are the top and bottom right ones. First one looks like a Russian prisoner in hospital after he had a fight with other prisoners. Second one looks like Tristan… pic.twitter.com/orQQIsAOls
— LogKa (@LogKa11) January 14, 2025
Как работает закон в Казахстане
Мы направили официальный запрос в Министерство искусственного интеллекта. Там объяснили, что в настоящее время действует только один закон, регулирующий ИИ‑контент в соцсетях.
В Министерстве искусственного интеллекта сообщили, что сейчас действует закон "Об искусственном интеллекте", вступивший в силу 18 января.
Главное требование — любой синтетический контент должен быть маркирован.
"В рамках закона "Об искусственном интеллекте" распространение синтетических результатов деятельности систем ИИ допускается только при условии их маркировки в машиночитаемой форме и сопровождения визуальной либо иной формой предупреждения, обеспечивающей возможность восприятия пользователем без применения методов, затрудняющих такое восприятие", — cообщили в ведомстве.
Ответственность возлагается на владельцев платформ и ИИ-систем, а не на каждого пользователя. Идея в том, чтобы сервисы не допускали распространения неотмеченного синтетического контента. Пометки вроде "Создано ИИ" или "Сгенерировано нейросетью" теперь не рекомендация, а обязанность.
За отсутствие маркировки предусмотрены штрафы:
для физических лиц (владельцы или собственники) — 15 МРП;
для малого бизнеса или некоммерческих организаций — 20 МРП;
для среднего бизнеса — 30 МРП;
для крупного бизнеса — 100 МРП.
Контроль будет вести специальный уполномоченный орган по ИИ. Он будет реагировать на жалобы, обращения и результаты мониторинга.
Что рассказали в МВД
В МВД на наш запрос ответили, что правила маркировки ИИ‑контента пока разрабатываются, а точный механизм их работы еще не готов.
"В настоящее время механизм практической реализации норм, предусматривающих обязательную маркировку синтетического контента, созданного с использованием технологий искусственного интеллекта, находится на стадии формирования", — объяснили в ведомстве.
В министерстве подчеркнули, что за нарушение этих требований отвечает уполномоченный государственный орган.
К слову, недавно звезда TikTok Хаби Лэйм продала права на использование своего лица и ИИ-двойника почти за 1 миллиард долларов.
Читайте также: “Этот год будет переломным“. Эксперты дают прогнозы по развитию ИИ в Казахстане
С чего всё началось
Не так давно в Кыргызстане блогерша решила "хайпануть" и выложила сгенерированное изображение президента Садыра Жапарова. Итог — поход в суд и административный штраф в 5 500 сомов (около 32 тысяч тенге).
View this post on Instagram
A post shared by TengriNews | Новости Казахстана (@tengrinewskz)
Адвокаты считают, что она легко отделалась. Любая подобная картинка может трактоваться как клевета или издевка, которая вводит в заблуждение целую страну.
Мошенники превратили искусственный интеллект в идеальный инструмент для выкачивания денег. К примеру, в России, в Приморском крае, пенсионерка из Дальнереченска "общалась" по видеозвонку с Чонгуком, солистом K-pop-группы. Позже оказалось, что образ корейского айдола был создан мошенниками с помощью ИИ. Женщина перевела злоумышленникам почти 650 тысяч рублей (4,3 миллиона тенге) за "налоги" и "организацию встречи", после чего "Чонгук" исчез.
View this post on Instagram
A post shared by Коса. Медиа и комьюнити для женщин (@kosa_media)
А в 2025 году жительница Костаная шесть месяцев переписывалась в соцсетях с человеком, который представился голливудским актером Киану Ривзом. Со временем он рассказал ей о "трудной жизненной ситуации" и попросил финансовой помощи в 400 долларов.
Не зная, как сделать перевод, женщина обратилась в банк. Сотрудники сразу заметили, что счет, на который она собиралась отправить деньги, принадлежит неизвестной игровой компании, что и вызвало подозрения.
Изображение сгенерировано при помощи нейросети Midjourney
В январе 2025 года также стало известно ещё об одном инциденте с фейковой знаменитостью. Тогда француженка Анна поверила в онлайн-роман с Брэдом Питтом и перевела мошенникам почти 830 тысяч евро. Обман раскрыли летом, когда она увидела актера с новой партнёршей.
Мошенники связывались через Instagram, выдавая себя за мать Питта и самого актера, присылали фото и копии документов.
Позже стало ясно, что злоумышленника, выдававшего себя за Питта, задержали в Нигерии; он входил в группу из 3–4 человек, обманувших как минимум 34 жертвы и пытавшихся выдавать себя за других знаменитостей, включая Киану Ривза.
The scammer used poorly-edited pics to convince her that Brad Pitt needed money for hospital care.My favorite pics are the top and bottom right ones. First one looks like a Russian prisoner in hospital after he had a fight with other prisoners. Second one looks like Tristan… pic.twitter.com/orQQIsAOls
— LogKa (@LogKa11) January 14, 2025
Как работает закон в Казахстане
Мы направили официальный запрос в Министерство искусственного интеллекта. Там объяснили, что в настоящее время действует только один закон, регулирующий ИИ‑контент в соцсетях.
В Министерстве искусственного интеллекта сообщили, что сейчас действует закон "Об искусственном интеллекте", вступивший в силу 18 января.
Главное требование — любой синтетический контент должен быть маркирован.
"В рамках закона "Об искусственном интеллекте" распространение синтетических результатов деятельности систем ИИ допускается только при условии их маркировки в машиночитаемой форме и сопровождения визуальной либо иной формой предупреждения, обеспечивающей возможность восприятия пользователем без применения методов, затрудняющих такое восприятие", — cообщили в ведомстве.
Ответственность возлагается на владельцев платформ и ИИ-систем, а не на каждого пользователя. Идея в том, чтобы сервисы не допускали распространения неотмеченного синтетического контента. Пометки вроде "Создано ИИ" или "Сгенерировано нейросетью" теперь не рекомендация, а обязанность.
За отсутствие маркировки предусмотрены штрафы:
для физических лиц (владельцы или собственники) — 15 МРП;
для малого бизнеса или некоммерческих организаций — 20 МРП;
для среднего бизнеса — 30 МРП;
для крупного бизнеса — 100 МРП.
Контроль будет вести специальный уполномоченный орган по ИИ. Он будет реагировать на жалобы, обращения и результаты мониторинга.
Что рассказали в МВД
В МВД на наш запрос ответили, что правила маркировки ИИ‑контента пока разрабатываются, а точный механизм их работы еще не готов.
"В настоящее время механизм практической реализации норм, предусматривающих обязательную маркировку синтетического контента, созданного с использованием технологий искусственного интеллекта, находится на стадии формирования", — объяснили в ведомстве.
В министерстве подчеркнули, что за нарушение этих требований отвечает уполномоченный государственный орган.
К слову, недавно звезда TikTok Хаби Лэйм продала права на использование своего лица и ИИ-двойника почти за 1 миллиард долларов.
Читайте также: “Этот год будет переломным“. Эксперты дают прогнозы по развитию ИИ в Казахстане