Рекомендательные алгоритмы — не для детей

Законодательное собрание Нью–Йорка в пятницу приняло законопроект, который запрещает платформам социальных сетей использовать "вызывающие привыкание" алгоритмы рекомендаций для детей–пользователей.

Ожидается, что правительство. Кэти Хочул подпишет законопроект, который станет законом. В пятницу она опубликовала на X пост, посвященный принятию законопроекта.

Законопроект может коренным образом изменить то, как дети пользуются социальными сетями в штате.

Закон "О запрете использования каналов, вызывающих привыкание" (The Stop Addictive Feeds Exploitation, SAFE) для детей", запретит социальным сетям, таким как TikTok и Instagram, предоставлять контент пользователям младше 18 лет на основе алгоритмов рекомендаций, а это означает, что вместо этого компании социальных сетей должны будут предоставлять каналы в обратном хронологическом порядке для детей–пользователей.

Законодательство описывает алгоритмические каналы как вызывающие “привыкание” и утверждает, что они негативно влияют на психическое здоровье детей.

Законодательство Нью–Йорка определяет “канал, вызывающий привыкание” как канал, который рекомендует, выбирает или расставляет приоритеты на основе информации, связанной с пользователем или его устройством. У компании, уличенной в нарушении, будет 30 дней на устранение проблемы или штрафные санкции в размере до 5000 долларов на каждого пользователя младше 18 лет.

В понедельник в законопроект были внесены поправки, исключающие положения, которые запрещали бы платформам отправлять уведомления детям с полуночи до 6 часов утра.

Законодательство, связанное с ограничением использования социальных сетей детьми, пользуется популярностью как на уровне штатов, так и на федеральном уровне. Калифорнийский законопроект, который был принят Сенатом штата в мае, очень похож на законопроект Нью–Йорка, в то время как на федеральном уровне Закон о безопасности детей в Интернете позволит привлекать компании социальных сетей к ответственности за рекомендации вредного контента для детей.

Законопроект может столкнуться с трудностями, если он вступит в силу.

NetChoice, группа, представляющая интересы крупных технологических компаний и компаний, занимающихся социальными сетями, таких как Google, Meta и TikTok, за последние два года оспорила несколько законов штата, заявив о нарушении Первой поправки. NetChoice получила предварительный судебный запрет в Огайо и Арканзасе и ожидает судебного решения в Калифорнии. Многие из недавних законодательных инициатив по регулированию социальных сетей были направлены на детей.

“Если вы можете представить что–то как посвященное защите детей, это автоматически приобретает больший политический вес”, — сказал Эван Грир, директор некоммерческой группы по защите цифровых прав "Борьба за будущее".

В число сторонников законопроекта из Нью–Йорка входит коалиция родителей, которые протестовали против Meta во время слушаний в Конгрессе и за пределами офиса компании. У некоторых родителей есть дети, которые покончили с собой после того, как, по словам родителей, они просматривали вредоносный контент в социальных сетях. Джулия Шелфо, бывшая журналистка New York Times, создала группу "Матери против медиазависимости" (MAMA) и выступала в поддержку законопроекта о Нью–Йорке.

“Мы находимся в эпицентре национальной чрезвычайной ситуации в области психического здоровья молодежи, и совершенно очевидно, что одним из основных источников этого являются социальные сети и их алгоритмы, вызывающие привыкание”, — сказал Шелфо. “Это не социальные сети сами по себе, а захватывающий дизайн, который способствует тому, что эмоции детей используются в корыстных целях”.

Многие сторонники и противники этих законопроектов сходятся во мнении, что технологические платформы оказывают вредное воздействие на детей, но нет полного согласия в том, как решить эту проблему.

Нью–Йоркский законопроект был представлен демократом Эндрю Гурнардесом. Он получил двухпартийную поддержку в законодательном собрании Нью–Йорка от более чем двух десятков сенаторов штата. Как демократические, так и республиканские штаты и коалиции настаивали на принятии аналогичного законодательства.

Однако эти законопроекты не пользуются всеобщей популярностью.

Грир и другие защитники гражданских свобод утверждают, что такие законы будут ущемлять права компаний и пользователей, в то время как вместо этого можно было бы рассмотреть “строгое законодательство о защите частной жизни и антимонопольное законодательство”.

“Суды на самом деле очень четко дали понять, что мы можем регулировать практику коммерческого наблюдения, которой занимаются компании, мы можем регулировать особенно вредные методы ведения бизнеса, такие как автозапуск и бесконечная прокрутка”, — сказал Грир. “Чего мы не можем сделать, так это возложить на правительство ответственность за то, что молодые люди могут и чего не могут видеть в Интернете. Вот тогда–то и возникает вопрос о содержании, и тогда–то вы и сталкиваетесь с Первой поправкой”.

Грир также сказал, что коммерческие методы проверки возраста, которые, вероятно, потребуются для обеспечения соблюдения закона, еще больше угрожают конфиденциальности пользователей социальных сетей и могут представлять опасность для гражданских свобод и анонимности в Интернете.

“Когда одно государство принимает закон, стимулирующий компании двигаться в этом направлении, внедряя инвазивную проверку возраста, которая несовместима с анонимностью, это на самом деле создает реальные проблемы с правами человека во всем мире”, — сказал Грир. “Среди экспертов по правам человека существует широкий консенсус в отношении того, что возможность высказываться и пользоваться Интернетом конфиденциально и анонимно является фундаментальным правом человека, которое необходимо защищать, поскольку оно так важно для наиболее уязвимых и маргинализированных людей на Земле”.

Написал experov на experov.d3.ru / комментировать