«ВКонтакте» применит нейросеть для борьбы с хейтспичем

<p> В пресс-службе уточнили, что новая технология позволит ускорить время обработки жалоб, а также поможет пользователям реже сталкиваться с проявлениями нетерпимости.</p><p> Сейчас нейросеть обучают распознавать разные категории угроз и оскорблений: ксенофобию, расизм, гомофобию, сексизм, оскорбления из-за религиозной принадлежности, а также по признакам возраста, внешности или наличия заболеваний.</p><p> Чтобы ускорить процесс обучения соцсеть создала новую категорию жалоб — «Враждебные высказывания». «Эта категория позволит точнее откалибровать уже существующие инструменты и собрать датасет для новых решений на основе нейросетей», — уточняется в пресс-релизе.</p><p> «Мы разделяем позицию наших пользователей и партнеров касательно языка вражды и прославления насилия. Модераторы „ВКонтакте“ ежедневно обрабатывают огромный объем контента, в том числе с использованием искусственного интеллекта, — большинство опасных материалов удаляются еще до того, как их кто-то увидит», — сказал глава команды модерации соцсети Иван Корнеев.</p><p> Как сообщили представители «Вконтакте», за шесть месяцев 2020 года из соцсети удалили около полумиллиона материалов, которые разжигали вражду и ненависть. Администраторы также заблокировали больше 1 340 профилей и 2 470 сообществ, распространяющих враждебные высказывания.</p>