«ВКонтакте» применит нейросеть для борьбы с хейтспичем

В пресс-службе уточнили, что новая технология позволит ускорить время обработки жалоб, а также поможет пользователям реже сталкиваться с проявлениями нетерпимости.

Сейчас нейросеть обучают распознавать разные категории угроз и оскорблений: ксенофобию, расизм, гомофобию, сексизм, оскорбления из-за религиозной принадлежности, а также по признакам возраста, внешности или наличия заболеваний.

Чтобы ускорить процесс обучения соцсеть создала новую категорию жалоб — «Враждебные высказывания». «Эта категория позволит точнее откалибровать уже существующие инструменты и собрать датасет для новых решений на основе нейросетей», — уточняется в пресс-релизе.

«Мы разделяем позицию наших пользователей и партнеров касательно языка вражды и прославления насилия. Модераторы „ВКонтакте“ ежедневно обрабатывают огромный объем контента, в том числе с использованием искусственного интеллекта, — большинство опасных материалов удаляются еще до того, как их кто-то увидит», — сказал глава команды модерации соцсети Иван Корнеев.

Как сообщили представители «Вконтакте», за шесть месяцев 2020 года из соцсети удалили около полумиллиона материалов, которые разжигали вражду и ненависть. Администраторы также заблокировали больше 1 340 профилей и 2 470 сообществ, распространяющих враждебные высказывания.