«ВКонтакте» начала тестировать нейросеть для удаления комментариев с «враждебными высказываниями»

«Вконтакте» начала тестировать нейросеть, которая будет распознавать «враждебные» и провоцирующие на агрессию комментарии. Об этом говорится в блоге разработчиков социальной сети.

Компания добавила новую категорию «Враждебные высказывания», которая доступна, если пожаловаться на комментарий. Эта мера поможет обучить нейросеть фильтровать публикации, считают в компании. Пока удалять комментарии будут модераторы.

Система сможет выявлять «проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний».

Команда «ВКонтакте» сообщила, что за первую половину 2020 года они удалили больше 500 тысяч материалов «по теме разжигания вражды и ненависти» и заблокировали 1 340 профилей и 2 470 сообществ. В прошлом году они также тестировали алгоритм, который предлагал пользователям отказаться от комментария с враждебными высказываниями.

Информационно-аналитический центр «Сова» отмечал, что даже после частичной декриминализации статьи 282 УК о возбуждении ненависти в 2018 году большая часть уголовных дел о публикациях в интернете по-прежнему приходится на «ВКонтакте». В прошлом году пользователи обращали внимание, что соцсеть автоматически удаляет комментарии с материалами из реестра экстремистских материалов.