/ Медиа

Нейросеть поможет «ВКонтакте» находить оскорбления

У соцсети появилась новая разработке — нейросеть для автоматического распознавания материалов с враждебными высказываниями. Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости.

Как сообщает пресс-служба «ВКонтакте», система на базе искусственного интеллекта поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию.

Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них – проявления ксенофобии, расизма, гомофобии, сексизма, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.

Чтобы усилить модерацию и обучить искусственный интеллект, администрация соцсети добавила новую категорию жалоб – «Враждебные высказывания». Пользователь может выбрать ее, если нажмет кнопку «Пожаловаться» у оскорбительной публикации. После этого материал попадет на рассмотрение к модераторам. 

За первую половину 2020 года на платформе было удалено 520 тыс. единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.

Изображение: pixabay.com

«ВКонтакте» тестирует распознавание неприличных жестов в «Клипах»
17.07.2020, 14:32
Следующая новость