«ВКонтакте» начала тестировать нейросеть для борьбы с оскорблениями
Компания запустила нейросеть для борьбы с оскорблениями в комментариях. Она удаляет комментарии с угрозами и рекомендует пользователям перед публикацией отказаться от грубых высказываний.
Эксперимент проходил 4 ноября. Администраторы групп могли включить фильтр враждебных высказываний в настройках сообщества. При этом администратор видел все комментарии, которые отсеял фильтр, и восстановить их или отправить автора в черный список, сообщает пресс-служба «ВКонтакте».
В тестовый день рекомендации отказаться от оскорблений смогут увидеть все пользователи. Позже соцсеть начнет долгосрочный тест на части пользователей. по результатам тестирования компания примет решение о дальнейшем использовании функции.
«Также «ВКонтакте» масштабирует прошлогодний эксперимент: когда пользователь пишет комментарий, алгоритмы определяют, есть ли в тексте признаки оскорблений. Если да, автор получает совет не тратить время на агрессию и отказаться от обидной реплики. В прошлом году благодаря такому предупреждению за сутки удалось сократить количество оскорблений в комментариях на 36%», – говорят в компании.
