/ Медиа

ИИ предупредит модераторов Facebook о конфликтах в комментариях

Компания запустила новую систему для помощи в модерации на основе ИИ. Она будет присылать модераторам сообществ оповещения о конфликтах в переписке.

Система, пока работающая в тестовом режиме, получила название Conflict Alerts, пишет издание The Verge. Нейросеть будет помечать подозрительные комментарии отметкой «moderation alert» и отправлять их модераторам сообществ. В Facebook сообщили изданию, что для поиска будет использована машинная модель обучения.

Ранее соцсеть уже внедрила похожую систему для помощи в модерации. В ее приоритете стоит поиск контента, связанного с терроризмом, сексуальной эксплуатацией детей и попытках самоубийства. Однако алгоритм не смог идентифицировать шутки и сарказм, в результате чего подобный контент и комментарии попадают к модераторам сообществ.

Изображение: Pixabay.com

Яндекс запустил сервис, дописывающий тексты с помощью ИИ
18.06.2021, 09:32
Следующая новость