ИИ предупредит модераторов Facebook о конфликтах в комментариях
Компания запустила новую систему для помощи в модерации на основе ИИ. Она будет присылать модераторам сообществ оповещения о конфликтах в переписке.
Система, пока работающая в тестовом режиме, получила название Conflict Alerts, пишет издание The Verge. Нейросеть будет помечать подозрительные комментарии отметкой «moderation alert» и отправлять их модераторам сообществ. В Facebook сообщили изданию, что для поиска будет использована машинная модель обучения.
Ранее соцсеть уже внедрила похожую систему для помощи в модерации. В ее приоритете стоит поиск контента, связанного с терроризмом, сексуальной эксплуатацией детей и попытках самоубийства. Однако алгоритм не смог идентифицировать шутки и сарказм, в результате чего подобный контент и комментарии попадают к модераторам сообществ.
