IT / Новости
соцсети технологии
23.11.2020

ИИ удаляет 95% оскорбительных публикаций на Facebook

Социальная сеть Facebook заявила, что ИИ платформы удаляет более 95% публикаций, которые оскорбляют других пользователей. Однако модель пока не понимает мемы.

Компания Facebook потратила несколько лет на создание алгоритма на основе ИИ, который может быстро находить и удалять оскорбительные публикации в социальной сети. Компания отмечает, что сейчас технология может обнаруживать 95% контента без вмешательства живых модераторов. Однако остальные 5% сложно определить и сейчас компания пытается понять, каким образом можно удалять и их, пишет CNN.

В Facebook сообщили, что их система ИИ обнаружила 94,7% постов (22,1 млн. публикаций), которые содержали ненавистнические высказывания, все их автоматически удалили в третьем квартале 2020 года. Это намного больше, чем раньше – в том же квартале год назад ИИ смог найти только 80,5% постов (6,9 млн. публикаций), которые содержали ненавистнические высказывания. Эти цифры компания также опубликовала в отчете Community Standards Enforcement Report.

Исследователи отмечают, что самый сложный контент для ИИ – это тот, который основан на мемах и подсказках, которые не определяет модель. Facebook сейчас работает над обнаружением мемов, разжигающих ненависть. Весной 2020 года компания выпустила общедоступный набор данных, связанных с таким контентом, в надежде помочь исследователям улучшить возможности их обнаружения. В качестве примера контента, который может причинить неудобства другим пользователям они показали мем, где изображено кладбище с текстом «здесь вам и место».

Искусственный интеллект (ИИ) не смог определить, что это оскорбительный контент. Однако еще несколько лет обучений позволят алгоритму понимать, почему это унижает некоторых пользователей.

Изображение: pixabay.com

Еще по теме

Поможет ли Open Source устранить дефицит на рынке решений информбезопасности?

Как налоговый мониторинг влияет на эффективность бизнеса

Российский рынок интернета вещей ожидает двукратный рост в ближайшие три года

Как эффективно провести автоматизацию учетных функций

Крупные платформы предлагают делиться компетенциями под присмотром регулятора

ИБ-компании констатируют повышенный спрос на свои разработки со стороны финансовых организаций

Каковы перспективы российских платформ Bug Bounty

Индустриальный сектор повышает эффективность за счет решений интернета вещей

Правительство поможет компаниям в закупке оборудования для хранения и обработки данных

Как меняется спрос и предложение на рынке digital-специалистов

Что будет с информбезопасностью после президентского указа о создании антихакерских подразделений на предприятиях

Три причины роста цен на IT-услуги

Есть ли перспективы у тестировщиков ПО в России

Где и как виртуальные помощники могут обучать сотрудников компаний

Готовы ли компании перейти на внедрение программных продуктов отечественного производства