«ВКонтакте» разработала нейросеть, которая защитит от негатива
Команда «ВКонтакте» разработала нейросеть, способную определять ругательства, оскорбления и другие негативные высказывания в постах и комментариях, а также предлагать активировать режим «Личное пространство», сообщили в пресс-службе соцсети.
С помощью специальных алгоритмов соцсеть будет выявлять подобную активность на страницах пользователей, предупреждать их о возможной опасности и предлагать включить режим «Личное пространство» — специальный набор настроек, который позволяет на время ограничить круг общения, оградить себя от нежелательных собеседников и отдохнуть от лишнего внимания.
Предложение активировать режим будет приходить пользователям, которые за час получили более трех негативных комментариев или постов от юзеров, не входящих в список их друзей.
После отправки уведомления нейросеть приостановит свою работу на сутки, а потом возобновит. В сумме пользователю может прийти не более трех уведомлений за месяц. Нейросеть считывает активность только в открытых профилях.
После активации режима «Личное пространство» настройки приватности страницы изменятся на неделю: писать и звонить смогут только друзья или друзья друзей, а отправлять заявки в друзья — только друзья друзей. Профиль пользователя станет закрытым: добавлять его в чаты и отмечать на фотографиях получится только у друзей.
Нейросеть была обучена на сотнях тысяч специально размеченных негативных комментариев, сообщил глава команды модерации и администрирования «ВКонтакте» Иван Корнеев. «Благодаря этому она способна эффективно распознавать токсичные фразы, чтобы помочь пользователям лучше понять, когда стоит оградить себя от нежелательного внимания, чтобы сохранить ментальное здоровье», — сказал он.
