IT / Новости
соцсети
27.12.2022

«ВКонтакте» разработала нейросеть, которая защитит от негатива

Команда «ВКонтакте» разработала нейросеть, способную определять ругательства, оскорбления и другие негативные высказывания в постах и комментариях, а также предлагать активировать режим «Личное пространство», сообщили в пресс-службе соцсети.

С помощью специальных алгоритмов соцсеть будет выявлять подобную активность на страницах пользователей, предупреждать их о возможной опасности и предлагать включить режим «Личное пространство» — специальный набор настроек, который позволяет на время ограничить круг общения, оградить себя от нежелательных собеседников и отдохнуть от лишнего внимания.

Предложение активировать режим будет приходить пользователям, которые за час получили более трех негативных комментариев или постов от юзеров, не входящих в список их друзей.

После отправки уведомления нейросеть приостановит свою работу на сутки, а потом возобновит. В сумме пользователю может прийти не более трех уведомлений за месяц. Нейросеть считывает активность только в открытых профилях.

После активации режима «Личное пространство» настройки приватности страницы изменятся на неделю: писать и звонить смогут только друзья или друзья друзей, а отправлять заявки в друзья — только друзья друзей. Профиль пользователя станет закрытым: добавлять его в чаты и отмечать на фотографиях получится только у друзей.

Нейросеть была обучена на сотнях тысяч специально размеченных негативных комментариев, сообщил глава команды модерации и администрирования «ВКонтакте» Иван Корнеев. «Благодаря этому она способна эффективно распознавать токсичные фразы, чтобы помочь пользователям лучше понять, когда стоит оградить себя от нежелательного внимания, чтобы сохранить ментальное здоровье», — сказал он.

Изображение: Freepik

Еще по теме

Что делают вузы для преодоления кадрового голода в отрасли

Каких мер господдержки ждут разработчики ВКС-решений

В правительстве РФ заявили о перевыполнении планов по программе «Цифровая экономика»

Что стоит за ростом производства компьютеров в России

Какой должна быть защита персональных данных в 2023 году

Мотивировать IT-специалистов к возвращению из эмиграции предлагается законодательно оформленной бронью и расширением льгот

Перспективы сертификации кибербезопасников в РФ и поможет ли она остановить утечки данных

Какие эффекты ожидаются от использования информсистемы пространственных данных

На портале можно будет записаться на прием к юристам

Каковы итоги уходящего года и перспективы будущего для рынка 1С

Как будет развиваться рынок low-code в России

Как в 2022 году проходило импортозамещение на рынке вычислительной техники

Какую архитектуру выбрать при разработке сложного приложения для крупного бизнеса

Как продолжить верить в Деда Мороза, но не попасть в новогоднюю аферу

Сможет ли искусственный интеллект проверять школьные сочинения