ИТ / Новости
соцсети
27.12.2022

«ВКонтакте» разработала нейросеть, которая защитит от негатива

Команда «ВКонтакте» разработала нейросеть, способную определять ругательства, оскорбления и другие негативные высказывания в постах и комментариях, а также предлагать активировать режим «Личное пространство», сообщили в пресс-службе соцсети.

С помощью специальных алгоритмов соцсеть будет выявлять подобную активность на страницах пользователей, предупреждать их о возможной опасности и предлагать включить режим «Личное пространство» — специальный набор настроек, который позволяет на время ограничить круг общения, оградить себя от нежелательных собеседников и отдохнуть от лишнего внимания.

Предложение активировать режим будет приходить пользователям, которые за час получили более трех негативных комментариев или постов от юзеров, не входящих в список их друзей.

После отправки уведомления нейросеть приостановит свою работу на сутки, а потом возобновит. В сумме пользователю может прийти не более трех уведомлений за месяц. Нейросеть считывает активность только в открытых профилях.

После активации режима «Личное пространство» настройки приватности страницы изменятся на неделю: писать и звонить смогут только друзья или друзья друзей, а отправлять заявки в друзья — только друзья друзей. Профиль пользователя станет закрытым: добавлять его в чаты и отмечать на фотографиях получится только у друзей.

Нейросеть была обучена на сотнях тысяч специально размеченных негативных комментариев, сообщил глава команды модерации и администрирования «ВКонтакте» Иван Корнеев. «Благодаря этому она способна эффективно распознавать токсичные фразы, чтобы помочь пользователям лучше понять, когда стоит оградить себя от нежелательного внимания, чтобы сохранить ментальное здоровье», — сказал он.

Изображение: Freepik

Еще по теме

Почему будущих специалистов по информбезопасности разбирают еще со школы

Новые схемы интернет-мошенников и как им противостоять

Почему буксует импортозамещение электронных компонентов

Почему рынок коммерческих дата-центров нуждается в регулировании

Что ждет начинающего тестировщика в 2024 году

Как найти перспективные зарубежные рынки для российских решений

Какие угрозы несет интернет тел человечеству

Успеют ли банки заменить импортный софт и оборудование до 2025 года

Зачем компании вкладывают деньги в ИТ-состязания?

Импортозамещение и внутренняя разработка ПО в страховании

Почему рынок информационных технологий РФ возвращается к классической дистрибуции

Что сделано и не сделано в цифровизации России за 2023 год

Как заботу о вычислениях переложить на вендоров и почему не все к этому готовы

Когда российский бизнес начнет замещать импортное ИТ-оборудование

Чего добились за два года активного импортозамещения ПО