Определены приоритетные технологии ИИ для защиты пользователей Сети
ИТ / Новости
ИИ технологии
24.4.2023

Определены приоритетные технологии ИИ для защиты пользователей Сети

Аналитики выделили 12 групп ключевых технологий с использованием искусственного интеллекта (ИИ), задействованные в мониторинге интернета и обеспечении безопасности его пользователей. Об этом говорится в исследовании Роскомнадзора, Главного радиочастотного центра (ФГУП «ГРЧЦ»), аналитического центра MINDSMITH и «Ростелекома».

Среди выделенных групп: обнаружение дипфейков, определение контекста происходящего на видео, автоматизация мониторинга и модерации контента, распознавание лиц, извлечение смысла из текста, поддержка проверки фактов, распознавание символики, извлечение и анализ метаданных, распознавание эмоций, поддержка решений при информационных атаках, генерация контента, рекомендация контента.

Эксперты также создали обзорную карту технологий, на которой показан ландшафт разработки решений на основе ИИ в разрезе кластеров, субтехнологий и степени зрелости этих решений.

«Государственное регулирование в большинстве стран не успевает за скоростью развития ИИ-технологий <…> Из-за автоматизации информационных войн и развития генеративных моделей будет крайне проблематично обеспечить когнитивную безопасность населения без внедрения ИИ. Наличие отечественных моделей и их внедрение, а также использование отечественных наборов данных — вопрос национальной безопасности», – считают авторы исследования.

По их мнению, государству необходимо разработать процедуры тестирования и оценки моделей ИИ. Это даст возможность отслеживать перспективных разработчиков и проекты.

Эксперты также указали на нехватку вычислительных мощностей, инфраструктуры и кооперации между компаниями и государством для создания отечественных моделей ИИ. Специалистов в этой области в России достаточно, отмечается в исследовании. Ситуация осложняется недостаточной развитостью производства мощного вычислительного оборудования. Несмотря на это, в России есть очень качественные решения, особенно в области распознавания лиц и работы с информационными атаками.

Также в своем исследовании эксперты подняли вопрос борьбы с дезинформацией, как одной из важнейших задач государства. Они отметили ряд трендов и ключевых выводов в этой области:

  • Системы ИИ приближаются к проверке фактов в реальном времени и будут интегрированы в соцсети. В будущем они смогут анализировать речь и потоковое видео, проверять их, а при обнаружении ложных новостей – оповещать пользователей о недостоверном контенте. Такие системы будут включать в себя комплекс работающих в симбиозе нейросетей и внедряться в соцсети;
  • Многие решения автоматизируют либо одну часть из процесса, либо концентрируются на выдаче оценки конкретному артефакту контента, чтобы затем поступить на финальную оценку либо эксперту, либо центральной нейросети комплекса. Такие системы позволяют более адекватно оценивать достоверность контента, так как учитывают больше факторов;
  • Системы для фактчекинга находятся на раннем этапе развития и будут массово внедрены только через 3–5 лет;
  • Внедрение автоматизированной проверки фактов приведет к тому, что каждая новость будет размечена специальными тегами на крупных платформах;
  • Государства смогут напрямую влиять на фактчекинг, сформировав систему тегов и отслеживая корректность разметки новостей техногигантами.
Изображение: Adobe Stock

Еще по теме

Как изменились подходы и скорость цифровизации за последние 20 лет

Почему будущих специалистов по информбезопасности разбирают еще со школы

Новые схемы интернет-мошенников и как им противостоять

Почему буксует импортозамещение электронных компонентов

Почему рынок коммерческих дата-центров нуждается в регулировании

Что ждет начинающего тестировщика в 2024 году

Как найти перспективные зарубежные рынки для российских решений

Какие угрозы несет интернет тел человечеству

Успеют ли банки заменить импортный софт и оборудование до 2025 года

Зачем компании вкладывают деньги в ИТ-состязания?

Импортозамещение и внутренняя разработка ПО в страховании

Почему рынок информационных технологий РФ возвращается к классической дистрибуции

Что сделано и не сделано в цифровизации России за 2023 год

Как заботу о вычислениях переложить на вендоров и почему не все к этому готовы

Когда российский бизнес начнет замещать импортное ИТ-оборудование