Определены приоритетные технологии ИИ для защиты пользователей Сети
ИТ / Новости
ИИ технологии
24.4.2023

Определены приоритетные технологии ИИ для защиты пользователей Сети

Аналитики выделили 12 групп ключевых технологий с использованием искусственного интеллекта (ИИ), задействованные в мониторинге интернета и обеспечении безопасности его пользователей. Об этом говорится в исследовании Роскомнадзора, Главного радиочастотного центра (ФГУП «ГРЧЦ»), аналитического центра MINDSMITH и «Ростелекома».

Среди выделенных групп: обнаружение дипфейков, определение контекста происходящего на видео, автоматизация мониторинга и модерации контента, распознавание лиц, извлечение смысла из текста, поддержка проверки фактов, распознавание символики, извлечение и анализ метаданных, распознавание эмоций, поддержка решений при информационных атаках, генерация контента, рекомендация контента.

Эксперты также создали обзорную карту технологий, на которой показан ландшафт разработки решений на основе ИИ в разрезе кластеров, субтехнологий и степени зрелости этих решений.

«Государственное регулирование в большинстве стран не успевает за скоростью развития ИИ-технологий <…> Из-за автоматизации информационных войн и развития генеративных моделей будет крайне проблематично обеспечить когнитивную безопасность населения без внедрения ИИ. Наличие отечественных моделей и их внедрение, а также использование отечественных наборов данных — вопрос национальной безопасности», – считают авторы исследования.

По их мнению, государству необходимо разработать процедуры тестирования и оценки моделей ИИ. Это даст возможность отслеживать перспективных разработчиков и проекты.

Эксперты также указали на нехватку вычислительных мощностей, инфраструктуры и кооперации между компаниями и государством для создания отечественных моделей ИИ. Специалистов в этой области в России достаточно, отмечается в исследовании. Ситуация осложняется недостаточной развитостью производства мощного вычислительного оборудования. Несмотря на это, в России есть очень качественные решения, особенно в области распознавания лиц и работы с информационными атаками.

Также в своем исследовании эксперты подняли вопрос борьбы с дезинформацией, как одной из важнейших задач государства. Они отметили ряд трендов и ключевых выводов в этой области:

  • Системы ИИ приближаются к проверке фактов в реальном времени и будут интегрированы в соцсети. В будущем они смогут анализировать речь и потоковое видео, проверять их, а при обнаружении ложных новостей – оповещать пользователей о недостоверном контенте. Такие системы будут включать в себя комплекс работающих в симбиозе нейросетей и внедряться в соцсети;
  • Многие решения автоматизируют либо одну часть из процесса, либо концентрируются на выдаче оценки конкретному артефакту контента, чтобы затем поступить на финальную оценку либо эксперту, либо центральной нейросети комплекса. Такие системы позволяют более адекватно оценивать достоверность контента, так как учитывают больше факторов;
  • Системы для фактчекинга находятся на раннем этапе развития и будут массово внедрены только через 3–5 лет;
  • Внедрение автоматизированной проверки фактов приведет к тому, что каждая новость будет размечена специальными тегами на крупных платформах;
  • Государства смогут напрямую влиять на фактчекинг, сформировав систему тегов и отслеживая корректность разметки новостей техногигантами.
Изображение: Adobe Stock

Еще по теме

Что сделано и не сделано в цифровизации России за 2023 год

Как заботу о вычислениях переложить на вендоров и почему не все к этому готовы

Как искусственный интеллект меняет банковскую систему РФ

Как проходит цифровая трансформация отечественного госсектора

Процесс замены иностранного софта близится к завершению – и это вызов

Почему отраслевые облачные платформы экономят время и деньги компаний

Настоящее и будущее искусственного интеллекта в управлении

Насколько эффективной будет маркировка синтезированного нейросетью контента

Каковы перспективы трансфера технологий госуправления в другие страны

К чему приведет новый всплеск интереса к метавселенным

Что мешает отечественным разработчикам цифровых решений

Каким должен быть современный продакт-менеджмент в мире облачных технологий

Безопасная разработка софта и как она помогает бизнесу сэкономить деньги

Как ИТ-технологии меняют логистические процессы

Какие специальности в ИИ-индустрии будут востребованы в 2024 году