Определены приоритетные технологии ИИ для защиты пользователей Сети

Аналитики выделили 12 групп ключевых технологий с использованием искусственного интеллекта (ИИ), задействованные в мониторинге интернета и обеспечении безопасности его пользователей. Об этом говорится в исследовании Роскомнадзора, Главного радиочастотного центра (ФГУП «ГРЧЦ»), аналитического центра MINDSMITH и «Ростелекома».

Среди выделенных групп: обнаружение дипфейков, определение контекста происходящего на видео, автоматизация мониторинга и модерации контента, распознавание лиц, извлечение смысла из текста, поддержка проверки фактов, распознавание символики, извлечение и анализ метаданных, распознавание эмоций, поддержка решений при информационных атаках, генерация контента, рекомендация контента.

Эксперты также создали обзорную карту технологий, на которой показан ландшафт разработки решений на основе ИИ в разрезе кластеров, субтехнологий и степени зрелости этих решений.

«Государственное регулирование в большинстве стран не успевает за скоростью развития ИИ-технологий <…> Из-за автоматизации информационных войн и развития генеративных моделей будет крайне проблематично обеспечить когнитивную безопасность населения без внедрения ИИ. Наличие отечественных моделей и их внедрение, а также использование отечественных наборов данных — вопрос национальной безопасности», – считают авторы исследования.

По их мнению, государству необходимо разработать процедуры тестирования и оценки моделей ИИ. Это даст возможность отслеживать перспективных разработчиков и проекты.

Эксперты также указали на нехватку вычислительных мощностей, инфраструктуры и кооперации между компаниями и государством для создания отечественных моделей ИИ. Специалистов в этой области в России достаточно, отмечается в исследовании. Ситуация осложняется недостаточной развитостью производства мощного вычислительного оборудования. Несмотря на это, в России есть очень качественные решения, особенно в области распознавания лиц и работы с информационными атаками.

Также в своем исследовании эксперты подняли вопрос борьбы с дезинформацией, как одной из важнейших задач государства. Они отметили ряд трендов и ключевых выводов в этой области:

• Системы ИИ приближаются к проверке фактов в реальном времени и будут интегрированы в соцсети. В будущем они смогут анализировать речь и потоковое видео, проверять их, а при обнаружении ложных новостей – оповещать пользователей о недостоверном контенте. Такие системы будут включать в себя комплекс работающих в симбиозе нейросетей и внедряться в соцсети;
• Многие решения автоматизируют либо одну часть из процесса, либо концентрируются на выдаче оценки конкретному артефакту контента, чтобы затем поступить на финальную оценку либо эксперту, либо центральной нейросети комплекса. Такие системы позволяют более адекватно оценивать достоверность контента, так как учитывают больше факторов;
• Системы для фактчекинга находятся на раннем этапе развития и будут массово внедрены только через 3–5 лет;
• Внедрение автоматизированной проверки фактов приведет к тому, что каждая новость будет размечена специальными тегами на крупных платформах;
• Государства смогут напрямую влиять на фактчекинг, сформировав систему тегов и отслеживая корректность разметки новостей техногигантами.