Искусственный интеллект против мошенников
IT / Статьи
ИИ экспертная колонка
3.10.2022

Искусственный интеллект против мошенников

Ученые ищут алгоритмы противодействия злоумышленникам в киберпространстве

Наверное, не осталось ни одного пользователя мобильной связи в РФ, который не сталкивался бы с телефонным мошенничеством. Ученые ведут поиски эффективных способов борьбы с противоправными действиями злоумышленников. Об одной из таких научных разработок на основе искусственного интеллекта (ИИ) RSpectr рассказал декан факультета цифровой экономики и массовых коммуникацийМосковского технического университета связи и информатики Сергей Гатауллин.

ЭМОЦИИ И СТОП-СЛОВА

Группа исследователей учебно-научной специализированной лаборатории ИИ департамента информационной безопасности Финансового университета при Правительстве РФ разработала и реализовала прототип программного комплекса, который в процессе телефонного разговора может анализировать содержание и выдавать рекомендации абоненту относительно предполагаемых противоправных действий со стороны собеседника.

Программный комплекс противодействия киберпреступникам реализован на базе модели, состоящей из четырех модулей:

  • анализа эмоций по фразе;
  • анализа стоп-слов;
  • анализа динамики стоп-слов;
  • анализа динамики разговора.

Научная новизна проекта заключается в создании технологии, основанной на методах ИИ, для обработки естественного языка и распознавания синтеза речи

В рамках исследования применены сквозная нейротехнология и технология ИИ, а именно, субтехнологии обработки естественного языка, распознавания, синтеза речи, рекомендательных и интеллектуальных систем поддержки принятия решений и методов и технологий в области ИИ.

АНАЛИЗ СООБЩЕНИЙ

Объектом исследования являются тексты диалогов жертвы и мошенника в системах телефонной связи.

Имея текстовое представление разговора с предполагаемым мошенником, исследователи делают две взаимодополняющие проверки: на эмоциональное давление со стороны одного из участников разговора (модуль анализа эмоций) и на характерные шаблоны построения фраз (модуль анализа стоп-слов).

Причем при первой проверке применяется авторский метод, который использует отклонения по встречаемости звуков в разговоре. Дело в том, что частоты встречаемости звуков при нормальной беседе, разговоре на эмоциях и при манипуляциях отличаются друг от друга. Структура информационного текста принципиально отличается от структуры внушающего (манипулирующего) текста и характеризуется отсутствием намеренной ритмизации его лексических и фонетических единиц. На практике это означает, что

некоторые звукосочетания способны не только вызывать определенные эмоции, но и могут восприниматься в качестве определенных образов

Для формирования дата-сета были взяты сообщения различных тематик из социальных сетей. Анализ эмоций осуществлялся в два этапа. На первом с помощью нейронных сетей Кохонена было выявлено количество групп, на которые можно разделить все сообщения. На втором использовалась классическая нейронная сеть (персептрон) для обучения на выявление манипулирования в сообщении. При формировании внутренней структуры сети использовалась информация о количестве кластеров, которая была получена на первом этапе. Всего их было выявлено 12. На основании результатов первого этапа была создана нейронная сеть со следующей конфигурацией:

  • количество нейронов во входном слое – 32;
  • количество нейронов в скрытом слое – 12;
  • количество нейронов в выходном слое – 2;
  • тип нейронной сети – персептрон;
  • алгоритм обучения – Resilient Propagation;
  • метод оптимизации структуры сети – метод динамического добавления нейронов.

Первый заместитель руководителя департамента информационной безопасности Финансового университета Екатерина Плешаковаотмечает, чтотелефонные мошенники постоянно совершенствуют свои методы и модели, зачастую оставаясь на шаг впереди правоохранительных органов. Важным преимуществом разработанного программного комплекса является возможность адаптации к видоизменяющимся схемам мошенничества.

Екатерина Плешакова подчеркивает, что предложенный подход анализа не только смысловой, но и эмоциональной составляющей телефонного разговора является наиболее сложным в реализации по сравнению с анализом внешних характеристик беседы (телефонный номер, время звонка, продолжительность звонков, частота и другие характеристики). Но в то же время он позволяет достичь наиболее точных результатов, равно как и оперативно перенастроить модель при изменении схемы мошенничества.

По ее словам, существующие технологии автоматизации противодействия киберпреступникам позволяют превентивно идентифицировать злонамеренных телефонных абонентов, ранжировать признаки мошенничеств. Однако этого недостаточно. Вектор актуальных исследований направлен в сторону совмещения превентивных мер с анализом семантической и эмоциональной составляющих фрода.

ПЕРСПЕКТИВЫ ВНЕДРЕНИЯ

Работа велась в рамках государственного задания правительства РФ Финансовому университету на 2022 год по теме «Модели и методы распознавания текстов в системах противодействия телефонному мошенничеству».

У разработки есть хорошие перспективы внедрения в свете инициатив Минцифры РФ по включению борьбы с мошенническими телефонными звонками в мероприятия федерального проекта «Информационная безопасность» национальной программы «Цифровая экономика», в том числе предложений обязывать операторов связи устанавливать соответствующие современным киберугрозам системы противодействия фроду.

Один из вариантов – это

реализация модуля российской ОС, позволяющий с согласия абонента записывать, анализировать и прерывать в случае угрозы телефонный разговор

Такая возможность будет полезна наиболее уязвимым категориям граждан, прежде всего пенсионерам. Альтернативным и, возможно, более целесообразным вариантом может стать приложение, которое абонент может установить на телефон либо предустановить производитель. В случае заинтересованности со стороны бизнеса или органов государственной власти есть возможность портирования исходного кода программного комплекса на C++ с целью обеспечения кросс-платформенности и возможности интегрирования в сторонние приложения.

Изображение: RSpectr, Adobe Stock, Freepik

Еще по теме

Своевременны ли инвестиции в западную архитектуру для микропроцессоров

В России создается умная среда подготовки правовых документов

Как повысить эффективность отрасли углеводородов за счет digital-решений

Особенности экспорта российских IT-решений в 2022 году

Поможет ли маркировка дипфейков защите персональных данных россиян

Методы борьбы с уязвимостями в системах лояльности и в процессах покупки

Российские высокие технологии проникли во все сферы экономики, но нуждаются в данных для развития

О трендах и перспективах цифровизации территорий России

В России хотят создать Совет по программно-аппаратным комплексам

Как избежать провалов в бизнесе при внедрении IТ-решений

Поможет ли перевод сайтов СМИ в публичные облака их кибербезопасности

Как проходит импортозамещение на рынке автономного транспорта в России

IT-отрасль ждет решения о господдержке экспорта ПО

Чего ждет IT-отрасль от эксперимента по использованию открытого ПО

Топ-5 актуальных запросов от пользователей российских BI-систем