Поможет ли маркировка дипфейков защите персональных данных россиян
IT / Статьи
информбезопасность технологии
1.12.2022

Киберклейма ставить негде

Поможет ли маркировка дипфейков защите персональных данных россиян

Технологии дипфейка – синтеза изображения, основанного на искусственном интеллекте и нейросетей, – становятся все популярнее. На прошлой неделе президенту России Владимиру Путину разработчики показали дипфейк канцлера Германии Олафа Шольца. Но оборотной стороной широкого распространения становятся растущие риски. Регулирование применения дипфейков с помощью их маркировки – хорошая идея, но вряд ли ее реализация усилит безопасность персональных данных (ПД) людей и оградит их от онлайн-мошенников, рассуждают эксперты.

СИМВОЛ ИСТИНЫ

Технологию дипфейка необходимо закрепить в нормативно-правовой базе как несущую угрозу персональным данным, а созданный с ее помощью контент следует обязательно маркировать специальным графическим знаком. С таким предложением в Минцифры обратился Российский технологический университет МИРЭА, сообщил Russia Today.

Исследование университета показало низкий уровень осведомленности россиян о теме дипфейков: только 12% опрошенных знакомы с этим термином. При этом подавляющее большинство из них (86%) полагают, что эта технология применяется в сфере развлечений.

О том, что подделки с использованием искусственного интеллекта могут входить в арсенал киберпреступников, известно лишь одному из десяти респондентов.

По мнению представителей МИРЭА,

необходимо внести изменения в приказ Минцифры №734 и реестр недопустимых событий в сфере кибербезопасности

Также учебные курсы по противодействию дипфейкам нужно включить в спецпроект Минцифры «КиберЗОЖ» и в целом повышать уровень цифровой гигиены, особенно среди несовершеннолетних и людей старшего поколения, полагают в вузе.

АЛГОРИТМЫ МЕТОК

Управляющий партнер консалтингового агентства «Емельянников, Попова и партнеры» Михаил Емельянников сомневается, что маркировка дипфейков поможет защите персональных данных россиян.

Михаил Емельянников, «Емельянников, Попова и партнеры»:

– Не вижу в этом предложении ничего, что мошенники не смогли бы промаркировать. Технологий создания дипфейков становится все больше, а сами они – все совершеннее. Риски для субъектов персональных данных действительно очень высоки, но от маркировки легально изготовленных дипфейков они не уменьшатся.

За рубежом уже работают над регулированием контента, созданного с помощью дипфейков. Например, в Китае разработан законопроект, запрещающий использовать эту технологию для нарушения прав личности, распространения ложных новостей или изображений сексуального характера. Если же дипфейк не несет никакого вреда, его можно опубликовать, но только с соответствующей маркировкой, рассказал RSpectr начальник отдела информационной безопасности «СёрчИнформ» Алексей Дрозд.

Системы по выявлению дипфейков уже несколько лет разрабатывают крупные американские компании (например, Microsoft), а также исследователи из университетов.

По словам эксперта, в мировой практике алгоритм нанесения меток на дипфейки выглядит следующим образом:

  • Обязанность маркировки контента возложена на самих пользователей, которые размещают его на площадке.
  • Если метки нет, контент попадает в автоматизированную систему проверки.
  • Если система проверки делает вывод, что это дипфейк, следуют санкции для разместившего контент, вплоть до перманентного бана.
  • Если немаркированный дипфейк все-таки прошел автоматизированные проверки, остается еще один механизм – жалобы пользователей на контент.
  • После жалоб материалы, как правило, отправляются на дополнительную проверку, уже с участием человека.

Приживется ли в России идея обязательной маркировки дипфейков, зависит от того, насколько будет рабочим механизм поиска и проверки подобного контента

Алексей Дрозд, «СёрчИнформ»:

– В подобных начинаниях я вижу проблему с привлечением к ответственности. Неясно, каковы должны быть последствия, если пользователь нарушит правила, – предупреждение, временный бан, перманентный бан или административная/уголовная ответственность? Как оценивать тяжесть вреда, нанесенного публикацией дипфейка, и как организовать расследование?

Не будет ли проблем с поиском виновных наподобие тех, что происходит в данный момент с телефонным мошенничеством, задается вопросом эксперт.

Тимур Халудоров

Изображение: RSpectr, Adobe Stock

Еще по теме

С чем индустрия киберспорта России вошла в 2023 год

Тренды и проблемы цифровизации промышленности в России

Почему буксует процесс внедрения Open Source в образовательных учреждениях

Как запустить отечественный Open Source

Что делают вузы для преодоления кадрового голода в отрасли

Каких мер господдержки ждут разработчики ВКС-решений

В правительстве РФ заявили о перевыполнении планов по программе «Цифровая экономика»

Что стоит за ростом производства компьютеров в России

Какой должна быть защита персональных данных в 2023 году

Мотивировать IT-специалистов к возвращению из эмиграции предлагается законодательно оформленной бронью и расширением льгот

Перспективы сертификации кибербезопасников в РФ и поможет ли она остановить утечки данных

Какие эффекты ожидаются от использования информсистемы пространственных данных

На портале можно будет записаться на прием к юристам

Каковы итоги уходящего года и перспективы будущего для рынка 1С

Как будет развиваться рынок low-code в России