нейросеть, криминал
ИТ / Статьи
ИИ информбезопасность экспертная колонка
1.11.2023

Нейросети превращаются в преступников

ИИ продолжает менять криминальный мир – прогнозы экспертов сбываются с опережением

С момента запуска таких генеративных нейросетей, как MidJourney или GPT-3, и захвата нейросетями новостной повестки прошло чуть больше года. Новые достижения ИИ взволновали не только бизнес, но и преступный мир. Об ИИ-преступлениях, предсказанных ранее и произошедших либо предстоящих, читателям RSpectr рассказал член Общественного совета при Минцифры России, генеральный директор digital-агентства «Интериум» Валерий Сидоренко.

СКОЛЬКО СТОИТ ДИПФЕЙК

Ученые из Оксфорда и бизнес-консультанты много лет предупреждали об опасности так называемых ИИ-преступлений: персонализованного фишинга, автономных дронов-бомбардировщиках, гиперреалистичных дипфейков и много другого. Сегодня эти прогнозы сбываются, причем с опережением: латиноамериканские наркокартели пользуются ИИ-подлодками для перевозки контрабанды, корпоративные шпионы применяют ИИ для OSINT-анализа. С ИИ-криминалом сталкивается даже российский бизнес – о любопытном (и, к счастью, не удавшемся) примере – чуть позже.

Если оставить в стороне узкоспециальные сферы вроде биржевых, военных или инженерных, то стоит выделить три ключевых источника ИИ-угроз: дипфейки, персонализация фишинга и самоуправляемый транспорт.

Самый впечатляющий прогресс за год произошел в ИИ-фото и -видео. Количество нейросервисов для обработки и генерации фото бьет рекорды. Нейросети для генеративного заполнения добавили в свои продукты многие крупные компании вроде Adobe, Microsoft.

За прошедший год ИИ-преступление почти совершили даже против российской организации. Компания по производству цемента столкнулась с попыткой настоящего рейдерского захвата: мошенники нашли номинала-«инвестора» и от его имени общались с журналистами, используя дипфейк-технологию. Правда, благодаря грамотным действиям компании атаку в итоге отбили и выиграли суды.

В начале мая эксперты «Лаборатории Касперского» выпустили любопытный отчет: «безопасники» проанализировали черный рынок дипфейков для атак на людей и организации. По их данным,

за минуту поддельного видео сейчас просят от 300 до 20 тыс. долларов. Основной рынок – контент 18+ и фейковые стримы от лица знаменитостей ради «развода» на деньги

Отдельные умельцы даже запустили на Twitch многочасовой дипфейк-стрим с ИИ-селебрити, реплики которым тоже пишут «нейронки».

Есть применения и опаснее – например, политика. В конце апреля республиканцы в США в ответ на старт предвыборной кампании Байдена выпустили дипфейк-ролик об ужасах, которые якобы ждут мир после его переизбрания.

А осенние выборы в Словакии стали, наверное, первыми в истории, когда ИИ помог кандидату победить. Точнее, проиграть его сопернику: популисту Роберту Фицо удалось обойти либерала Михала Шимечку в том числе из-за вброса видеозаписи, где последний якобы рассказывает о подтасовках голосов. Запись разоблачили как ИИ-дипфейк, но было поздно: противники Шимечки уже распространили материал, пошатнув его рейтинги.

Случаются подобные инциденты и в бизнесе: в марте 2023 года зампред Сбера Станислав Кузнецов рассказал, как мошенники сгенерировали образ директора предприятия, который велел бухгалтеру срочно перевести якобы ему 100 тыс. долларов. Дальше – больше.

ПЕРСОНАЛИЗАЦИЯ ФИШИНГА

О второй угрозе – фишинговых писем, текст которых будет подстраиваться под получателя, – аналитики также предупреждали. По данным Knowbe4, фишинг действительно эволюционирует, но пока не так быстро: в топе успешных подходов все еще темы писем в духе «Вас упомянули в документе: смотреть…» или «Апдейт по совещанию: СРОЧНО от бухгалтерии…».

Впрочем, успехи хакеров впечатляют: не далее как в мае группировка Royals взломала базы данных всей городской полиции американского города Даллас. Начаться все могло с неприметной ссылки в письме, на которую кликнул невнимательный офицер.

Развивается и рынок фишинга «под ключ»: как пишет «Лаборатория Касперского»,

в Telegram-каналах теперь процветает индустрия «фишинга как услуги», когда за скромную или не очень плату злоумышленник-самоучка покупает готовый конструктор для сборки мошеннических писем

Звучит жутковато, но пока предсказания ученых сбылись не целиком.

ИИ-БЕСПИЛОТНИКИ

Третьей беспокоящей темой можно назвать проблемы беспилотного транспорта, управляемого нейросетями. Илон Маск в весеннем интервью WSJ высказал схожие опасения о применении передового ИИ на поле боя.

Politico в мае подлил масла в огонь, выпустив интервью с членом Палаты представителей США Сетом Мултоном, громко рассуждающим о том, что автономные роботы-убийцы уже готовы воевать – генералам осталось только договориться о том, чем оправдывать их применение.

Позже командование альянса США, Великобритании и Австралии объявило о планах разработки нового поколения умных дронов на базе ИИ, первые тесты технологии которых уже состоялись. Это случилось вскоре после того, как КНР объявила о прошедших учениях, в ходе которых управляемый ИИ беспилотник победил дрон под контролем человека.

Гонка за применение нейросетей для управления дронами и роверами вышла на уровень национальных интересов

К слову, есть подвижки и на гражданке: Uber в мае сообщил, что к концу года запустит полностью автономные машины – правда, речь шла лишь о небольшой зоне в городе Феникс (штат Аризона). Успех этой кампании омрачил июльский инцидент, когда громкое судебное дело автономной машины Uber, сбившей человека в том же штате в 2018 году, получило новый поворот.

Оператор той самой злополучной машины, Рафаэла Васкес, признала свою вину перед следствием (правда, получила всего три года условно) – трагедия пятилетней давности была едва ли не первым в мире случаем смерти человека от гражданского беспилотного автомобиля. И негативный информационный фон вокруг этой новости вряд ли поспособствует громкому запуску автономных машин Uber в штате.

ТРИ КИТА СТРАХА

Из трех обозначенных направлений быстрее всего развилось все, что связано с дипфейками, – технология растет, опережая рамки возможностей и открывая простор для преступников всех мастей.

Область умного фишинга пока развивается не настолько активно, а вот вопрос о применении ИИ в дронах и автономных транспортных средствах поднялся на уровень выше – скоро ИИ «наденет погоны».

Учитывая скорость, с которой прогрессирует ИИ, аналитикам, похоже, придется менять прогнозы гораздо чаще: три описанных направления скоро могут уступить место чему-то гораздо более серьезному. Не зря в Конгресс США внесли законопроект о запрете доступа ИИ к принятию решений о ядерном оружии.

Изображение: RSpectr, Adobe Stock

Еще по теме

За счет чего российская цифровая техника будет востребована за рубежом

Как изменились подходы и скорость цифровизации за последние 20 лет

Почему будущих специалистов по информбезопасности разбирают еще со школы

Новые схемы интернет-мошенников и как им противостоять

Почему буксует импортозамещение электронных компонентов

Почему рынок коммерческих дата-центров нуждается в регулировании

Что ждет начинающего тестировщика в 2024 году

Как найти перспективные зарубежные рынки для российских решений

Какие угрозы несет интернет тел человечеству

Успеют ли банки заменить импортный софт и оборудование до 2025 года

Зачем компании вкладывают деньги в ИТ-состязания?

Импортозамещение и внутренняя разработка ПО в страховании

Почему рынок информационных технологий РФ возвращается к классической дистрибуции

Что сделано и не сделано в цифровизации России за 2023 год

Как заботу о вычислениях переложить на вендоров и почему не все к этому готовы