Нейросети превращаются в преступников
ИИ продолжает менять криминальный мир – прогнозы экспертов сбываются с опережением
С момента запуска таких генеративных нейросетей, как MidJourney или GPT-3, и захвата нейросетями новостной повестки прошло чуть больше года. Новые достижения ИИ взволновали не только бизнес, но и преступный мир. Об ИИ-преступлениях, предсказанных ранее и произошедших либо предстоящих, читателям RSpectr рассказал член Общественного совета при Минцифры России, генеральный директор digital-агентства «Интериум» Валерий Сидоренко.
СКОЛЬКО СТОИТ ДИПФЕЙК
Ученые из Оксфорда и бизнес-консультанты много лет предупреждали об опасности так называемых ИИ-преступлений: персонализованного фишинга, автономных дронов-бомбардировщиках, гиперреалистичных дипфейков и много другого. Сегодня эти прогнозы сбываются, причем с опережением: латиноамериканские наркокартели пользуются ИИ-подлодками для перевозки контрабанды, корпоративные шпионы применяют ИИ для OSINT-анализа. С ИИ-криминалом сталкивается даже российский бизнес – о любопытном (и, к счастью, не удавшемся) примере – чуть позже.
Если оставить в стороне узкоспециальные сферы вроде биржевых, военных или инженерных, то стоит выделить три ключевых источника ИИ-угроз: дипфейки, персонализация фишинга и самоуправляемый транспорт.
Самый впечатляющий прогресс за год произошел в ИИ-фото и -видео. Количество нейросервисов для обработки и генерации фото бьет рекорды. Нейросети для генеративного заполнения добавили в свои продукты многие крупные компании вроде Adobe, Microsoft.
За прошедший год ИИ-преступление почти совершили даже против российской организации. Компания по производству цемента столкнулась с попыткой настоящего рейдерского захвата: мошенники нашли номинала-«инвестора» и от его имени общались с журналистами, используя дипфейк-технологию. Правда, благодаря грамотным действиям компании атаку в итоге отбили и выиграли суды.
В начале мая эксперты «Лаборатории Касперского» выпустили любопытный отчет: «безопасники» проанализировали черный рынок дипфейков для атак на людей и организации. По их данным,
за минуту поддельного видео сейчас просят от 300 до 20 тыс. долларов. Основной рынок – контент 18+ и фейковые стримы от лица знаменитостей ради «развода» на деньги
Отдельные умельцы даже запустили на Twitch многочасовой дипфейк-стрим с ИИ-селебрити, реплики которым тоже пишут «нейронки».
Есть применения и опаснее – например, политика. В конце апреля республиканцы в США в ответ на старт предвыборной кампании Байдена выпустили дипфейк-ролик об ужасах, которые якобы ждут мир после его переизбрания.
А осенние выборы в Словакии стали, наверное, первыми в истории, когда ИИ помог кандидату победить. Точнее, проиграть его сопернику: популисту Роберту Фицо удалось обойти либерала Михала Шимечку в том числе из-за вброса видеозаписи, где последний якобы рассказывает о подтасовках голосов. Запись разоблачили как ИИ-дипфейк, но было поздно: противники Шимечки уже распространили материал, пошатнув его рейтинги.
Случаются подобные инциденты и в бизнесе: в марте 2023 года зампред Сбера Станислав Кузнецов рассказал, как мошенники сгенерировали образ директора предприятия, который велел бухгалтеру срочно перевести якобы ему 100 тыс. долларов. Дальше – больше.
ПЕРСОНАЛИЗАЦИЯ ФИШИНГА
О второй угрозе – фишинговых писем, текст которых будет подстраиваться под получателя, – аналитики также предупреждали. По данным Knowbe4, фишинг действительно эволюционирует, но пока не так быстро: в топе успешных подходов все еще темы писем в духе «Вас упомянули в документе: смотреть…» или «Апдейт по совещанию: СРОЧНО от бухгалтерии…».
Впрочем, успехи хакеров впечатляют: не далее как в мае группировка Royals взломала базы данных всей городской полиции американского города Даллас. Начаться все могло с неприметной ссылки в письме, на которую кликнул невнимательный офицер.
Развивается и рынок фишинга «под ключ»: как пишет «Лаборатория Касперского»,
в Telegram-каналах теперь процветает индустрия «фишинга как услуги», когда за скромную или не очень плату злоумышленник-самоучка покупает готовый конструктор для сборки мошеннических писем
Звучит жутковато, но пока предсказания ученых сбылись не целиком.
ИИ-БЕСПИЛОТНИКИ
Третьей беспокоящей темой можно назвать проблемы беспилотного транспорта, управляемого нейросетями. Илон Маск в весеннем интервью WSJ высказал схожие опасения о применении передового ИИ на поле боя.
Politico в мае подлил масла в огонь, выпустив интервью с членом Палаты представителей США Сетом Мултоном, громко рассуждающим о том, что автономные роботы-убийцы уже готовы воевать – генералам осталось только договориться о том, чем оправдывать их применение.
Позже командование альянса США, Великобритании и Австралии объявило о планах разработки нового поколения умных дронов на базе ИИ, первые тесты технологии которых уже состоялись. Это случилось вскоре после того, как КНР объявила о прошедших учениях, в ходе которых управляемый ИИ беспилотник победил дрон под контролем человека.
Гонка за применение нейросетей для управления дронами и роверами вышла на уровень национальных интересов
К слову, есть подвижки и на гражданке: Uber в мае сообщил, что к концу года запустит полностью автономные машины – правда, речь шла лишь о небольшой зоне в городе Феникс (штат Аризона). Успех этой кампании омрачил июльский инцидент, когда громкое судебное дело автономной машины Uber, сбившей человека в том же штате в 2018 году, получило новый поворот.
Оператор той самой злополучной машины, Рафаэла Васкес, признала свою вину перед следствием (правда, получила всего три года условно) – трагедия пятилетней давности была едва ли не первым в мире случаем смерти человека от гражданского беспилотного автомобиля. И негативный информационный фон вокруг этой новости вряд ли поспособствует громкому запуску автономных машин Uber в штате.
ТРИ КИТА СТРАХА
Из трех обозначенных направлений быстрее всего развилось все, что связано с дипфейками, – технология растет, опережая рамки возможностей и открывая простор для преступников всех мастей.
Область умного фишинга пока развивается не настолько активно, а вот вопрос о применении ИИ в дронах и автономных транспортных средствах поднялся на уровень выше – скоро ИИ «наденет погоны».
Учитывая скорость, с которой прогрессирует ИИ, аналитикам, похоже, придется менять прогнозы гораздо чаще: три описанных направления скоро могут уступить место чему-то гораздо более серьезному. Не зря в Конгресс США внесли законопроект о запрете доступа ИИ к принятию решений о ядерном оружии.
