Опасные фото не пройдут?
Apple вводит новую систему защиты несовершеннолетних от нежелательного контента
IT-гигант планирует сканировать фотографии пользователей облачного хранилища iCloud, а также добавит руководство безопасности в Siri. Как объясняют в компании, инициатива направлена на поиск незаконного контента – в частности, изображений со сценами насилия над детьми. Система будет введена на устройствах американских пользователей Apple, она будет сканировать фото в хранилищах и сравнивать их с базой изображений, собранной правозащитниками, а в случае необходимости – оповещать полицию. Эксперты неоднозначно оценивают инициативу компании.
ЧТО ИЗМЕНИТСЯ И СТОИТ ЛИ ОПАСАТЬСЯ
Новые функции появятся с выходом iOS и iPadOS 15, watchOS 8 и macOS Monterey, говорится в сообщении Apple. Приложение «Сообщения» добавит инструменты для предупреждения детей и их родителей при получении или отправке фотографий сексуального характера. При выявлении такого контента фото будет размыто, а пользователь оповещен о возможном неприемлемом содержании. Голосовой помощник Siri также вмешается при попытке найти информацию, связанную с детским сексуальным контентом.
RSpectr опросил экспертов о рисках, которые может нести внедрение инноваций Apple.
Так, специалист центра машинного обучения IT-компании «ИнфосистемыДжет» Иван Камшуков отметил, что Apple не раскрывает технологию, лежащую в основе системы распознавания. Однако эксперт предполагает, что она использует сверточные нейронные сети, которые могут быть уязвимы к так называемым состязательным (adversarial) атакам. Можно незначительно изменить изображение таким образом, чтобы для человека содержимое осталось практически тем же, но нейросеть предскажет совершенно иной результат.
Иван Камшуков, «ИнфосистемыДжет»:
– Такая система точно не будет стопроцентно надежной, тем не менее большая часть нежелательных сценариев будет прервана. Что касается безопасности, заявления Apple выглядят вполне безобидно: предполагается, что модель будет работать локально, сразу на устройстве пользователя. У нас на смартфонах уже давно работают модели машинного обучения, например, помогая улучшать качество изображений прямо во время съемки с камеры.
Эксперт напомнил, что
искусственный интеллект уже давно видит все фотографии на смартфонах
Исполнительный директор департамента рынка капиталов ИК «Универ Капитал» Артем Тузов рассказал RSpectr, что большинство родителей пренебрегают подключением родительского контроля, поэтому «особой необходимости» для взлома системы не возникнет. По мнению эксперта, внесенные компанией изменения – лишь очередной PR-ход.
Руководитель группы исследований безопасности мобильных приложений Positive Technologies Николай Анисеня также относится к новым правилам Apple спокойно. По его словам, в современном мире сбор данных идет повсеместно, «и гораздо лучше, если вас об этом предупреждают».
ИБ-евангелист компании Avast Луис Корронс в беседе с RSpectr выразил уверенность, что создавать бэкдор для сканирования данных законных владельцев неправильно, так как Apple – не собственник конечных устройств. Эксперт считает, что систему могут взломать злоумышленники, что поставит под угрозу конфиденциальность абсолютно всех пользователей.
Сама Apple заявляет, что
алгоритмы будут локально сканировать фотографии, а компания не получит доступа к данным – все будет происходить на устройствах
Нейросети начнут сопоставлять фото из облачных хранилищ с хешами изображений, предоставленных Национальным центром пропавших и эксплуатируемых детей (National Center for Missing & Exploited Children, NCMEC) и другими подобными организациями.
Компания будет применять технологию, которая позволит уберечь ваучеры безопасности от расшифровки на стороне сервера до тех пор, пока пользователь не нарушит правила. Apple утверждает, что это гарантирует высокий уровень точности – система будет выдавать меньше одного ложного результата на триллион попыток за год.
ПОЗИЦИЯ IT-ГИГАНТА
Инициативу уже раскритиковали эксперты издания Financial Times, работающие в сфере IT, а также глава мессенджера WhatsApp Уилл Кэткарт.
Он подчеркнул, что «все хотят, чтобы насильники над детьми были пойманы», однако разработка легко может быть использована в интересах правительств разных стран, где продается продукция Apple, в зависимости от того, какой контент власти сочтут неприемлемым. Кроме того, было опубликовано открытое письмо в адрес компании, которое подписали более 5 тыс. человек и десятки организаций, выступающих против введения новой системы поиска запрещенных фотографий.
После волны возмущений Apple опубликовала сообщение, где заявила, что:
- будет анализировать только изображения из переписки, не затрагивая текст и любой другой контент;
- будет работать только на аккаунтах детей до 17 лет, учетные записи которых настроены в «Семейном доступе»;
- не будет раскрывать никакой информации ни Apple, ни правоохранительным органам, ни NCMEC.
Кроме того, изменения не будут работать у пользователей, которые отключили синхронизацию фотографий с облаком Apple. Если же функция iCloud Photos активирована, компания будет получать информацию об аккаунте того, кто хранит такие изображения. При этом автоматическое информирование правоохранительных органов и NCMEC функцией не предусмотрено – прежде чем отправить отчет в ведомство, данные будут проверены сотрудниками Apple на предмет ошибочного срабатывания алгоритмов.
Изображение: RSpectr, Freepik.com
ЕЩЕ ПО ТЕМЕ:
