Медиа / Новости
события
6.8.2021

Apple начнет защищать детей от откровенных снимков в «Сообщениях»

Компания объявила о появлении новых функций для защиты детей на всех своих операционных системах. Производитель начнет размывать откровенные снимки в «Сообщениях», предупреждать родителей о получении таких фотографий, сканировать контент в iCloud, а также добавит руководства безопасности в Siri.

Новые функции появятся с выходом iOS и iPadOS 15, watchOS 8 и macOS Monterey, говорится в сообщении Apple. Приложение «Сообщения» добавит инструменты для предупреждения детей и их родителей при получении или отправке фотографий сексуального характера. При получении такого типа контента фотография будет размыта, а сам ребенок будет предупрежден о возможном неприемлемом содержании. То же самое будет происходить и перед отправкой фотографии. Алгоритмы будут локально сканировать фотографии, но сама компания не получит доступ к данным – все будет происходить на устройствах.

Для решения проблемы распространения материалов о сексуальном насилии над детьми в интернете Apple будет сканировать облачные хранилища устройств. Сканирование снимков в iCloud также будет происходить приватно: для этого Apple будет использовать машинное обучение на устройствах. Нейросети начнут сопоставлять изображения из облачных хранилищ с хешами изображений, предоставленных Национальным центром пропавших и эксплуатируемых детей (NCMEC) и другими организациями по детской безопасности.

Компания будет применять технологию «разделения секрета», которая позволит уберечь ваучеры безопасности от расшифровки на стороне сервера до тех пор, пока пользователь не нарушит правила. В компании утверждают, что это гарантирует высокий уровень точности – система будет выдавать меньше одного ложного результата на триллион попыток за год.

Только в случае фиксации нарушений сразу двумя технологиями Apple сможет интерпретировать контент ваучеров безопасности и сравнить изображения самостоятельно. Компания обещает вручную изучать каждый случай, чтобы подтвердить соответствие. В случае подтверждения Apple может отключить аккаунт и сообщить о нем в NCMEC.

Производитель гаджетов также начнет предупреждать и обучать пользователей с помощью Siri. Голосовой помощник вмешается, если пользователь попытается найти данные, связанные с детским сексуальным контентом.

Новые функции станут доступны с выходом новых версий систем осенью 2021 года.

Изображение: Freepik.com

Еще по теме

Особенности регулирования использования искусственного интеллекта в создании медиаконтента

Заместил ли контент российских видеосервисов импортную продукцию

Замедление YouTube, внутренние риски и госбюджет на ИБ

Цифровые угрозы становятся изощреннее. Как этому противостоять?

Мировой опыт защиты детей в Сети и что могут сделать российские интернет-площадки

Нужно ли считать ссылки на запрещенные соцсети инструментом продвижения опасного контента

Как развиваются «родные» медиаплощадки и что хотят на них видеть соотечественники

Как противостоять фейкам и почему будущее за доверенными источниками

Для чего необходимо развивать блог компании и как это делать эффективно

ИТ-компании и общественные организации занялись цифровым просвещением молодежи

Американский видеохостинг заподозрили в нелегальном отслеживании детей и навязывании персонализированной рекламы

Как обеспечить безопасность своего ребенка в интернете: новые угрозы и роль искусственного интеллекта

Почему бесполезны инструменты распознавания контента, созданного искусственным интеллектом

Чем грозит глобальное распространение рекламы, созданной искусственным интеллектом

Каковы новые подходы к формированию информационного поля в России