Алиса, Alexa, Siri: доверяй, но ограничивай

О чем следует помнить, пользуясь голосовыми помощниками


Голосовой ассистент в смартфоне или умной колонке уже стал для многих полезным помощником. Однако недавно выяснилось, что записи речи пользователей могут быть доступны сотрудникам компании и привлеченным специалистам, что вызывает озабоченность экспертов. Они предупреждают, что умные помощники открывают новые горизонты для злоумышленников. Крупнейшие IT-холдинги уже предоставили своим пользователям возможность отключить функцию прослушивания аудиосообщений сторонними лицами.

НА ВАШЕ УСМОТРЕНИЕ

На днях стало известно, что компания Amazon предоставила пользователям своих умных колонок Echo и голосового ассистента Alexa возможность отключить функцию прослушивания их сообщений сотрудниками. Об этом рассказал портал The Verge.

В компании отметили, что

прослушивание было необходимо для улучшения работы системы – совершенствования функции распознавания голоса и понимания естественного языка

Теперь, чтобы запретить передачу аудиофайлов сотрудникам Amazon, пользователи могут самостоятельно отключить эту функцию в настройках колонки или смартфона. Раньше сделать это было нельзя.

Пользователи также могут удалять сообщения, переданные ранее для обработки. Однако контролировать этот процесс нужно самостоятельно, так как по умолчанию сервис будет функционировать в прежнем режиме.

Ранее о приостановке программы контроля качества голосового помощника Siri объявила американская корпорация Apple. Это решение было принято после выхода статьи в газете The Guardian, где сообщалось, что партнеры компании регулярно получают несанкционированный доступ к конфиденциальным данным пользователей, например, о медицинских диагнозах или интимной жизни.

В Apple сообщили, что

через Siri подрядчикам поступало менее 1% запросов длиной в несколько секунд, кроме того, все они были анонимизированы и не привязаны к аккаунтам

Тем не менее компания приняла решение о «заморозке» работы с подрядчиком, а также обещала выпустить обновление, которое позволит пользователям самостоятельно определять, принимать ли им участие в программе по повышению качества распознавания голоса.

Другой интернет-гигант – Google – также признал, что разрешает сотрудникам прослушивать разговоры пользователей с голосовым помощником Google Assistant.

Компания сообщила об этом в официальном блоге после того, как бельгийский вещатель VRT NWS рассказал, что получил доступ примерно к тысяче таких записей и обнаружил в них конфиденциальную информацию.

Менеджер по продукции компании Дэвид Монсис заверил, что

сотрудники Google не знают, чьи именно аудиосообщения они прослушивают, и не имеют доступа к каким-либо личным данным

По информации VRT NWS, эти записи дают прослушивать специалистам, которые (как и в случае с Apple) работают с Google по контрактам. Они анализируют различные характеристики аудиосообщений и используют полученные данные для оптимизации работы поисковой системы и других сервисов.

Google в блоге заявил, что создает технологии, которые работают с разными языками, диалектами и акцентами. Чтобы они лучше распознавали речь пользователей, компания нанимает лингвистов и дает им для анализа небольшой массив записей переговоров с Google Assistant, не более 0,2% от общего объема архива. Специалисты получают данные в анонимизированном виде. Их просят не учитывать фоновые разговоры.

Эти сотрудники обязуются сохранять конфиденциальность полученной информации. В компании уточнили, что один из них это правило нарушил и допустил утечку записей, которые и попали к журналистам. Соответствующие службы разберут этот случай и примут необходимые меры, заверил Google.

В компании также напомнили, что голосовой помощник записывает разговор для последующей отправки, только если устройство пользователя определяет, что началось взаимодействие с Google Assistant (например, при ручном включении сервиса или по фразам Hey, Google и OK, Google). Ошибки бывают, но такие случаи редки. Пользователи могут запретить Google хранить их аудио или выбрать опцию по автоматическому удалению всех записей раз в 3 или 18 месяцев.


ДОСТУПНЫ НЕОГРАНИЧЕННОМУ КРУГУ ЛИЦ?

Данные, которые собирают голосовые ассистенты, могут утекать, а сами сервисы – потенциально использоваться для прослушки, предупреждают эксперты.

В любой момент сотрудники компаний могут слить данные на сторону, чтобы заработать или нанести компании ущерб, отмечает руководитель отдела аналитики «СёрчИнформ» Алексей Парфентьев.

По его словам, опасность состоит в том, что голосовые помощники собирают массу информации о пользователе, причем он не всегда может это контролировать.

Алексей Парфентьев («СёрчИнформ»):

– Разработчики сразу признаются, что устройства могут «слышать» пользователей постоянно – чтобы в нужный момент распознать команду активации. Например, Samsung публично предупреждала пользователей, что личная информация, сказанная вблизи умного телевизора или другого устройства, может быть записана и передана третьим лицам. Среди них могут быть и сотрудники, которые разбирают команды в ручном режиме.
Примерно о том же предупреждает пользовательское соглашение Google и других крупных сервисов.

Как уверяют разработчики, сотрудники работают с полностью обезличенными данными – записям присваиваются случайные номера, не связанные с аккаунтами. Google и Apple утверждают, что перед обработкой запросов голоса пользователей искажаются. Это затрудняет идентификацию, без которой полученные данные оказываются бесполезными. Но объем обезличивания остается на совести разработчика.

Вдобавок мы не знаем, кто еще кроме внутренних специалистов компаний имеет доступ к данным и как может ими распорядиться.

В мире уже зарегистрированы случаи, когда с голосовых помощников «снимали показания»: полиция в США использовала для расследования записи с Amazon Echo, установленного на месте преступления.

Поэтому инициатива Amazon, Apple и Google – это важная административная мера. Остается верить компаниям на слово, что она будет реализована.

Но помимо инсайдерских существуют и технические риски утечек. Почти все голосовые помощники передают запросы пользователей в виде аудиозаписей через https, а иногда и вовсе через http-протокол. Технологии перехвата и расшифровки даже защищенного веб-трафика давно существуют и никакой сложности не представляют, было бы желание. И компании не могут гарантировать безопасность данных в момент их передачи от устройства на сервер.

Бесспорно, голосовой помощник удобен. С его помощью можно назначать встречи, заказывать билеты, бронировать рестораны, говорит сооснователь и генеральный директор CloudPayments Дмитрий Спиридонов. Но, по его словам, фактически это устройство, которое постоянно слушает то, что рядом с ним говорят. К тому же инфраструктура, которая обеспечивает работу голосовых помощников, не всегда защищена.

Дмитрий Спиридонов (CloudPayments):

– Их производят быстро, и основные алгоритмы в первую очередь нацелены на распознавание речи, а уже потом на безопасность. Неважно, активируется голосовой помощник по фразе, постоянно активен или находится в выключенном состоянии – утечка возможна. Полученные данные третья сторона может использовать как для маркетинговых целей, так и для промышленного или личного шпионажа.

Тем, кто из соображений удобства все же пользуется такими помощниками, эксперт советует помнить, что всякий разговор (с ними или рядом с ними) следует расценивать как публичный.

Любое устройство, которое оснащено микрофоном и имеет выход в интернет, может использоваться для прослушки, подчеркивает заместитель начальника отдела консалтинга Центра информационной безопасности компании «Инфосистемы Джет» Николай Антипов. Для этого злоумышленнику нужно получить доступ к динамику, например, с помощью установки вредоносного ПО или скомпрометированных приложений.

Использование же голосовых помощников и умных колонок открывает новые возможности для преступников. Для нормальной работы устройства должны «слушать» все, что происходит вокруг, и к тому же могут совершать действия в интернете от имени владельца, пояснил Н. Антипов.

Эксперт рассказал о недавно проведенном эксперименте, в ходе которого при помощи модифицированной аудиозаписи удалось включить колонку и отдать ей команду.

Николай Антипов («Инфосистемы Джет»):

– Так как в активированном состоянии голосовой помощник сохраняет всю услышанную информацию и может отправлять ее на анализ компании-производителю, личные данные становятся доступными неограниченному кругу лиц.

Поэтому при использовании голосовых помощников или умных колонок рекомендуется ограничить перечень действий, которые они могут совершать, а также исключить вероятность случайной активации голосового помощника, задав уникальное слово для его включения.

В свою очередь, в пресс-службе «Яндекса» подчеркнули, что компания серьезно относится к безопасности пользовательских данных.

В интернет-корпорации заявили RSpectr:

«Вся информация, которую сообщают Алисе, проходит сложное шифрование. Алиса не слышит пользователя до момента ее активации голосом или кнопкой»


ПОЙМЕТ, ВЫПОЛНИТ И ПОСОВЕТУЕТ

За умными устройствами и мобильными приложениями стоят интеллектуальные системы, которые понимают голосовые запросы пользователей и обеспечивают исполнение их заданий.
По просьбе владельца помощник из смартфона или колонки разбудит, включит музыку, построит маршрут, расскажет прогноз погоды, закажет такси и даже зачитает текстовые сообщения из WhatsApp.

Умные помощники сочетают в себе ряд базовых функций:

  • Голосовой ввод.
  • Понимание естественного языка.
  • «Проговаривание» помощником результата запроса.
  • Выполнение указания.
  • Интерпретация: ассистент использует информацию (например, контекст или прошлые задания), дополняющую конкретный запрос пользователя, чтобы понять, чего он хочет.
  • Проактивность: помощник может делать предложения на основе контекстной информации или предшествующего поведения пользователя.

Как правило, голосовые помощники связаны с другими сервисами компании-создателя. Alexa позволяет выбрать товары из Amazon Prime, Алиса – вызвать «Яндекс.Такси», Олег от Тинькофф Банка – управлять финансовыми продуктами и совершать денежные переводы, а через Марусю от Mail.ru можно будет заказать еду из Delivery Club.

Alexa от Amazon, Google Assistant от Google, Siri от Apple, Cortana от Microsoft, Xiao Ai от Xiaomi, Алиса от «Яндекса» и другие могут различаться по функционалу, но работают по одному принципу. Они слушают, что происходит вокруг, а когда владелец обращается к сервису (к приложению в смартфоне, в автомобиле или в умной колонке), начинают запись речи.

Аудиосообщение отправляется на сервер компании, обрабатывается, а пользователю выдается результат.

Безусловно, с появлением голосовых помощников мир стал комфортнее. Но при этом внимательное отношение к своим данным и вопросам их обработки, а также следование рекомендациям экспертов пользователям точно не повредит.

Изображение: RSpectr, freepik.com

ЕЩЕ ПО ТЕМЕ:

Чат-бот вошел в оборот

Виртуальные помощники все активнее участвуют в построении коммуникаций с клиентами на финансовом рынке