Непрозрачный намек алгоритма

Юристы предлагают отрегулировать рекомендательные сервисы

Алгоритмы, основанные на искусственном интеллекте (ИИ), могут показывать интернет-пользователю контент, который заставит его долго оставаться у экрана, предлагать индивидуально подобранный товар или побуждать к различным действиям. Рекомендательные сервисы (РС) активно внедряются и развиваются соцсетями, поисковиками, новостными агрегаторами, онлайн-кинотеатрами и маркетплейсами. Члены Московского отделения Ассоциации юристов России полагают: если этот процесс не контролировать, возрастут риски манипулирования общественным сознанием. По мнению игроков рынка, регулирование РС может привести к тому, что пользователь будет получать менее качественный контент.

РИСКИ ДЛЯ ОБЩЕСТВА

Комиссия по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России обратила внимание на то, что в настоящий момент в стране отсутствует регулирование использования РС, в основе которых лежат алгоритмы, способные изучать поведение человека в Сети и показывать ему релевантный контент, товары или услуги.

При этом функционирование таких сервисов затрагивает несколько сфер общественных отношений: информационные технологии, рекламу, права потребителей, защиту конкуренции. В заключении Комиссии (копия есть у RSpectr) отмечается также, что сегодня наблюдается резкий рост количества РС. В основе большинства из них лежит анализ персональных данных, а также пользовательского поведения.

Комиссия по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России:

– Появляются новые площадки, информации становится больше, а борьба за внимание пользователей – серьезнее. Чем больше исследователи изучают воздействие рекомендательных сервисов, тем сильнее убеждаются в их способности управлять нашим мозгом. Алгоритмы социальных сетей могут менять не только наше настроение, но и наше мнение, в том числе в ходе выборных кампаний.

Одним из самых ярких примеров РС является TikTok, говорят юристы. Так, в первые дни после установки приложение показывает пользователю все ролики, затем – только интересующие человека видео, основываясь на его предыдущих оценках.

В сфере продажи товаров и услуг, а также рекламы основная угроза связана с неравными конкурентными условиями тех компаний, которые используют РС и накапливают в своей деятельности большие массивы данных о пользователях, предупреждают эксперты.

Аккумулируя такую информацию о поведении, предпочтениях, сделанном осознанно или ситуативно выборе, РС получают монопольную возможность формирования потребностей человека в будущем.

Сопоставимой по объему и качеству информации о пользовательском поведении ранее ни у кого из участников экономической деятельности не было

В среднесрочной перспективе такие данные позволят монополизировать рынки рекламы, а затем производства, сервиса и продажи тем компаниям, которые в настоящее время можно отнести к интернет-экосистемам.

Кроме того, эксперты опасаются, что использование РС способствует поляризации общественного мнения. С их помощью создаются закрытые информационные системы, где нет альтернативной точки зрения. В результате существенно повышаются риски социальных конфликтов, а также деградации общего уровня образования и осведомленности общества.

Эксперт Moscow Digital School, член Московского отделения Ассоциации юристов России Ефим Казанцев отметил в разговоре с RSpectr, что, если использование рекомендательных алгоритмов не контролировать, возрастают риски манипулирования общественным сознанием.

Ефим Казанцев, Московское отделение Ассоциации юристов России:

– Если человека хотя бы предупредить о том, что выдача контента «подкручивается» под цели соцсети или другого интернет-сервиса, он уже более критически будет относиться к создаваемому ими информационному полю или вообще перестанет пользоваться слишком необъективными ресурсами.

Ранее на то, что интернет-сервисы управляют сознанием людей, обратил внимание президент России Владимир Путин. «Зачастую современные информационные платформы все больше и больше начинают управлять сознанием. Просто изучают своего, условно говоря, клиента и подбрасывают ему то, что они считают нужным. Человек начинает принимать решение, даже не осознавая того, что им руководят», – заявил В. Путин 2 февраля в ходе встречи с лауреатами всероссийского конкурса «Учитель года».

По мнению главы государства, вмешательство носит очень тонкий характер, однако часто интернет-ресурсы стремятся к извлечению прибыли любой ценой, не заботясь об интересах людей.

ПРОИНФОРМИРОВАТЬ ПОЛЬЗОВАТЕЛЯ

С учетом актуальности темы Комиссией был проанализирован международный опыт регулирования РС и выработаны предложения по поправкам в российское законодательство.

Юристы предложили ввести в законодательство понятия «рекомендательный сервис» и «оператор рекомендательного сервиса», а также определить признаки РС. В частности, предлагается регулировать площадки, у которых более 100 тыс. пользователей в сутки и происходит обработка данных более 500 тыс. человек. При этом

люди должны иметь возможность отключать рекомендательные алгоритмы, сохраняя доступность самого сервиса

Кроме того, эксперты предложили законодательно закрепить принцип транспарентности при применении РС, который должен предусматривать следующие обязанности:

• информировать пользователей о применении алгоритмов при выдаче сведений по запросу пользователя;
• размещать в общем доступе документ, излагающий в ясной, доступной и понятной форме описание параметров и (или) алгоритмов, используемых для отображения и (или) предоставления пользователям информации;
• маркировать все товары и услуги и (или) информацию приоритизированные за плату или в ином интересе.

Свое заключение эксперты направили в Госдуму, Совет Федерации и Минцифры.

Как рассказал Е.Казанцев,

дискуссии о регулировании рекомендательных сервисов ведутся сейчас почти во всех развитых странах

Во многих из них это уже вылилось в появление специальных законодательных инициатив. Например, в Европейском союзе вопрос регулирования РС затронут в проекте Акта «О цифровых рынках» (Digital Markets Act, DMA), в Китае опубликован для общественных консультаций проект «Руководства по борьбе с монополиями в сфере экономики маркетплейсов», начался процесс формирования судебной практики по этим вопросам в США.

Российские законодатели также обсуждают вопрос о регулировании рекомендательных алгоритмов.

В ходе круглого стола в Совете Федерации в феврале член комитета Госдумы по информационной политике, информационным технологиям и связи Антон Горелкин отметил, что база для соответствующего законопроекта уже подготовлена. По мнению депутата, необходимо сделать рекомендательные системы и механизмы прозрачными для общества.

Антон Горелкин, Госдума:

– Это особенно важно с учетом того, что 2021 год выборный, именно поэтому в западных социальных сетях мы видим, как нарастает волна пессимизации российского контента, блокируются аккаунты наших медиа, журналистов, политиков. Их записи исключают из поиска, на них навешивают ярлыки. В период агитационной кампании рекомендательные сервисы вряд ли сохранят политическую нейтральность. Сейчас, когда у нас наконец-то определено законодательно, что такое социальная сеть, аудиовизуальный сервис, мы можем заняться рекомендательными системами.

В своем телеграм-канале депутат написал, что специальные алгоритмы используются во всех социальных сетях. Наиболее заметен этот эффект в Facebook, Twitter, YouTube и других американских платформах. И этот механизм фактически невозможно отключить. «У нас он тоже используется, например, в ВК. Но там эту штуку можно реально выключить и видеть в своей ленте все, что публикуют ваши источники. Это более честная позиция по отношению к пользователю», – отметил депутат.

Он добавил, что нужно выработать четкие, понятные и прозрачные правила функционирования РС. Все соцсети, работающие и получающие прибыль в России, должны этих правил придерживаться, считает А.Горелкин.

ПОМОЩНИК ИЛИ БАРЬЕР?

В Mail.ru Group RSpectr сообщили, что предложенные Московским отделением Ассоциации юристов России меры будут способствовать излишнему регулированию отрасли и могут ухудшить пользовательский опыт, нанеся ущерб всей цифровой экономике.

Руководитель корпоративных коммуникаций Mail.ru Group Сергей Лучин обращает внимание на то, что

все обязанности подобных сервисов уже закреплены в законодательстве – и маркировка контента по возрасту, и мониторинг запрещенной информации, и многое другое

«Инициатива выглядит как предложение ради предложения», – говорит он.

Сергей Лучин, Mail.ru Group:

– Алгоритмы построения рекомендаций индивидуальны и подстраиваются под конкретного человека, поэтому любое вмешательство будет нарушать интересы пользователя и может привести к тому, что он будет получать менее качественный контент.

Доцент НИУ ВШЭ Полина Колозариди отмечает, что рекомендательные алгоритмы производят почти магический эффект – «все мои желания сбываются до того, как я их даже успеваю осмыслить». По мнению эксперта, если пользователи будут задумываться о том, как их поисковые запросы или долгий взгляд на баннер влияют на рекламу, интуитивность и волшебство перестанут быть привлекательными.

Вместе с тем причины для беспокойства понятны, добавляет П.Колозариди, РС формируют так называемые информационные пузыри, в которых люди не имеют шансов узнать о новостях, которые читает сосед. Неясны барьеры для новых или неизвестных исполнителей или режиссеров (если говорить о платформах с рекомендациями в теме музыки или кино). Наконец, полная закрытость для пользователя – притом что влияние алгоритмов на повседневность очень велико.

Полина Колозариди, НИУ ВШЭ:

– Правда, новое предложение может на практике свестись к бюрократическому клику вроде «я ознакомлен(а) с правилами работы рекомендательного сервиса». Или, еще не лучше, организации какого-то большого совета, который будет, руководствуясь столь же непрозрачными критериями, изучать алгоритмы рекомендательных систем.

Генеральный директор компании Omega Алексей Рыбаков не видит особых рисков для пользователей в том, как сегодня работают рекомендательные сервисы, по словам эксперта, они скорее помогают пользователям в поиске необходимого им контента, чем вредят.

Алексей Рыбаков, Omega:

– Представим себе среднестатистическую женщину с годовалым ребенком, которая пользуется соцсетями. Наверняка нет никакого смысла показывать ей рекламу электробензопил. Ей будет гораздо полезнее в конкретном промежутке времени увидеть предложение купить детские товары со скидкой. И, наоборот, музыканту будет интереснее реклама специализированного магазина с музыкальными инструментами или услуг студий. Польза для предпринимателей, которые также являются пользователями соцсетей, состоит в том, чтобы не тратить деньги на доставку рекламы тем пользователям, которым их товары или услуги вряд ли будут интересны. Поэтому запрет на таргетированную рекламу деструктивен.

По мнению А.Рыбакова, если будет введено требование к разработчикам РС публиковать технологию и разъяснения, каким образом работает сервис, это вступит в противоречие с правовыми вопросами интеллектуальной собственности. Едва ли кто-то захочет раскрывать сведения о том, как функционируют разработанные нейронные сети, алгоритмы, подвергаясь риску копирования.

Изображение: RSpectr, Freepik.com

ЕЩЕ ПО ТЕМЕ:

Искусственный интеллект обучат этике
Растущий рынок умных технологий требует контроля и регулирования