Алгоритмы раздора

Почему власти ограничивают рекомендательные системы цифровых гигантов

После скандалов с разоблачением разрушительного воздействия социальных сетей на пользователей законодатели ряда стран ускорили подготовку правил, регулирующих деятельность IT-корпораций. О том, как ограничить активность алгоритмов онлайн-площадок, когда в России появится закон, обязывающий сайты обеспечить пользователям возможность отключения рекомендательных систем, и надо ли разделить Meta (бывший Facebook) на части – в материале RSpectr.

КИПИТ ИХ РАЗУМ ВОЗМУЩЕННЫЙ

Законотворческая активность бурлит на родине большинства интернет-гигантов. Всплеск спровоцировала бывшая сотрудница Facebook Фрэнсис Хоген, передавшая американским журналистам копии внутренних документов соцсети. Она рассказала об алгоритмах, которые в коммерческих целях продвигают контент, вызывающий разногласия и ненависть, или тиражируют фейки о коронавирусе. По ее словам, топ-менеджмент понял, что, если рекомендательные системы сделать более безопасными, пользователи будут проводить меньше времени на площадке и прибыль снизится. Ф.Хоген подчеркнула:

«Facebook стала компанией с оборотом в триллион долларов за счет пренебрежения безопасностью нас и наших детей. И это недопустимо»

За последние несколько месяцев в США было внесено полтора десятка законопроектов, направленных на регулирование соцсетей, рассказал RSpectr генеральный директор Института исследований интернета (ИИИ) Карен Казарян. Например, в ноябре американский Конгресс представил Закон о прозрачности информационных пузырей (Filter Bubble Transparency Act), который предусматривает обязанность интернет-компаний предлагать версию своих услуг, свободную от рекомендаций. Пользователи смогут отказаться от функции выстраивания контента на их основе и получат возможность самостоятельно упорядочивать информацию. Исключение допускается для компаний с числом сотрудников менее 500 человек, годовым доходом менее 50 млн долларов, а также интернет-площадок, собирающих данные менее чем о миллионе пользователей.

Кроме того, в США сейчас рассматривают проект Закона о правосудии против вредоносных алгоритмов (Justice Against Malicious Algorithms Act). Согласно этой норме, корпорации будут нести ответственность за контент, опубликованный на их онлайн-площадках. Причем вне зависимости от того, создан ли он на основе рекомендаций или нет.

По мнению К.Казаряна, практически все обсуждающиеся сейчас в США новые нормы, направленные на ужесточение правил работы соцсетей, в случае одобрения могут быть отменены судами.

Карен Казарян, ИИИ:

– Принятие какого-то законопроекта, по существу, в текущей политической ситуации вряд ли возможно, поскольку взгляды Республиканской и Демократической партий на регулирование онлайн-платформ радикально различаются.

Тем не менее попытки воздействовать на интернет-монополистов продолжатся, полагает эксперт.

ПРАВО НА ВЫБОР

О пользе и вреде рекомендательных сервисов идет много споров. Они очень полезны в маркетплейсах, но в соцсетях и видеохостингах подобные программы навязывают определенные точки зрения и часто способствуют распространению деструктивного контента, отметил в беседе с RSpectr член комитета Госдумы по информационной политике Антон Горелкин.

Антон Горелкин, Госдума:

– Алгоритмы помогают формировать у людей определенную политическую позицию, что, на мой взгляд, недопустимо. Когда речь идет о социальной коммуникации, нам бы хотелось, чтобы онлайн-площадки сохраняли нейтральность.

Он констатирует, что

наблюдаются определенные злоупотребления рекомендательными сервисами, и их необходимо пресечь

При этом топ-менеджеры компаний, даже таких крупных, как Meta, должны нести личную ответственность за содержимое их площадок в Сети, уверен эксперт.

С ним соглашается член Общественной палаты России Александр Малькевич. Существует масса примеров, когда интернет-платформы, крупные сайты и агрегаторы подталкивали пользователей к публикации разного рода «треш-контента», отметил он в разговоре с RSpectr.

Александр Малькевич, Общественная палата России:

– Конечно, это привлекает аудиторию. Но таким образом корпорации паразитируют на самых низменных человеческих качествах, что абсолютно неприемлемо.

По его мнению,

онлайн-площадки должны вкладывать деньги в развитие институтов модераторов, которые будут вычищать все, что противоречит законодательству

Рабочая группа Общественной палаты РФ по защите прав пользователей интернета подготовила аналитический доклад под названием «21 главная цифровая угроза для гражданского общества». По каждому из указанных вопросов необходимо законодательное решение, притом что нынешние отечественные нормы затрагивают от силы два пункта указанного списка, отмечает А.Малькевич. Один из них – закон о «приземлении» IT-гигантов, который вступает в силу с 1 января будущего года, напомнил он.

Антон Горелкин, Госдума:

– Мы готовим свои поправки, которые обяжут платформы обеспечить пользователям возможность отключения рекомендательных алгоритмов. Соответствующий законопроект находится в высокой степени готовности и будет внесен в Госдуму до конца года.

По мнению А.Горелкина, принципиально важно, чтобы:

• у пользователя был выбор – интернет-ресурс должен предупреждать об использовании алгоритмов, а также сообщать, какие механизмы в них заложены (в рамках пользовательского соглашения или отдельного документа);
• рекомендательные программы должны быть прозрачными и находиться под общественным контролем.

ТРОПОЮ РОКФЕЛЛЕРА

На фоне громких скандалов основатель Facebook Марк Цукерберг в конце октября объявил о переименовании компании в Meta и пообещал открыть «новую главу в социальных взаимоотношениях». Предполагается, что новое название отразит амбиции корпорации по построению «метавселенной» и выведет другие бренды (WhatsApp, Instagram и др.) из тени социальной сети.

Впрочем, у американцев другой взгляд на развитие интернет-монополиста, и сейчас они активно обсуждают идею дробления Meta на части. Интересно, что ровно 110 лет назад Верховный суд США постановил разделить нефтяной колосс Джона Рокфеллера Standard Oil на 38 компаний. Принудительное дробление бизнеса является очень популярной антимонопольной мерой в Соединенных Штатах, поэтому не исключено, что она коснется и Meta, полагает А.Горелкин.

Антон Горелкин, Госдума:

– В результате может получиться десять онлайн-платформ, но суть от этого не изменится. Необходимо формирование эффективного регулирования, и стараемся сделать российское законодательство антимонопольным по духу.

А.Малькевич предлагает не останавливаться на одной Meta, а «ставить аналогичный вопрос и по Google». «Эта мегаплощадка со всеми облаками, почтой Gmail, поисковиком, видеоплатформой YouTube также навязывает свои знаменитые рекомендательные сервисы», – обращает внимание он.

Деятельность этих корпораций требует тщательного изучения, максимальной публичности и децентрализации, чтобы им было сложнее договариваться в части ущемления прав пользователей, подчеркивает член Общественной палаты. По его словам,

мир должен пойти дальше и говорить не только о разделении цифровых монополистов – мы должны добиться смены их статуса

Александр Малькевич, Общественная палата России:

– Фактически это означает возвращение к инициативе, которую начал бывший президент США Дональд Трамп, – завести крупные интернет-платформы под действие закона о СМИ, чтобы существенно сократить уровень их бесконтрольности.

Подобные корпорации уже давно не просто частные «лавочки», а новые средства массовой информации, формирующие общественное мнение. Поэтому они должны придерживаться определенных правил, устанавливаемых государством, подчеркивает А.Малькевич.

Разделение больших интернет-платформ на части вряд ли решит проблемы современного онлайн-рынка, полагает К.Казарян.

Карен Казарян, ИИИ:

– В первую очередь я бы обратил внимание на методы конкуренции: процедуры одобрения слияний и поглощений, а также вопросы перехода пользователей в другие сервисы.

Выход из сложившейся ситуации – в усилении антимонопольного регулирования и модернизации законодательства в области защиты персональных данных, уверен он. Пока же страны ужесточают правила работы интернет-гигантов. Как сообщила Financial Times, 18 ноября депутаты Европарламента договорились о том, что так называемый Закон о цифровых рынках (Digital Markets Act, DMA) будет применяться к компаниям с капитализацией более 80 млрд евро. Таким образом, новая норма затронет Meta, Google, Amazon, Apple, Microsoft и т.д.

Изображение: RSpectr, Freepik.com

ЕЩЕ ПО ТЕМЕ:

Facebook потеряет лицо
Почему цифровые гиганты выключают системы биометрической идентификации