Алгоритмы цифровых платформ
ИТ / Статьи
сервисы технологии
23.11.2023

Оскалы алгоритмов

Как люди и бизнес становятся заложниками цифровых монополий

Рынок аренды недвижимости в США потряс скандал – вместо того, чтобы конкурировать, крупные арендодатели фактически передавали решение о ценообразовании алгоритму электронной площадки, который использует их данные. Результатом этого стало повышение платы, которым довольны все, кроме рядовых арендаторов. Почему эффективное использование софта приводит к созданию картелей и нужны ли в цифровом мире антимонопольные решения – в материале RSpectr.

СДАМ КВАРТИРУ, ДОРОГО

Минюст США возбудил антимонопольное дело против цифровой платформы RealPage, которая предоставляет услуги по поиску жилья для аренды. Пользователи площадки утверждают, что алгоритм ценообразования RealPage, используемый многими крупнейшими арендодателями страны, искусственно завышает плату за съем квартир.

ПО RealPage под названием AI Revenue Management формирует цены для своих клиентов – арендодателей и управляющих недвижимостью – на основе непубличной информации, которую оно собирает на рынке. Платформа помогла арендодателям завысить плату на 7% в 40 тыс. квартир, утверждается в жалобе истцов. Они считают, что

скоординированное поведение RealPage и арендодателей привело к формированию картеля

RealPage заявила, что ее алгоритм рекомендует, а не предписывает ценообразование.

В практике еще не встречались случаи, где алгоритм изначально создавался для явного манипулирования ценами, кроме откровенно мошеннических сервисов, отметил в беседе с RSpectr начальник отдела информационной безопасности «СёрчИнформ» Алексей Дрозд. Но нередко онлайн-бизнес и люди становятся заложниками алгоритмов.

Алексей Дрозд, «СёрчИнформ»:

– Например, есть агрегатор, где магазины выставляют свои товары. Его алгоритм продвигает на платформе тех, кто устанавливает более низкую цену. Участник рынка с низкой ценой автоматически попадает в верхние строки выдачи, остальные вынуждены также снижать свою цену в агрегаторе, чтобы избежать падения продаж.

В итоге цены в реальном магазине могут быть выше, чем на онлайн-площадке. Эксперт называет эту ситуацию «оскалом алгоритмизма».

Изначально ПО RealPage было нацелено на то, чтобы прибыль получали клиенты площадки – арендодатели. «Заняв монопольное положение на рынке, программа начала требовать от них придерживаться рекомендуемого уровня цен и, по сути, взяла арендодателей в заложники. Не удивлюсь, если выяснится, что алгоритм RealPage регулировали вручную», – рассуждает эксперт.

Цифровые платформы имеют механизмы принуждения для своих клиентов

Например, как часто показывать пользователям информацию об организации, а в сервисах такси для водителей есть «баллы активности», напомнил он.

Еще одну причину Алексей Дрозд видит в монопольном положении отдельных онлайн-платформ. Изначально алгоритм создается для общего удобства, становится массовым – все начинают им пользоваться. Но затем сервис становится доминирующим, и тогда проявляются его темные стороны. Как ни печально, но

наиболее эффективное использование софта приводит к выстраиванию структуры, четко копирующей картель

Поэтому в цифровом мире нужны антимонопольные решения и поощрение конкуренции, подчеркнул Алексей Дрозд.

БЫЛ ЛИ СГОВОР

Адвокат, партнер компании Privacy Advocates Александр Партин считает, что вносить в действующее антимонопольное законодательство поправку в духе «алгоритмы ИИ не должны быть настроены на повышение цен» не нужно. Общие антимонопольные правила уже действуют и вполне применимы и в делах с цифровыми платформами, уверен он.

С точки зрения антимонопольного законодательства ситуация с RealPage довольно стандартная, обратил внимание RSpectr эксперт. Ее особенность заключается только

в использовании специального ПО для координации действий участников

Александр Партин напомнил о разнице между «соглашением» и «согласованными действиями»:

  • При соглашении заинтересованные стороны так или иначе договариваются друг с другом, например, о росте цены.
  • При согласованных действиях никто напрямую не договаривается, но все действуют, исходя из действий друг друга и взаимной заинтересованности в поднятии цен. При этом нет реального экономического обоснования роста цены, но участники рынка, понимая, что это выгодно, действуют согласованно.

В делах о картельных сговорах один из основных вопросов – как его участники обменивались информацией.

Александр Партин, партнер Privacy Advocates:

– Если в деле RealPage был картельный сговор, то ПО могло использоваться как инструмент обмена данными и отслеживания порядка соблюдения соглашения его сторонами. Скорее всего, если будет антимонопольное расследование и сговор имел место, переписка с RealPage и между арендодателями по поднятию цен будет обнаружена.

В этом случае, по сути, ПО RealPage используется как некий усовершенствованный аналог электронной почты для обмена данными и выдачи рекомендаций по поднятию цен, рассуждает эксперт.

При рассмотрении дела возникнет вопрос:

по какому алгоритму платформа рассчитывала и рекомендовала цены на аренду?

Если обнаружат признак, по которому RealPage как-то искусственно влияла на повышение цены, это будет одним из доказательств координации картеля/согласованных действий арендодателей, считает юрист.

КАК ПРОТИВОСТОЯТЬ

Истории картельных сговоров и манипулирования ценами между крупными участниками рынка происходят регулярно, напомнил глава компании Privacy Advocates, соучредитель Российской ассоциации специалистов по защите данных Алексей Мунтян.

Предотвратить ситуации с манипулированием ценами поможет автоматизация контроля, полагает он.

Алексей Мунтян, Privacy Advocates:

– Будущее за автоматизацией контроля со стороны надзорных органов, чтобы они могли подключаться к платформам и проверять, насколько корректно и в соответствии с заявленными правилами формируются цены. Также необходима информационная открытость в отношении тех алгоритмов, с помощью которых вычисляется та самая цена, на которую ориентируются массовые участники сервиса. В данном случае – у арендаторов.

Руководитель членского комитета Ассоциации интернет-разработчиков Денис Новиков считает дело RealPage «первой ласточкой».

Денис Новиков, Ассоциация интернет-разработчиков:

– У искусственного интеллекта нет совести, соответственно, он может все, чему научил его человек. При наличии доступа к данным не должно возникать проблем с тем, чтобы программа на их основе и в соответствии с заложенными алгоритмами меняла, например, цены на ту недвижимость, которой управляет.

По его мнению, необходимо отслеживать, для чего используются данные коммерческими операторами. «Как раньше в СССР были ревизоры, так же и сейчас есть необходимость в создании службы по мониторингу и проверке искусственного интеллекта», – полагает Денис Новиков.

Тимур Халудоров

Изображение: RSpectr, Freepik

Еще по теме

Каковы перспективы трансфера технологий госуправления в другие страны

Как создать популярную мобильную видеоигру с нуля

Путь, который ИТ- и ИБ-специалисты должны пройти вместе

К чему приведет новый всплеск интереса к метавселенным

Что мешает отечественным разработчикам цифровых решений

Каким должен быть современный продакт-менеджмент в мире облачных технологий

Безопасная разработка софта и как она помогает бизнесу сэкономить деньги

Как ИТ-технологии меняют логистические процессы

Какие специальности в ИИ-индустрии будут востребованы в 2024 году

Альтернативный подход к решению проблем проектирования ИТ-систем

Чего ждать в 2024 году, чек-лист самоанализа и советы по формированию культуры

Как защитить конфиденциальную информацию при работе с искусственным интеллектом

Воспитываем из ребенка будущего ИТ-специалиста

Почему иностранные государства предпочитают программное обеспечение из России

Как строительная отрасль оценивает эффективность внедренных информационных систем