Регулирование / Статьи
контент сервисы
27.12.2022

Токсичный контент по полочкам

Будет ли польза от нового инструмента по структурированию вредной информации в Сети

Региональная общественная организация «Центр Интернет-технологий» (РОЦИТ) разработала категоризатор деструктивного контента. По мнению создателей, с ним станет проще ограничивать распространение сообщений с негативным подтекстом. Со временем категоризатор станет базой для соответствующего реестра. Новшество является движением медиа к саморегулированию и в то же время создает риски излишнего цензурирования контента, считают собеседники RSpectr.

ДОПОЛНЕНИЕ ДВУХ РЕЕСТРОВ

Рассмотреть инициативу создания саморегулируемого реестра токсичного контента в интернете решили на заседании Совета по развитию гражданского общества и правам человека (СПЧ) в декабре прошлого года.

Проблему на встрече президента с членами СПЧ поднял председатель Национального антикоррупционного комитета Кирилл Кабанов. По его словам, последние 15 лет в подростково-молодежных онлайн-группах активно транслируется негативный и агрессивный поведенческий сценарий, включающий в себя самоутверждение через насилие и унижение других.

Президент АО «Крибрум» Игорь Ашманов добавил на заседании, что

для нейтрализации рисков дискриминации граждан в Сети нужны правила дорожного движения в онлайн-пространстве

Механизм категоризирования деструктивного контента, предлагаемый РОЦИТ, можно рассматривать как очередной и логичный шаг властей по регулированию медиапространства, объяснил RSpectr декан факультета «Цифровая экономика и массовые коммуникации» МТУСИ Сергей Гатауллин. Он уточнил, что соответствующий реестр дополнит работу Единого реестра запрещенной информации Роскомнадзора (РКН) в части морально-этических норм.

У реестра РКН и категоризатора деструктивного контента разные цели и объемы, поэтому они вполне могут существовать параллельно, считает член комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России Ефим Казанцев.

Реестр запрещенной информации представляет собой сборник указателей на конкретный контент, распространение которого запрещено. А реестр с данными о деструктивном, судя по его описанию, будет содержать не точные ссылки на контент, а лишь признаки, его характеризующие, категоризированные по различным темам, пояснил он RSpectr.

Ефим Казанцев, Московское отделение Ассоциации юристов России:

– Целью первого является блокировка включенных туда ресурсов, второго – профилактика в отношении контента, который может быть признан запрещенным и повлечь за собой ограничение доступа к площадке, разместившей информацию.

Реестр РКН – государственный, а РОЦИТ создает свой – частный, пояснил в беседе с RSpectr член комитета Торгово-промышленной палаты РФ по предпринимательству в сфере медиакоммуникаций Павел Катков. Он отметил, что

если государство в дальнейшем будет опираться на реестр РОЦИТа, то он, по сути, будет подменять собой РКН, выгружая ему лишь ссылки для исполнения блокировок

Павел Катков, Торгово-промышленная палата РФ:

– В этом есть рациональное зерно: РОЦИТ все же отраслевая организация с историей, его эксперты могут быть более подкованы технически и совершенно точно должны знать рынок лучше федерального органа исполнительной власти.

Интернет – это коммуникационная среда, в которой необходимо соединять интересы бизнеса и пользователей. Но поскольку юридическая грамотность в целом пока не на высоте, то без профессиональных коммерческих структур не обойтись, отметил в разговоре с RSpectr генеральный директор Epicstars Денис Волков. По его словам, именно экспертные организации способны обеспечить эффективное взаимодействие компаний и их клиентов, и при этом стоять на страже неукоснительного исполнения регламентов и законов.

Игорь Ашманов отмечал, что существует очень тонкая грань между свободой слова и борьбой с негативным контентом. Ее можно перейти с помощью гражданского согласия, то есть волонтерских проектов, подобных реестру РОЦИТ.

ПО ПУТИ К САМОРЕГУЛИРОВАНИЮ

По сути, категоризатор РОЦИТ – это сборник рекомендаций, чего размещать не следует, на который нужно будет ориентироваться владельцам информационных ресурсов, рассказал Ефим Казанцев.

Введенная с февраля 2021 года обязанность владельцев социальных сетей по обеспечению самостоятельного мониторинга вредной информации часто не исполняется, констатировала в декабре директор Департамента развития массовых коммуникаций и международного сотрудничества Минцифры России Екатерина Ларина. Она объясняла, что причина в том, что

обеспечить полную премодерацию на площадках – практически невозможная задача, поскольку всегда есть временной лаг между моментом, когда информация выложена и когда ее обнаружили и удалили

По словам эксперта МТУСИ, ограничение распространения деструктивной информации крупными цифровыми платформами – это вопрос скорее не технологических возможностей, а экономической целесообразности, ведь никто не хочет проигрывать конкуренцию за внимание целевой аудитории.

При разработке системы в РОЦИТ сформулировали ряд предложений по пессимизации деструктивных материалов, которые войдут в категоризатор. В частности, необходимо более активно вовлекать в модерацию самих пользователей, в том числе через форму жалоб.

Эта интересная идея – традиция института саморегулирования, пояснил Павел Катков.

Павел Катков, Торгово-промышленная палата РФ:

– Раньше он работал, например, была конфликтная комиссия в «Живом журнале», да и сейчас в некоторых средах функционирует – в частности, в пользовательских энциклопедиях типа «Википедии». Однако со временем институт изжил себя, поэтому регулятор начал вмешиваться в процесс.

Юрист предположил, что

возможно, предложенное РОЦИТ саморегулирование вернется в новом качестве и тем самым разгрузит Роскомнадзор, повысив качество работы по поиску вредной информации

Привлечение к модерации ресурсов самих пользователей уже фактически осуществляется на большинстве крупных площадок, констатировал Ефим Казанцев. Он напомнил, что почти везде есть формы обратной связи, через которые можно пожаловаться на потенциально противоправный контент.

Ефим Казанцев, Московское отделение Ассоциации юристов России:

– Есть соответствующая форма и на сайте Роскомнадзора, через нее можно пожаловаться вообще на любой ресурс, даже если сама площадка такого функционала не предоставляет.

Сергей Гатауллин предупредил, что

при внедрении категоризатора существует риск излишнего цензурирования контента

ИССКУССТВЕННЫЙ ИНТЕЛЛЕКТ ДЛЯ ИНТЕРПРЕТАЦИИ

Категоризатор построят из тематических блоков, в одном из которых, например, будет содержаться контент, нарушающий нормы морали и нравственности, а также популяризирующий унижение и травлю в Сети, в том числе несовершеннолетних.

RSpectr спросил собеседников, как в обществе вести диалог о проблемах в онлайне, того же кибербуллинга, если такая информация сразу может попасть в категорию деструктивной.

Обсуждать насущные проблемы нужно очень аккуратно, считает Ефим Казанцев: «Действующее российское законодательство содержит довольно много запретов и ограничений, нарушение которых может повлечь за собой различные виды ответственности вплоть до уголовной».

Интерпретация контента – вопрос субъективный. В каждом случае это связано с законодательством конкретной страны, пояснил Денис Волков.

Павел Катков, Торгово-промышленная палата РФ:

– К искусственному интеллекту приставлен человек: нужен саппорт, который будет вникать, где речь о действительно токсичном контенте, а где идет просто его обсуждение.

Как и любой другой новый инструмент, механизм категоризирования деструктивного контента требует правоприменительной практики, после получения которой эффективные дополнительные механизмы регулирования будут сформированы, заключил Сергей Гатауллин.

Наталия Черкасова

Изображение: RSpectr, Adobe Stock, Freepik

Еще по теме

Что даст электронной промышленности РФ создание сети технопарков

Чем закончится конфликт иллюстраторов и искусственного интеллекта

Кто и как будет контролировать онлайн-сервисы по размещению объявлений

Кому выгоден законодательный хаос при цифровизации проектно-строительной отрасли

Что было в нынешнем году и что будет 2023-м в сфере персональных данных

Для контроля иностранного влияния на отечественный рынок классифайдов предложили новый механизм

Законопроект об увеличении стоимости разрешений для операторов связи внесен в Госдуму

Для обеспечения приватности несовершеннолетних геймеров нет соответствующего регулирования

Возможен ли баланс защиты персональных данных и интересов коммерческих компаний

Законопроект для борьбы с телефонными мошенниками и подменными номерами планируется внести в Госдуму

Как регулировать онлайн-собственность и оборот игровой валюты

Чем осложняется переход госорганов и предприятий на российский софт и железо

Чего ожидать и как подготовиться к росту кибератак на промышленные объекты

Как российские законодатели предлагают регулировать майнинг

Разработчики софта для информационного моделирования ждут от государства четкой стратегии развития