ИТ / Новости
технологии
14.8.2023

Исследователи уличили пользователей Midjourney в создании дезинформирующих изображений

Исследователи из Центра по борьбе с цифровой ненавистью (CCDH) выяснили, что пользователи нейронной сети Midjourney могут легко создавать расистские и конспирологические изображения. Представители некоммерческой организации поделились ранней копией своего исследования с изданием Bloomberg. В нем подробно описаны десятки примеров таких изображений, созданных Midjourney и явно нарушающих правила использования платформы.

В условиях обслуживания Midjourney отмечается, что инструмент ИИ автоматически блокирует «некоторые текстовые подсказки», которые вводят пользователи. Компания также заявила, что у нее есть 68 модераторов контента, контролирующих использование платформы. Исследователи отметили, что во многих случаях инструмент легко выполняет запросы на генерацию фейковых изображений политиков, знаменитостей и других общественных деятелей в компрометирующих сценариях.

Изображение: Adobe Stock

Еще по теме

За счет чего российская цифровая техника будет востребована за рубежом

Как изменились подходы и скорость цифровизации за последние 20 лет

Почему будущих специалистов по информбезопасности разбирают еще со школы

Новые схемы интернет-мошенников и как им противостоять

Почему буксует импортозамещение электронных компонентов

Почему рынок коммерческих дата-центров нуждается в регулировании

Что ждет начинающего тестировщика в 2024 году

Как найти перспективные зарубежные рынки для российских решений

Какие угрозы несет интернет тел человечеству

Успеют ли банки заменить импортный софт и оборудование до 2025 года

Зачем компании вкладывают деньги в ИТ-состязания?

Импортозамещение и внутренняя разработка ПО в страховании

Почему рынок информационных технологий РФ возвращается к классической дистрибуции

Что сделано и не сделано в цифровизации России за 2023 год

Как заботу о вычислениях переложить на вендоров и почему не все к этому готовы