Исследователи уличили пользователей Midjourney в создании дезинформирующих изображений
Исследователи из Центра по борьбе с цифровой ненавистью (CCDH) выяснили, что пользователи нейронной сети Midjourney могут легко создавать расистские и конспирологические изображения. Представители некоммерческой организации поделились ранней копией своего исследования с изданием Bloomberg. В нем подробно описаны десятки примеров таких изображений, созданных Midjourney и явно нарушающих правила использования платформы.
В условиях обслуживания Midjourney отмечается, что инструмент ИИ автоматически блокирует «некоторые текстовые подсказки», которые вводят пользователи. Компания также заявила, что у нее есть 68 модераторов контента, контролирующих использование платформы. Исследователи отметили, что во многих случаях инструмент легко выполняет запросы на генерацию фейковых изображений политиков, знаменитостей и других общественных деятелей в компрометирующих сценариях.
