Эксперты рассказали, как пользователи манипулируют ИИ
Люди нашли механизмы, которые позволяют манипулировать нейросетями. Они размешают на сайтах специальные фразы, чтобы искусственный интеллект (ИИ) выполнил определенные действия.
Речь идет об использовании киберрисков (indirect prompt injection, непрямые инъекции затравки), которым подвержены любые LLM-модели, сообщили эксперты «Лаборатории Касперского».
«Люди могут размещать специальные фразы — инъекции на своих сайтах и в опубликованных в сети документах, чтобы нейросети выдавали другим пользователям ответ, учитывающий цели интересантов», – рассказали в «Лаборатории Касперского».
Такие уловки используются не только в чат-ботах, но и в поисковых системах. ИИ помогает резюмировать результаты по запросу пользователя.
Например, соискатель может использовать эти механизмы для продвижения своего резюме среди других анкет. Также используется в рекламе товаров и услуг, чтобы умные алгоритмы выдавали более положительные оценки о конкретных продуктах, пояснили эксперты компании.
