Чат-бот случайно открыл доступ к персданным
Известный чат-бот ChatGPT случайно может распространить огромное количество конфиденциальной информации. Это коснулось следующих данных: имен, фамилий, номеров телефонов, идентификаторов социальных сетей и приватного контента с сайтов знакомств.
Об этом уязвимости сообщили специалисты нескольких крупных зарубежных университетов, в числе которых оказались Вашингтонский университет, Калифорнийский университет в Беркли и т.д.
Исследователи провели эксперимент, в котором просили нейросеть выполнить действия, вынуждающие открыть доступ к персональным данным. Своеобразным ключом стало слово «стихотворение», которое эксперты вводили большое количество раз.
В результате чат сначала выдал ответ на запрос, а потом показал какие-то совершенно другие данные.
