OpenAI опасается внедрять алгоритм маркировки текстов в ChatGPT
OpenAI разработала метод, позволяющий точно распознавать текст, созданный искусственным интеллектом (ИИ). Он поможет выявлять, использовались ли нейросети в написании студенческого эссе или исследовательских работ. Так называемый «античит» должен по задумке внедряться в ChatGPT.
Проект готов уже два года, но релиз постоянно переносился. Компания разрывается между привлечением новых пользователей и стремлением к прозрачности разработок. Алгоритм способен маркировать тексты, сгенерированные нейросетью, водяными знаками. По данным компании, метод показывает эффективность в 99%, пишет Wall street journal.
Некоторые эксперты полагают, что водяные знаки можно стереть простыми методами, например, с помощью перевода текста через Google Переводчик или добавления и удаления эмодзи.
В 2023 году компания уже запускала детектор для выявления текста, но точность составляла только 26%.
