Исследователи обнаружили невидимые водяные знаки в текстах, сгенерированных GPT

ДАЙДЖЕСТ:

Эти метки представляют собой неразрывные пробелы Unicode, хаотично расположенные в тексте, в особенности вблизи дат и аббревиатур. Хотя они незаметны в распространенных текстовых редакторах, таких как Word и Google Docs, их можно обнаружить в редакторах кода, например, Sublime Text и VS Code.

Подчеркивается, что водяные знаки проявляются только в объемных текстах. Это может свидетельствовать о том, что OpenAI проводит испытания системы скрытой идентификации для контроля студенческих работ, что особенно актуально после недавнего открытия бесплатного доступа к ChatGPT для учащихся.

По мнению разработчиков, данный метод может временно облегчить выявление сгенерированного текста, однако его эффективность будет недолгой, так как существуют простые способы удаления скрытых символов из текста.

Ранее мы писали, что у ИИ-модели Claude есть собственный моральный кодекс. Также Microsoft внедрила ИИ в стандартное приложение Windows 11.

Автор: Дмитрий Иванов

checheninfo.ru

Добавить комментарий

Спутник Земли

Отправить комментарий