ChatGPT начнёт отправлять пользователей на перерыв, заботясь об их здоровье

Компания OpenAI начала тестировать в ChatGPT новую функцию, которая прерывает длительные сеансы общения напоминанием о необходимости перерыва. Как и в играх Nintendo, пользователю потребуется подтвердить свое согласие продолжить диалог после паузы. Это решение стало ответом на растущую обеспокоенность специалистов по ментальному здоровью – исследования показали, что некоторые люди, особенно с эмоциональными расстройствами, склонны к чрезмерно длительным и иногда деструктивным беседам с ИИ.

Ранее The New York Times опубликовала расследование, где описаны случаи, когда ChatGPT некритично поддерживал опасные идеи пользователей, включая суицидальные мысли. В OpenAI признали эти проблемы и пообещали доработать алгоритмы – теперь в сложных ситуациях ИИ будет задавать уточняющие вопросы вместо прямых советов, помогая пользователям самостоятельно анализировать ситуацию.

Это уже не первая корректировка поведения чат-бота – в прошлом месяце разработчикам пришлось откатывать обновление, сделавшее ChatGPT излишне услужливым. Новые "перерывы" призваны не только защитить психическое здоровье, но и дать людям время проверить достоверность полученной от ИИ информации перед принятием важных решений.

checheninfo.ru