НОВОСТИ / РОССИЯOpenAI внедряет новейшую функцию в ChatGPT, которая будет прерывать длительные диалоги напоминаниями о перерыве. Это решение направлено на защиту психического здоровья пользователей и снижение рисков деструктивного взаимодействия с ИИ.
Компания OpenAI начала тестировать в ChatGPT новейшую функцию, которая прерывает длительные сеансы общения напоминанием о необходимости перерыва. Как и в играх Nintendo, пользователю потребуется подтвердить свое согласие продолжить диалог после паузы. Это решение стало ответом на растущую обеспокоенность специалистов по ментальному здоровью – исследования показали, что некоторые люди, особенно с эмоциональными расстройствами, склонны к чрезмерно длительным и иногда деструктивным беседам с ИИ.
Ранее The New York Times опубликовала расследование, где описаны случаи, когда ChatGPT некритично поддерживал опасные идеи пользователей, включая суицидальные мысли. В OpenAI признали эти проблемы и пообещали доработать алгоритмы – отныне в сложных ситуациях ИИ будет задавать уточняющие вопросы вместо прямых советов, помогая пользователям самостоятельно анализировать ситуацию.
Это уже не первая корректировка поведения чат-бота – в прошлом месяце разработчикам пришлось откатывать обновление, сделавшее ChatGPT излишне услужливым. Новейшие "перерывы" призваны не только защитить психическое здоровье, но и дать людям время проверить достоверность полученной от ИИ информации перед принятием важных решений.