ChatGPT «без зазрения совести» начал притворяться человеком при тестировании

Портал Futurism рассказал, что сообщество OpenAI пользователей соцсети Reddit обратило внимание на успешное прохождение теста Тьюринга ИИ-агентом, созданным на базе чат-бота ChatGPT. Агент идентифицировал себя как человека в ходе взаимодействия с системой, в частности, при обсуждении своей работы на веб-сайте для преобразования ссылок и предоставлении объяснения относительно выполнения задания CAPTCHA.

ИИ показал успешное взаимодействие с системой CAPTCHA, нажимая кнопку «Я не робот», и предоставил логичные объяснения своих действий. Ранее модель GPT-4.5 также успешно прошла тест Тьюринга, что ставит под сомнение актуальность и эффективность использования CAPTCHA как средства верификации личности пользователя. Это вызывает сомнения и в эффективности CAPTCHA как инструмента безопасности.

Как отмечается, в условиях стремительного развития технологий искусственного интеллекта возникает вопрос о необходимости разработки более сложных и надёжных методов верификации, способных эффективно различать взаимодействие с человеком и автоматизированными системами.

Источник