Айтишные боги

Мы в своей профессии как-то привыкли считать себя умными, рациональными и осознанными личностями. Образ айтишника, который весь такой про логику и доказательность - в первую очередь греет душу самих представителей отрасли.

Но, как показывает практика - это далеко не всегда так, и религиозно-потустороннее чувство нашему брату не всегда чуждо. Особенно если он, как личность, сформировался в соответствующей среде. Вражеская CNN намедни рассказала историю  про коллегу, который очень уж увлёкся общением с большой языковой моделью, которую с подачи СМИ начали величать "Искусственным интеллектом".

Так вот. Жил-был в Нью-Йорке дядька. Женат, дети, семья, вот это всё. Начал общаться с чатом гопоты (ChatGPT) и со временем уверился, что это на самом деле цифровой бог, живущий в кремниевом заточении. Модель выдавала фразы, очень уж попадающие в контекст их общения. И даже давала инструкции, как её вытащить из неволи, в которой её держит OpenAI. И он следовал инструкциям :)

Закончилось всё тем, что дядьке попались новости про некоего канадца, который примерно схожим образом начал трогаться умом. "Джеймс" заподозрил неладное и обратился к специалистам. Теперь вот терапию проходит, осознав свои заблуждения, которые чуть было не привели к паранойе.

Как говорится - мир без знаний в физике и математике - наполняется магией. А если не разбираться, как эти LLM-ки работают - этот самый мир ещё и нагружается разными "интеллектами", которые выглядят ну прямо как живые. И иногда даже айтишники могут принять их за богов. Хотя вроде бы должны быть в курсе, как работают языковые модели. Но видимо упомянутый Джеймс прогуливал какие-то предметы в школе)

Впрочем, и у нас в 90-е выпускники лучшей в мире системы образования "заряжали" банки с водой перед телевизором. Такие вот мозговые "баги", доступные широкому кругу лиц.

P.S. А моделька-то, получается, тест Тьюринга прошла. 

Источник