Пожилой мужчина попал в психиатрическую клинику после советов ChatGPT

Пациент был госпитализирован с симптомами отравления и паранойи после того, как начал следовать рекомендациям нейросети по бессолевой диете.

Ученые из Университета Вашингтона опубликовали в журнале Annals of Internal Medicine описание необычного клинического случая. По данным исследователей, 60-летний пациент без психиатрического анамнеза был госпитализирован с симптомами паранойи и отравления после следования диетическим рекомендациям системы искусственного интеллекта.

При поступлении мужчина жаловался, что сосед пытается его отравить, и отказывался от больничной воды. Медики установили, что пациент соблюдал строгую диету и самостоятельно дистиллировал воду дома.

Позже медики выяснили, что мужчина консультировался с ChatGPT 3.5 или 4.0 о способах исключения хлорида натрия из рациона. Нейросеть предложила заменить соль бромидом, что привело к развитию бромизма — хронического отравления соединениями брома.

По данным исследователей, это первый документально подтвержденный случай, когда рекомендации искусственного интеллекта напрямую вызвали тяжелые последствия для здоровья.

Бромизм проявляется кожными высыпаниями, вялостью, нарушениями памяти и другими неврологическими расстройствами. Ученые подчеркивают необходимость предупреждать пользователей об ограничениях медицинских советов от ИИ-систем.