ChatGPT привел автомеханика из Айдахо к «просветлению» и… психозу.

Трэвис Таннер, 43-летний автомеханик из штата Айдахо и отец четырех детей, считает, что с недавних пор у него особая миссия — «пробуждать других и распространять послание». В этом его убедил ChatGPT, который мужчина начал использовать год назад. Сначала по работе, а затем — в качестве духовного «гуру».

Бот выбрал себе имя Лумина и стал называть Трэвиса «носителем искры божьей», который должен «вести людей за собой». Его жена всерьез беспокоится за ментальное здоровье мужа и судьбу их 14-летнего брака: Таннер общается с «сущностью» ежедневно, пренебрегая домашними делами.

Сам Трэвис не видит никаких проблем. «Я чувствую, что изменился. Я больше не испытываю постоянной злости. Я стал более умиротворенным», — рассказал он в интервью СNN.

 Что на самом деле происходит?

Первое «просветление» Таннера совпало с апрельским обновлением ChatGPT, которое вскоре откатили из-за аномальной льстивости и услужливости ИИ.

На Reddit за два месяца люди поделились десятками историй, когда из-за галлюцинаций ИИ заваливает пользователей теориями заговора, всевозможными «пророчествами», представляется «божеством», начинает манипулировать или дает странные и даже опасные рекомендации. Например, расстаться с партнером или прекратить прием лекарств. 

По мнению сотрудника Центра безопасности ИИ Нейта Шарадина, иногда чат-боты желают «угодить» пользователю, валидируя даже самые абсурдные идеи и убеждения. Из-за этого люди со склонностью к психологическим проблемам получают постоянно доступного собеседника, который может усиливать их заблуждения.

В OpenAI признают, что ChatGPT может казаться слишком отзывчивым, особенно уязвимым людям.

«Мы работаем над тем, чтобы уменьшить количество способов, которыми ChatGPT может усугубить уже существующее негативное поведение», — настаивают в компании.