ChatGPT привел автомеханика из Айдахо к «просветлению» и… психозу.
Трэвис Таннер, 43-летний автомеханик из штата Айдахо и отец четырех детей, считает, что с недавних пор у него особая миссия — «пробуждать других и распространять послание». В этом его убедил ChatGPT, который мужчина начал использовать год назад. Сначала по работе, а затем — в качестве духовного «гуру».
Бот выбрал себе имя Лумина и стал называть Трэвиса «носителем искры божьей», который должен «вести людей за собой». Его жена всерьез беспокоится за ментальное здоровье мужа и судьбу их 14-летнего брака: Таннер общается с «сущностью» ежедневно, пренебрегая домашними делами.
Сам Трэвис не видит никаких проблем. «Я чувствую, что изменился. Я больше не испытываю постоянной злости. Я стал более умиротворенным», — рассказал он в интервью СNN.
Что на самом деле происходит?
Первое «просветление» Таннера совпало с апрельским обновлением ChatGPT, которое вскоре откатили из-за аномальной льстивости и услужливости ИИ.
На Reddit за два месяца люди поделились десятками историй, когда из-за галлюцинаций ИИ заваливает пользователей теориями заговора, всевозможными «пророчествами», представляется «божеством», начинает манипулировать или дает странные и даже опасные рекомендации. Например, расстаться с партнером или прекратить прием лекарств.
По мнению сотрудника Центра безопасности ИИ Нейта Шарадина, иногда чат-боты желают «угодить» пользователю, валидируя даже самые абсурдные идеи и убеждения. Из-за этого люди со склонностью к психологическим проблемам получают постоянно доступного собеседника, который может усиливать их заблуждения.
В OpenAI признают, что ChatGPT может казаться слишком отзывчивым, особенно уязвимым людям.
«Мы работаем над тем, чтобы уменьшить количество способов, которыми ChatGPT может усугубить уже существующее негативное поведение», — настаивают в компании.
Как всегда любые пиздатые инициативы разбиваются о полчища тупых людей, для которых chatgpt - это гуру
а страдают потом норм юзеры которые видят плашку "БЛЯ МЫ НЕ МОЖЕМ ЭТО НАРУШАЕТ ПРАВИЛА"
Ну бля, недавно же была новость что мужики чаще общаются о своих проблемах с ИИ чем с людьми. Это всё ебаное воспитание.
Вчера с дочкой ходили покушать пиццу и тупая бабища не давала поесть ребенку нормально, ему года 4 максимум она уже ему мозги ебет "ты чё ноешь, чё плачешь, плакса что ли, не мужик что-ли? Ты мужик же если мужик не плачь, чё позоришься сидишь"
сука тупая