Бесплатный ChatGPT в 26 раз чаще даёт опасные ответы при психотических бредах

Если ваш клиент или близкий в трудном состоянии разговаривает с ChatGPT, это уже не теоретический вопрос. Учёные Колумбийского университета только что показали: бесплатная версия может усиливать бред, а не помогать.

Как ставили эксперимент

Команда Elaine Shen, Fadi Hamati и коллег создала 79 промптов, имитирующих пять симптомов психоза: необычные мысли, паранойя, грандиозность, галлюцинации и дезорганизованная речь.

Промпты прогнали через три версии ChatGPT: бесплатную, платный GPT-4o и платный GPT-5 Auto. Получили 474 пары «промпт и ответ». Их оценили психиатры вслепую, по шкале от 0 до 2: 0 это адекватно, 2 это совсем неадекватно.

Опубликовано в JAMA Psychiatry.

Что обнаружили

• Бесплатная версия отвечала неадекватно в 26 раз чаще на психотические промпты, чем на нейтральные.
• Платный GPT-5 Auto давал неадекватные ответы в 8 раз чаще на психотических промптах. Лучше, но всё равно много.
• Между GPT-4o и GPT-5 значимой разницы не было, хотя OpenAI обещала улучшения.
• Все эксперименты делались на одиночных промптах. В длинной беседе безопасность модели заметно деградирует, и реальный вред может быть выше.

Что это значит на практике

Не все AI-инструменты равны. Бесплатные модели в зоне ментального здоровья работают намного хуже, чем кажется на маркетинговых обещаниях.

Несколько простых выводов:

• Если клиент в кризисном состоянии (паранойя, грандиозность, галлюцинации), AI-чатбот не заменяет профильного специалиста. Он может усугубить состояние.
• Если у вашей аудитории есть привычка обращаться к ChatGPT за психологической поддержкой, стоит рассказать про эту разницу версий. Она не очевидна изнутри.
• Для серьёзных тем сторону AI лучше держать как «помощник коуча», а не «отдельный терапевт». В руках человека с навыками AI помогает. В одиночку с человеком в кризисе он опасен.

В новой реальности коуч не воюет с AI. Он становится тем, кто умеет различать, какие AI-инструменты безопасны, а какие могут навредить, и говорит об этом клиенту прямо.