Эффект Элайзы в работе с LLM

Источник
#AI#cognitive-bias#llm#critical-thinking

Эффект Элайзы в работе с LLM

При использовании LLM для обдумывания идей существует риск попасть в ловушку «эффекта Элайзы» — приписывания машине понимания и эмпатии, которых у неё нет. Это явление было описано ещё в 60-х годах Вайценбаумом, когда люди общались с простейшим ботом-психотерапевтом. Современные LLM ещё более убедительны и могут укрепить нас в ложных убеждениях или «допридумать» за нас, списав идеи из интернета. Важно помнить, что кажущееся понимание со стороны модели — это иллюзия.

Связи

Источник: Telegram, 2025-10-29

Связанные заметки

Рационализация у LLM как у людей

#AI#llm#cognitive-bias

Ограничения Llama 3 70B в function calling

#AI#llm#limitations

LLM как слой валидации данных вместо традиционных проверок

#AI#programming#automation

Artificial Analysis как источник LLM-бенчмарков

#AI#llm#benchmarks

AI-генерированные отчёты требуют критического мышления

#AI#critical-thinking#consulting

Исследуйте больше связей

Эта заметка — часть сети из 2,369 взаимосвязанных идей. Откройте для себя неожиданные связи в интерактивном графе знаний.

Открыть граф знаний