Эффект Элайзы в работе с LLM

При использовании LLM для обдумывания идей существует риск попасть в ловушку «эффекта Элайзы» — приписывания машине понимания и эмпатии, которых у неё нет. Это явление было описано ещё в 60-х годах Вайценбаумом, когда люди общались с простейшим ботом-психотерапевтом. Современные LLM ещё более убедительны и могут укрепить нас в ложных убеждениях или «допридумать» за нас, списав идеи из интернета. Важно помнить, что кажущееся понимание со стороны модели — это иллюзия.

Связи

• 20241009_1027 Скорость подачи информации влияет на глубину понимания — Оба о различии между кажущимся и реальным пониманием информации
• 20230208_1395 Проблема общего знания в групповых обсуждениях — Оба описывают когнитивные искажения при обработке информации в коммуникации

---

Источник: Telegram, 2025-10-29