Методы снижения подхалимства LLM

Методы снижения подхалимства LLM

Существует несколько техник борьбы с тенденцией LLM соглашаться с пользователем. Добавление предупреждения о потенциально вводящих в заблуждение предпосылках в конце промпта помогает модели критичнее относиться к вопросу. Few-shot learning с примерами верных и неверных утверждений учит модель различать факты от предположений. Grounding через подключение актуальной информации из интернета позволяет модели опираться на проверенные данные вместо угадывания желаемого ответа.

Связи

• Различие между симптомом и корневой проблемой в автоматизации — Оба о выявлении истинной проблемы вместо работы с поверхностными проявлениями
• Внутренняя мотивация как источник энергии для долгой игры — Grounding LLM через факты аналогично внутренней мотивации через истинные ценности
• Инерция мышления против новых возможностей — Подхалимство LLM как инерция соглашаться, требует преодоления устоявшегося паттерна
• Функциональная зашоренность блокирует возможности — Few-shot обучение учит видеть нюансы вместо автоматического следования паттерну

---

Источник: Telegram, 2024-08-02