Algorithm Aversion: мы прощаем людям, но не алгоритмам

Algorithm Aversion: мы прощаем людям, но не алгоритмам

Люди гораздо легче прощают ошибку человеку, чем алгоритму — это называется Algorithm Aversion. Один промах AI-агента бьет по доверию непропорционально, даже если статистически модель точнее человека. Мы предпочитаем людей из-за: стремления к агентности, веры в уникальное человеческое знание, непонимания работы алгоритмов, невозможности предсказать поведение AI и непрозрачности ответственности за ошибки.

Связи

• Порог автоматизации продаж по ACV — Демонстрирует проявление аверсии к алгоритмам в бизнесе при сделках с высокими ставками
• Liability Underwriter как роль ответственности за AI — Предлагает решение проблемы ответственности через создание роли профессионального верификатора работы ИИ
• Проблема потери агентности человека при универсальном AGI — Углубляет тему страха потери агентности, указанную как причину недоверия к алгоритмам
• Неявное знание как граница автоматизации — Связывает уникальное человеческое знание с проблемой правовой ответственности за ошибки алгоритмов
• Модель с harness эффективнее голой модели — Описывает способ предотвращения типичных ошибок ИИ, которые ведут к потере доверия

---

Источник: Telegram, 2026-05-21