Метрики AI-использования искажают поведение сотрудников

Метрики AI-использования искажают поведение сотрудников

Когда Amazon внедрил KPI на использование AI (80% разработчиков должны использовать AI еженедельно) и создал видимые лидерборды по потреблению токенов, разработчики начали оптимизировать метрику вместо реальной пользы. Они запускали AI-агентов на бессмысленных задачах только для попадания в топ («tokenmaxxing»). Это классическая иллюстрация закона Гудхарта: когда количественный показатель становится целью, он перестаёт быть хорошей метрикой.

Связи

• Стимулы определяют поведение сильнее заявлений — Раскрывает роль неформальных стимулов в кейсе Amazon, которые оказались сильнее официальных заявлений.
• Закон Кэмпбелла о сопротивлении метрикам — Социологический аналог закона Гудхарта, описывающий сознательную адаптацию людей под систему оценки.
• Закон Гудхарта и разрушение метрик — Теоретический фундамент: само измерение неизбежно искажает систему и делает показатель бесполезным.
• Парные метрики по Энди Гроуву — Предлагает управленческое решение: балансировка количественных показателей использования AI качественными контр-метриками.
• Tokenmaxxing: рост затрат токенов компенсирует падение их цены — Связывает термин «tokenmaxxing» из кейса Amazon с экономическими и техническими стратегиями использования AI.

---

Источник: Telegram, 2026-05-27