Толерантность к риску определяет использование AI

Толерантность к риску определяет использование AI

Разные компании имеют разную толерантность к риску при использовании AI для принятия решений. Критически важно понимать природу происхождения данных, на которых обучаются алгоритмы. Пример Amazon с алгоритмом найма, смещенным в сторону мужчин, показывает, как исторические данные могут воспроизводить и усиливать существующие паттерны дискриминации.

Связи

• Понимание природы данных отличает человека от AI — Оба подчеркивают критичность понимания происхождения данных для корректных выводов
• Собственные данные повышают уверенность команды — Связаны через важность контекста происхождения данных для принятия решений
• Сильные стороны компании как источник слепых зон — Оба о том, как исторические паттерны становятся источником системных ошибок
• Позиционирование компании как работодателя через отличия от конкурентов — Кейс Amazon иллюстрирует риски игнорирования смещений при найме через AI

---

Источник: Telegram, 2019-11-12