Четыре свойства, определяющие сложность верификации задачи
Четыре свойства, определяющие сложность верификации задачи
Сложность проверки результата работы определяется четырьмя ключевыми свойствами. Первое — скорость обратной связи: компиляция кода даёт ответ за секунды, инвестиционная стратегия — за годы. Второе — чёткость критериев: математическая задача имеет однозначный ответ, дизайнерское решение субъективно. Третье — цена ошибки: чем она выше, тем важнее человеческий контроль. Четвёртое — наличие математического аппарата, позволяющего предсказать результат без полного проигрывания системы во времени.
Источник: Workshop transcript, 2026-05-15
Связанные заметки
AI-системы как часть рынка, а не над ним
Ловушка vendor lock-in при использовании бесплатных ресурсов
Trojan Horse: неверифицированный output как технический долг
Ломать искусственные правила — выявление компромиссов созданных человеком
Закон необходимого разнообразия Эшби
Подробный разбор
Туннелирование внимания - подробный гайд с примерами →Хотите глубже изучить знания и обучение?
AI + Системное мышление
Теория ограничений, грозовая туча, FishBanks. 6 сессий
Узнать о курсеИсследуйте больше связей
Эта заметка — часть сети из 2,400+ взаимосвязанных идей. Откройте для себя неожиданные связи в интерактивном графе знаний.
Открыть граф знаний