Человек в цикле обновления знаний агента

Человек в цикле обновления знаний агента

Знания AI-агента должны обновляться на виду у человека, а не автономно. Раз в неделю агент анализирует опыт и предлагает лернинги на ревью, раз в месяц часть переносится в системный промпт. Без human-in-the-loop «месс наступит очень быстро» — знания устаревают и могут конфликтовать. Это ключевой принцип поддержания качества работы агента.

Связи

• Двухуровневая система обучения AI-агента — Описывает детальный механизм разделения сырых инсайтов и подтвержденных человеком знаний для агента.
• Human-in-the-loop как инструмент адаптации AI — Демонстрирует практический пример автоматического обновления промпта на основе правок человека.
• Error Recovery как критический компонент AI-агентов — Объясняет риск накопления ошибок («месс»), который предотвращается через регулярный человеческий аудит.
• Этические подходы к AI делятся на YOLO и HITL — Классифицирует описанный подход как стратегический выбор в пользу контролируемой архитектуры системы.

---

Источник: Workshop transcript, 2026-06-12