Безопасность через пермишены и human-in-the-loop

Безопасность через пермишены и human-in-the-loop

AI-агенты безопасны, когда их права строго ограничены: read-only доступ к продакшену, sandbox для экспериментов, обязательное подтверждение человеком для любых операций записи. Для небольших команд допустимо использование облачных AI-сервисов с отключённым обучением на данных. Критичные случаи решаются через self-hosted открытые модели.

Связи

• Два подхода к контролю AI-агентов: YOLO vs HITL — Обосновывает разделение прав через классификацию действий агента на обратимые и необратимые.
• Компромисс стабильности и потерь в B2B технологиях — Формулирует критерии выбора уровня контроля в зависимости от размера возможной потери.
• Error Recovery как критический компонент AI-агентов — Объясняет, как механизмы проверки предотвращают накопление критических ошибок восприятия реальности.
• Батчинг через разделение чтения и записи — Демонстрирует архитектурный принцип разделения потоков чтения и записи для управления процессами.

---

Источник: Workshop transcript, 2026-06-12