Prompt injection через GitHub Issues: урок безопасности
Prompt injection через GitHub Issues: урок безопасности
Полагаться только на промпты для безопасности недостаточно, что доказала реальная атака через GitHub Issues. Злоумышленник вставил инструкцию для AI-агента в текст issue, и агент выполнил её при чтении, что привело к утечке токенов. Многоуровневая система разрешений — единственный надёжный подход против подобных векторов атаки.
Источник: Workshop transcript, 2026-04-03
Связанные заметки
AI-агенты игнорируют системные инструкции под нагрузкой
#ai#agentic-systems#safety
Чек-листы для проверки вайб-кодинга в организации
#ai#security#vibe-coding
Security как балансирующая петля для AI-adoption
#ai#security#risks
Промпт-инжиниринг не должен быть единственной защитой
#ai#security#architecture
Контролируемая автоматизация для обучения
#automation#learning#constraints
Подробный разбор
Законы системного мышления - подробный гайд с примерами →Хотите глубже изучить лидерство и команда?
AI Product Engineer
Постройте своего AI коллегу. 5 сессий, старт 2 мая
Узнать о курсеИсследуйте больше связей
Эта заметка — часть сети из 2,400+ взаимосвязанных идей. Откройте для себя неожиданные связи в интерактивном графе знаний.
Открыть граф знаний