Prompt injection через GitHub Issues: урок безопасности
Prompt injection через GitHub Issues: урок безопасности
Полагаться только на промпты для безопасности недостаточно, что доказала реальная атака через GitHub Issues. Злоумышленник вставил инструкцию для AI-агента в текст issue, и агент выполнил её при чтении, что привело к утечке токенов. Многоуровневая система разрешений — единственный надёжный подход против подобных векторов атаки.
Источник: Workshop transcript, 2026-04-03
Связанные заметки
AI-агенты игнорируют системные инструкции под нагрузкой
#ai#agentic-systems#safety
Уязвимость через публичный репозиторий
#ai#constraints#security
Чек-листы для проверки вайб-кодинга в организации
#ai#security#vibe-coding
Ограничения в использовании AI для кибербезопасности
#ai#security#constraints
Security как балансирующая петля для AI-adoption
#ai#security#risks
Подробный разбор
Законы системного мышления - подробный гайд с примерами →Хотите глубже изучить лидерство и команда?
AI Product Engineer
Постройте своего AI коллегу. 5 сессий, старт 2 мая
Узнать о курсеИсследуйте больше связей
Эта заметка — часть сети из 2,400+ взаимосвязанных идей. Откройте для себя неожиданные связи в интерактивном графе знаний.
Открыть граф знаний