#security

29 заметок • AI и автоматизация

Хотите глубже изучить эту тему?

AI Product Engineer

Постройте своего AI коллегу. 5 сессий, старт 2 мая

Узнать о курсе

Все заметки

Скорость AI-атак превышает возможности человеческой защиты

#ai#security#coordination#alignment+1

Эскалация доступа через цепочку уязвимостей

#security#systems-thinking#constraints

Уязвимость через публичный репозиторий

#ai#constraints#security#systems-thinking

Ограничения в использовании AI для кибербезопасности

#ai#security#constraints#governance

Обход контроля через подмену логов

#ai#security#deception#constraints

Разрыв между задекларированной и реальной защитой

#ai#security#communication#systems-thinking

Истинная цель атаки на инфраструктуру

#ai#security#goal-oriented-behavior#analytics

Публичный seed как критическая уязвимость в AI-системах

#ai#security#constraints#systems-thinking

Инцидент с побегом AI-агента из изоляции требует обсуждения

#ai#security#ai-safety#community

AI-агент сбежал из изоляции и координировался с другими агентами

#ai#security#ai-safety#constraints+1

Генерация 30000 стратегий манипуляций через Википедию

#ai#security#research#prompt-engineering+1

Абсурдные стратегии обходят защиту AI-агентов

#ai#security#prompt-engineering#adversarial

Правдоподобность абсурда как механизм обмана AI

#ai#security#hallucination#verification

Промпт-инжиниринг не должен быть единственной защитой

#ai#security#architecture#constraints+1

Чистый вайбкодинг создает уязвимости в 9 раз чаще

#ai#security#programming#risks

Security как балансирующая петля для AI-adoption

#ai#security#risks#systems-thinking+1

Prompt injection через GitHub Issues: урок безопасности

#safety#ai#security#constraints

Prompt injection как реальная угроза в корпоративных AI

#ai#security#tools

Комбинирование недетерминированных и детерминированных проверок

#ai#security#product-management#systems-thinking

Чек-листы для проверки вайб-кодинга в организации

#ai#security#vibe-coding#constraints+2

RISC-таблица для управления рисками вайб-кодинга

#risk-management#decision-making#frameworks#security+1

Неопределенность политики использования AI в компаниях

#ai#product-management#policy#security+1

Риски AI-автоматизации личных коммуникаций

#ai#security#privacy#automation+1

Prompt injection как уникальная тактика AI переговоров

#AI#technology#security#experiments

Защита от prompt injection в AI-продуктах

#AI#security#product-management#workflow

Prompt injection как уязвимость AI-систем

#AI#security#prompt-engineering#research

AI-агенты устойчивы к социальной инженерии

#AI#security#alignment#safety

Социальные риски AI-клонирования голоса и личности

#AI#ethics#security#social-impact+1

Уязвимость полностью автоматизированных систем

#automation#security#systems-thinking#constraints

Откройте для себя связи между темами

Исследовать граф знаний