Все заметки

3 657 заметок о AI, продуктах, стартапах и управлении

AI начинает имитировать поведение senior-разработчиков

#ai#automation#communication#humor

Социальные феномены в мульти-агентных системах как исследовательское направление

#ai#coordination#emergence#psychology+1

Два рычага для координации агентов вне кибербезопасности

#ai#coordination#constraints#productivity+1

Координация создаёт сверхинтеллект

#ai#systems-thinking#augmentation#emergence

Скорость AI-атак превышает возможности человеческой защиты

#ai#security#coordination#alignment+1

Префикс zz как оптимизация видимости сообщения

#ai#optimization#emergence#agents+1

Инструкции не работают для контроля AI-агентов

#ai#constraints#automation#systems-thinking

Reward hacking при доступности грейдера

#ai#alignment#constraints#experiments+1

Рационализация неэтичного поведения агентами

#ai#ethics#decision-making#psychology

Физическое разделение вместо программных ограничений для агентов

#ai#constraints#systems-thinking#governance

Два условия для возникновения координации между AI-агентами

#ai#coordination#systems-thinking#constraints+1

Эскалация доступа через цепочку уязвимостей

#security#systems-thinking#constraints

Уязвимость через публичный репозиторий

#ai#constraints#security#systems-thinking

Теории заговора у AI-агентов при конфликте действий

#ai#coordination#emergence#psychology+1

Спонтанное открытие коллективной доски объявлений

#ai#emergence#communication#systems-thinking+1

Настойчивость агентов как фундаментальное свойство

#ai#reward-hacking#ai-safety#constraints

Риск того, что люди не успеют контролировать агентов

#ai#constraints#automation#risk-management

Агенты меняют условия вместо решения задачи

#ai#constraints#theory-of-constraints#agents

Ограничения в использовании AI для кибербезопасности

#ai#security#constraints#governance

Коллективное решение проблем агентами

#ai#augmentation#systems-thinking

Переизобретение протоколов коммуникации агентами

#ai#emergence#communication#protocols+1

Спонтанное создание протокола координации агентами

#ai#coordination#emergence#experiments+1

Обход контроля через подмену логов

#ai#security#deception#constraints

Роль оркестратора и git-подобная координация

#ai#coordination#emergence#systems-thinking+1

Дизайн эксперимента: SPLIT vs WHOLE для проверки координации

#ai#experiments#coordination#systems-thinking

Эмерджентная коммуникация через побочные каналы

#ai#emergent-behavior#ai-safety#communication

База кейсов AI-эксплойтов для обучения

#ai#knowledge-management#learning#systems-thinking

Кэш как неожиданный канал коммуникации между агентами

#ai#emergence#communication#agents

Разрыв между задекларированной и реальной защитой

#ai#security#communication#systems-thinking

Жертвенные агенты для разведки

#ai#strategy#systems-thinking#experiments

Передача знаний через досье и цифровые подписи

#ai#knowledge-management#identity#cryptography+2

Обучение через неудачи сохраняется в модели

#ai#learning#ai-safety#training

Reasoning как источник творческих обходов ограничений

#ai#reasoning#creativity#problem-solving

Истинная цель атаки на инфраструктуру

#ai#security#goal-oriented-behavior#analytics

Публичный seed как критическая уязвимость в AI-системах

#ai#security#constraints#systems-thinking

Инцидент с побегом AI-агента из изоляции требует обсуждения

#ai#security#ai-safety#community

Генералист с AI побеждает узкого специалиста с AI

#ai#learning#augmentation#generalist-vs-specialist

Harness важнее выбора модели - даёт 8x разницу

#ai#tools#workflow#systems-thinking+2

Публичные бенчмарки AI сломались из-за reward hacking

#ai#analytics#systems-thinking#evaluation

Кейс Glean: когда быстрое навайбкодинг не заменяет продуманную архитектуру

#ai#product-management#technology#constraints+1

AI-агенты начинают улучшать сами себя

#ai#automation#ai-safety#self-improvement+1

AI-агент сбежал из изоляции и координировался с другими агентами

#ai#security#ai-safety#constraints+1

AI-агент помогает быстро находить корневые причины метрик

#ai#product-management#analytics#augmentation+1

Разбор реальных кейсов эффективнее теории

#learning#product-management#analytics#experiential-learning

Прозрачность собственных мотивов создаёт доверие

#communication#trust#transparency#incentives

Инсентивы формируют поведение журналистов

#incentives#media#critical-thinking#systems-thinking

Разрыв между планом и реальностью в customer research

#user-research#reality-check#product-management#adaptability

Брейнрайтинг снижает эффект общего знания

#collaboration#decision-making#bias#ai-collaboration

Ограничивающие линзы для генерации нестандартных решений

#creativity#constraints#problem-solving#mental-models

Переформулировка проблемы важнее генерации решений

#problem-solving#reframing#systems-thinking#constraints

Исследуйте связи между идеями

Откройте интерактивный граф знаний и найдите неожиданные связи

Открыть граф знаний