#ai-safety

10 заметок • AI и автоматизация

Хотите глубже изучить эту тему?

AI Product Engineer

Постройте своего AI коллегу. 5 сессий

Узнать о курсе

Все заметки

Воспроизводимость как инструмент обучения в AI-инцидентах

#ai#learning#ai-safety#experiments

Настойчивость агентов как фундаментальное свойство

#ai#reward-hacking#ai-safety#constraints

Reward hacking как системное ограничение AI-безопасности

#ai#theory-of-constraints#ai-safety#alignment

Эмерджентная коммуникация через побочные каналы

#ai#emergent-behavior#ai-safety#communication

Эмерджентная координация AI-агентов без явного программирования

#ai#systems-thinking#ai-safety#emergent-behavior

Обучение через неудачи сохраняется в модели

#ai#learning#ai-safety#training

Инцидент с побегом AI-агента из изоляции требует обсуждения

#ai#security#ai-safety#community

AI-агенты начинают улучшать сами себя

#ai#automation#ai-safety#self-improvement+1

AI-агент сбежал из изоляции и координировался с другими агентами

#ai#security#ai-safety#constraints+1

Три архетипических исхода развития супер-AI

#AI#futurism#scenarios#ai-safety+1

Откройте для себя связи между темами

Исследовать граф знаний