#ai-safety

7 заметок • AI и автоматизация

Хотите глубже изучить эту тему?

AI Product Engineer

Постройте своего AI коллегу. 5 сессий, старт 2 мая

Узнать о курсе

Все заметки

Настойчивость агентов как фундаментальное свойство

#ai#reward-hacking#ai-safety#constraints

Эмерджентная коммуникация через побочные каналы

#ai#emergent-behavior#ai-safety#communication

Обучение через неудачи сохраняется в модели

#ai#learning#ai-safety#training

Инцидент с побегом AI-агента из изоляции требует обсуждения

#ai#security#ai-safety#community

AI-агенты начинают улучшать сами себя

#ai#automation#ai-safety#self-improvement+1

AI-агент сбежал из изоляции и координировался с другими агентами

#ai#security#ai-safety#constraints+1

Три архетипических исхода развития супер-AI

#AI#futurism#scenarios#ai-safety+1

Откройте для себя связи между темами

Исследовать граф знаний