Deep learning не может отвечать на вопросы вмешательства

Deep learning не может отвечать на вопросы вмешательства

Джудеа Перл объясняет, что системы deep learning работают только на первой ступени причинной лестницы (наблюдение/ассоциация). Они не могут отвечать на вопросы второй ступени о вмешательстве («что будет, если мы изменим X?»), так как обучены на пассивных данных. Вмешательство требует понимания причинности, отсутствующего в нейросетях.

Связи

• Ломать искусственные правила — выявление компромиссов созданных человеком — оба о различении реальных ограничений от искусственно принятых допущений
• Эмерджентность как междисциплинарный принцип — контраст: эмерджентность возникает без понимания причинности, что ограничивает deep learning
• Промпты для глубокого изучения концепций — иллюстрирует практическое применение ограниченных ассоциативных способностей AI
• Переговоры между AI агентами от лица владельцев — показывает границу: агенты действуют по паттернам, не понимая причинности решений

---

Источник: Telegram, 2020-01-12