Модель мира vs эвристики в LLM
Модель мира vs эвристики в LLM
Центральный спор в исследованиях LLM: формируют ли они внутреннюю модель мира (как человек при анализе ситуации) или просто запоминают множество эвристик и правил. Модель мира позволяет прогнозировать на абстрактном уровне, эвристики дают лишь заученные паттерны ответов. Сообщество ML-исследователей разделилось 50/50: Илья Суцкевер считает, что модель формируется, Ян ЛеКунн - что нет.
Связи
- Системное мышление как призма восприятия мира — Обе заметки о внутренних моделях для понимания и прогнозирования реальности
- Внутренний системный промпт при восприятии других людей — Прямая параллель: внутренние модели фильтрации у людей vs LLM
- Ценность личного прохождения пользовательского пути — Контраст: необходимость эмпирической проверки vs полагание на абстрактные модели
- Когнитивный фитнес через напряжение мышления — Механизмы формирования когнитивных способностей через практику vs эвристики
Источник: Telegram, 2025-02-17
Связанные заметки
AI снижает трансакционные издержки и меняет теорию фирмы
#AI#economics#organizations
AI Scientist — автоматизация полного цикла научных исследований
#AI#automation#augmentation
Non-consumers становятся consumers при снижении барьеров
#technology#growth#AI
AGI как базовый learner, а не конечное состояние
#AI#learning#theory
LLM как инфраструктура передачи знаний, а не новый интеллект
#AI#theory#knowledge-transmission
Исследуйте больше связей
Эта заметка — часть сети из 2,369 взаимосвязанных идей. Откройте для себя неожиданные связи в интерактивном графе знаний.
Открыть граф знаний