Post-training как новая граница улучшения моделей
Post-training как новая граница улучшения моделей
При достижении лимитов в pre-training основной прогресс моделей происходит через reasoning, синтетические данные, встраивание инструментов и агентов. Это смещение фокуса с «больше данных» на «умнее использование» открывает новые возможности для стартапов. Не нужны петабайты данных, чтобы создать умную систему.
Связи
- Цикл оптимизации через накопление данных — Описывает следующий этап после post-training: возврат к pre-training с накопленными данными
- Человеческая разметка — необходимый этап создания AI, а не обман — Синтетические данные в post-training заменяют ручную разметку как источник обучающих примеров
- Анализ данных важнее сбора метрик — Оба о смещении фокуса с накопления объёма на умное использование имеющегося
- Минимальные усилия для получения данных — Изобретательность вместо ресурсов — ключевая параллель с post-training подходом стартапов
Источник: Telegram, 2025-05-09
Связанные заметки
Проблема девяток в AI-агентах решаема
#AI#agents#automation
Граундинг LLM через актуальные данные решает проблему устаревших рекомендаций
#AI#tools#data
Управление ограничениями при работе с AI-инструментами
#AI#constraints#tools
Cybersyn и проблема искажения информации
#AI#systems-thinking#constraints
AI игнорирует экономическую оптимизацию без явных инструкций
#AI#optimization#goal-setting
Исследуйте больше связей
Эта заметка — часть сети из 2,369 взаимосвязанных идей. Откройте для себя неожиданные связи в интерактивном графе знаний.
Открыть граф знаний