Post-training как новая граница улучшения моделей

При достижении лимитов в pre-training основной прогресс моделей происходит через reasoning, синтетические данные, встраивание инструментов и агентов. Это смещение фокуса с «больше данных» на «умнее использование» открывает новые возможности для стартапов. Не нужны петабайты данных, чтобы создать умную систему.

Связи

• 20250111_1292 Цикл оптимизации через накопление данных — Описывает следующий этап после post-training: возврат к pre-training с накопленными данными
• 20191109_0582 Человеческая разметка — необходимый этап создания AI, а не обман — Синтетические данные в post-training заменяют ручную разметку как источник обучающих примеров
• 20190421_0457 Анализ данных важнее сбора метрик — Оба о смещении фокуса с накопления объёма на умное использование имеющегося
• 20170513_0276 Минимальные усилия для получения данных — Изобретательность вместо ресурсов — ключевая параллель с post-training подходом стартапов

---

Источник: Telegram, 2025-05-09