Качество данных важнее их количества при обучении моделей

Среднестатистический автор в интернете дает среднестатистические ответы при обучении модели. Для получения экспертных результатов нужно тренировать на качественных данных и делать RLHF с экспертами, а не аутсорсерами. Это объясняет, почему меньшие модели, обученные на отобранных данных (как Llama 3), могут превосходить более крупные модели общего назначения.

Связи

• 20190402_0392 Контекст как защита от аналитических ошибок — Экспертный контекст критичен: там — для анализа, здесь — для обучения моделей
• 20230310_1517 Окружение определяет возможности роста — Качество окружения определяет результат: эксперты для RLHF vs аутсорсеры — как среда для роста

---

Источник: Telegram, 2024-05-13