RAG с комбинированным поиском вместо чистого векторного
RAG с комбинированным поиском вместо чистого векторного
При использовании RAG (Retrieval Augmented Generation) нужно внимательно следить за качеством поиска документов. Полнотекстовый поиск или поиск по ключевым словам (BM-25) стоит использовать как бенчмарк или пре-поиск перед векторным. Комбинированный подход часто даёт лучшие результаты, чем только векторный поиск.
Связи
- Последовательность подходов к обучению LLM — RAG как промежуточный этап требует оптимизации поиска перед fine-tuning
- RAG предпочтительнее fine-tuning для часто обновляемых данных — Качество поиска в RAG определяет его преимущество над альтернативами
Источник: Telegram, 2024-06-19
Связанные заметки
Разделение больших промптов на маленькие
#AI#llm#systems-thinking
Структурирование данных для LLM через разметку
#AI#llm#data
RAG предпочтительнее fine-tuning для часто обновляемых данных
#AI#llm#rag
Принцип Постела для LLM-приложений
#AI#llm#engineering
Шесть ключевых областей GenAI разработки
#AI#genai#llm
Исследуйте больше связей
Эта заметка — часть сети из 2,369 взаимосвязанных идей. Откройте для себя неожиданные связи в интерактивном графе знаний.
Открыть граф знаний