Fine-tuning vs RAG: что выбрать под вашу задачу

Это самый частый вопрос на консультациях: «Нам нужно дообучить GPT на наших данных?». В 80% случаев ответ — нет, вам нужен RAG. Но есть 20%, где без fine-tuning не обойтись. Разбираемся, как выбрать.

RAG — когда знаний много и они меняются

RAG хорош, когда у вас большая база документов (регламенты, договоры, база знаний), и эти документы обновляются. Модель не нужно переобучать при каждом изменении — достаточно обновить векторный индекс. Ответы прозрачны: всегда есть ссылка на источник. Это критично для юридических и медицинских кейсов.

• База знаний > 100 документов
• Документы обновляются чаще раза в месяц
• Нужны ссылки на источник для верификации
• Нет ML-команды для регулярного дообучения

Fine-tuning — когда нужен стиль или домен

Fine-tuning (через LoRA, не full) нужен, когда важно не «что» сказать, а «как». Например: агент должен говорить в фирменном стиле бренда, использовать жаргон отрасли, или модель должна знать специфику узкого домена, которого нет в обучающих данных. Также fine-tuning полезен для сжатия — маленькая дообученная модель может обойти большую generic-модель на вашей задаче.

RAG даёт модели знания, fine-tuning — навыки. Это не конкуренты, это разные инструменты.

Когда нужна комбинация

В сложных продакшенах мы используем оба: fine-tuning маленькой модели (7B) под стиль и формат ответа + RAG для актуальных знаний. Получаем быстрый дешёвый агент, который отвечает в нужном тоне по свежим данным. Стоимость инференса падает в 5–10 раз относительно GPT-5, а качество на вашей задаче — выше.

Минус — нужен ML-инженер и датасет для fine-tuning: 500–2000 примеров «вопрос → идеальный ответ». Разметка такого датасета — отдельный проект, обычно 2–4 недели работы экспертов предметной области.

Решающее правило

• Нужны актуальные знания по документам → RAG
• Нужен фирменный стиль или жаргон → fine-tuning
• Нужен дешёвый инференс в продакшене → fine-tuning маленькой модели + RAG
• Нет ML-команды и датасета → только RAG, забудьте про fine-tuning