RAG или дообучение модели: что выбрать под задачу

Как только бизнес хочет, чтобы ИИ отвечал не «вообще», а по его собственным данным — регламентам, каталогу, базе знаний, договорам, — сразу встаёт вопрос: как эти данные в модель «залить». И тут же всплывают два модных слова: RAG и дообучение (fine-tuning). Их часто путают и противопоставляют так, будто это соревнование, где надо выбрать чемпиона. На деле это два разных инструмента под разные задачи, и в девяти случаях из десяти выбор очевиден — просто про это редко говорят прямо, потому что «дообучить свою модель» звучит солиднее, чем есть на самом деле. В этой статье разберу без хайпа: чем эти два пути отличаются, что дешевле и точнее, и когда какой реально нужен.

Две дороги: RAG и дообучение

Чтобы выбрать, надо понять принципиальную разницу, а она простая. Представьте сотрудника, которому надо отвечать на вопросы по вашим документам. Есть два способа его подготовить.

Первый способ — RAG. Вы даёте сотруднику доступ к папке с документами и учите быстро искать. Когда приходит вопрос, он находит нужные страницы и отвечает по ним, глядя в текст. Он не держит всё в голове — он умеет искать и пересказывать найденное. Технически RAG (retrieval-augmented generation) работает так же: в момент вопроса система находит в ваших документах подходящие куски и подсовывает их модели вместе с вопросом, а модель формулирует ответ по ним.

Второй способ — дообучение. Вы месяц заставляете сотрудника зубрить документы наизусть, пока они не станут его второй натурой. Теперь он отвечает не подглядывая — но если документ изменился, придётся зубрить заново. Дообучение (fine-tuning) меняет саму модель на ваших примерах, «вплавляя» знания и манеру внутрь неё.

Отсюда сразу видно, где чья сила. RAG легко обновляется (поменяли документ — ответы изменились сразу) и умеет показать источник. Дообучение хорошо ставит стиль и формат, но дорого обновляется и не покажет, откуда взялся ответ. Дальше — когда что выбирать.

Когда RAG

RAG подходит для большинства бизнес-задач, где нужно отвечать по вашим данным. Признаки, что вам нужен именно он:

• Данные меняются. Прайсы, регламенты, ассортимент, условия — всё, что обновляется. С RAG вы просто заменяете документ, и ответы сразу актуальны. Дообученную модель ради этого пришлось бы переучивать заново.
• Важно, откуда ответ. Если клиент или сотрудник должен видеть, на какой пункт документа опирается ответ, — это только RAG. Он показывает источник, дообучение — нет, оно отвечает «из головы».
• Нужна точность по фактам. RAG отвечает по конкретному тексту перед глазами, поэтому реже выдумывает. Дообученная модель склонна фантазировать, если точного факта в ней не отложилось.
• Бюджет ограничен. RAG заметно дешевле и быстрее в запуске: не нужно готовить обучающие данные и оплачивать обучение. Часто это вопрос дней, а не недель.

Проще говоря, если задача звучит как «отвечать по нашим документам и держать ответы актуальными» — это RAG, и почти без вариантов. Как это выглядит на практике, в том числе локально на своём сервере, я показывал в материале про RAG на своих документах. RAG к тому же — основа для умного ассистента, который что-то делает: про это есть разбор, как создать ИИ-агента.

Когда дообучение

Дообучение нужно реже, чем о нём принято говорить, и почти никогда — ради «знания фактов». Его настоящая зона — не что модель знает, а как она отвечает. Оно оправдано, когда:

• Нужен устойчивый особый стиль. Модель должна всегда отвечать в фирменной манере, определённым тоном, с конкретной структурой — так, что промптом это стабильно не удержать. Дообучение вплавляет манеру внутрь.
• Нужен строгий формат ответа. Ответы всегда в жёсткой структуре, по шаблону, с одинаковой разметкой — и это критично на больших объёмах.
• Узкая специфика языка. Очень специальная терминология или жанр, которого модель «из коробки» не чувствует, и примеров нужно много.

Обратите внимание: всё это про форму, а не про факты. Дообучение НЕ стоит брать, чтобы «модель знала наши документы» — для фактов оно и дороже, и хуже RAG, потому что не обновляется и не показывает источник. Ещё важный момент — дообучение требует качественных обучающих примеров, и их подготовка обычно и есть основная работа и стоимость. Мало кто это озвучивает заранее, а зря: без хорошего датасета дообучение денег стоит, а результата не даёт.

Как выбрать

Свожу всё в простой практический алгоритм, по которому можно принять решение самому.

Шаг 1. Спросите: задача про факты или про стиль? Если надо, чтобы ИИ знал ваши данные и отвечал по ним точно — это факты, вам в сторону RAG. Если надо, чтобы он отвечал в особой манере или строгом формате — это стиль, здесь может понадобиться дообучение.

Шаг 2. Спросите: данные меняются? Если да — RAG, однозначно. Дообучать модель под меняющиеся данные — это бесконечная гонка переобучений, которая быстро съест бюджет.

Шаг 3. Спросите: нужно ли показывать источник? Если ответы должны быть проверяемыми и ссылаться на документ — только RAG.

Шаг 4. Начните с RAG в любом случае. Даже если кажется, что нужно дообучение, сначала попробуйте RAG — он дешевле, быстрее и часто закрывает задачу полностью. К дообучению переходите, только если RAG упёрся именно в стиль или формат, а не в факты.

И честный вывод из практики: чаще всего лучший результат даёт не выбор одного из двух, а связка — RAG отвечает за факты и актуальность, а лёгкое дообучение (если оно вообще нужно) добавляет фирменный стиль. Но даже в связке фундамент — это RAG. Выбор модели под всё это — тоже часть решения; про него есть отдельный разбор, какой локальный LLM выбрать.

Частые вопросы

Что дешевле — RAG или дообучение? Как правило, RAG, и заметно. Он не требует готовить обучающие данные и оплачивать обучение, запускается быстрее и легче обновляется. Дообучение — это дополнительные расходы на подготовку датасета и на само обучение, которые оправданы далеко не всегда.

А что точнее по фактам? RAG. Он отвечает, глядя в конкретный текст, поэтому реже выдумывает и может показать источник. Дообученная модель отвечает «из головы» и склонна фантазировать, если точного факта в ней не отложилось — для фактологии это минус.

Правда ли, что дообучение — это «своя ИИ-модель»? Это красивая формулировка, за которой стоит скромная реальность: вы не создаёте модель с нуля, а лишь слегка подстраиваете существующую под свой стиль или формат на своих примерах. Для большинства задач это не нужно, и RAG решает вопрос лучше и дешевле.

С чего начать, если не уверен? С RAG. Он закрывает большинство задач, стоит недорого и быстро показывает реальный результат на ваших данных. Если после него останется нерешённой именно задача стиля или формата — тогда посмотрим в сторону дообучения. Начинать с дообучения «на всякий случай» — почти всегда лишние деньги.

Коротко о главном

RAG и дообучение — не соперники, а два инструмента под разные задачи. RAG учит ИИ искать ответ в ваших документах в момент вопроса: он дешевле, мгновенно обновляется, показывает источник и реже выдумывает — поэтому для подавляющего большинства бизнес-задач, где нужно «знать факты» и держать их актуальными, это правильный выбор. Дообучение меняет саму модель и оправдано куда реже — в основном там, где важен устойчивый фирменный стиль или строгий формат ответа, а не знание фактов, и где вы готовы вложиться в качественные обучающие данные. Практический принцип простой: определите, ваша задача про факты или про стиль, и почти всегда начинайте с RAG — а к дообучению переходите, только если он упёрся именно в манеру подачи. Нередко лучшее решение — связка из обоих, но фундаментом остаётся RAG. Если хотите выбрать подход честно и без хайпа и получить работающую систему — помогу внедрить базу знаний с ИИ-поиском (RAG) под ключ, под ваши данные и вашу задачу.