Дообучение модели или память: в чём разница для ассистента

Лина боится не того, что Хермес вдруг заговорит другим тоном, а того, что забудет деталь из истории клиента. Дообучение (fine tuning) меняет саму модель: её переобучают на сотнях примеров, у неё меняются внутренние веса, а с ними стиль, формат и манера ответов. Память ассистента модель не трогает: факты о Вас и Вашем деле лежат во внешней базе рядом с моделью, и при каждом вопросе нужные фрагменты подкладываются ей в контекст. Этот механизм называется RAG. Эти два инструмента отвечают за разное: дообучение за то, как модель себя ведёт, память за то, что она знает. Есть удобная аналогия: память это экзамен с открытым учебником, дообучение это знания, усвоенные за семестр занятий. Для рабочего ассистента, у которого факты меняются ежедневно (новый клиент, новая цена, перенесённая встреча), работает память: свежий факт ложится в базу и доступен со следующего вопроса. Дообучение нужно редко: когда требуется устойчиво изменить поведение модели на узкой задаче.

Что такое дообучение простыми словами

Языковая модель приходит к Вам уже обученной на огромном массиве текстов. Дообучение это второй, короткий цикл обучения: модель прогоняют через подобранный набор примеров «вход и правильный выход», и она подстраивает внутренние веса под этот набор. Дообучение можно определить именно так: переобучение готовой модели на меньшем, сфокусированном наборе данных ради знаний конкретной области.

Житейская аналогия: Вы отправили сотрудника на полугодовые курсы. Вернулся другой человек: иначе формулирует, иначе оформляет документы, увереннее держит нужный тон. Изменился он сам, а не его записная книжка.

У этого пути есть цена, и она складывается из трёх статей. Нужны размеченные примеры: на старте достаточно малого и качественного набора, порядка полусотни примеров, но для заметного результата счёт идёт на сотни и тысячи. Нужны вычислительные мощности: дообучение остаётся ресурсоёмким процессом, требующим серьёзного железа. И нужна экспертиза: подготовить данные, провести обучение, проверить, что модель не разучилась остальному. Каждое обновление знаний означает новый цикл: данные, обучение, проверка.

Что такое память ассистента и при чём тут RAG

Память устроена принципиально иначе: она живёт не внутри модели, а рядом. Факты о Вашем деле (разговоры, документы, договорённости) лежат во внешней базе. Когда Вы задаёте вопрос, система находит в базе близкие по смыслу фрагменты и подкладывает их модели в контекст вместе с вопросом. Модель отвечает так, будто помнит, хотя на деле читает шпаргалку, собранную из Вашей же базы за долю секунды. Этот механизм называется RAG: генерация с подкреплением поиском.

Продолжая аналогию с сотрудником: память это не курсы, а хорошо устроенная записная книжка. Сотрудник тот же, но перед ответом он заглядывает в свои записи и говорит по фактам, а не по общим впечатлениям.

Отсюда главное практическое свойство: новый факт доступен сразу. Клиент сменил номер, Вы подняли цену, встреча переехала на четверг: запись легла в базу, и уже следующий ответ опирается на неё. Ничего переобучать не нужно. Как эта база устроена внутри (слои, эмбеддинги, поиск по смыслу), мы подробно разбираем в обзоре темы память ИИ-ассистента.

Две разные оси: что модель знает и как она себя ведёт

Путаница между дообучением и памятью возникает потому, что оба инструмента «делают модель умнее». Их удобно развести по двум независимым осям. Первая ось: оптимизация контекста, то есть того, что модель знает в момент ответа. Сюда относится RAG: он нужен, когда модели не хватает знаний, когда знания устарели или когда требуется закрытая информация, которой нет в открытых данных. Вторая ось: оптимизация самой модели, то есть того, как она себя ведёт. Сюда относится дообучение: оно нужно, когда хромает формат, тон или последовательность рассуждений.

Проверьте своё ожидание от ассистента по этой рамке. «Хочу, чтобы он знал моих клиентов, мои цены, мои шаблоны договоров»: это целиком первая ось, вопрос контекста и памяти. «Хочу, чтобы он всегда писал протоколы встреч строго в нашем корпоративном формате»: это вторая ось, кандидат на дообучение. Показателен опыт крупных внедрений ИИ: многие из них обошлись только промптами и RAG, без всякого дообучения.

Инстинкт «давайте дообучим модель на наших данных» понятен, но чаще всего это ответ не на тот вопрос. Данные о деле меняются, а дообучение фиксирует состояние на момент обучения.

Когда дообучение действительно нужно

Честности ради: у дообучения есть законная территория. Первый случай: устойчивое поведение на узкой задаче. Известен пример с правкой текстов на исландском языке: модель дообучили на тысяче пар «текст с ошибками и исправленный текст», и качество выросло заметно сильнее, чем от любых подсказок в промпте. Второй случай: экономия. Дообученная маленькая модель иногда решает узкую задачу не хуже большой, при этом дешевле и быстрее: тот же результат меньшими токенами.

Тот же исландский пример показывает и границу метода. Когда поверх дообученной модели добавили поиск по базе, качество не выросло, а снизилось: модель уже выучила задачу, и лишний контекст стал шумом. Прикладной вывод такой: инструменты решают разные проблемы, и складывать их стоит только тогда, когда есть обе проблемы сразу.

И главное ограничение: дообученная модель не узнаёт новых фактов. Её знания заморожены в момент обучения, и без постоянной подпитки свежими данными модель устаревает и начинает отвечать неточно. Для стиля это терпимо: манера письма не меняется еженедельно. Для фактов губительно: цена, актуальная в день обучения, через месяц уже ложь.

Почему рабочему ассистенту нужна память

Теперь сложим картину для рабочего ассистента Лины, коуча с частной практикой. Что меняется в таком деле каждую неделю? Факты: появился клиент, изменилась цена, сдвинулся график, подписан договор. Что остаётся стабильным? Поведение: тон переписки, структура документов, манера отвечать. Меняющаяся часть это ровно та ось, за которую отвечает память, а не дообучение.

Представьте обратное: ради нового телефона клиента отправлять сотрудника на курсы. Звучит абсурдно, но именно так выглядела бы попытка держать факты в весах модели: каждый новый факт требовал бы цикла переобучения с данными, железом и проверками. Память решает ту же задачу одной записью в базу.

Есть и стратегическое следствие. Дообучение это вложение в конкретную модель: веса, которые Вы настроили, принадлежат ей и не переносятся. Модели устаревают быстро, и вместе с моделью устаревает вложенное в неё дообучение. Память, наоборот, от модели не зависит: база не знает, какая модель читает из неё фрагменты, сегодня одна, завтра другая. Накопленное переживает смену модели целиком.

Хермес построена именно на памяти. Она хранит Ваше дело во внешней базе на Вашем сервере, подключает модель снаружи и меняет её без потери накопленного: подробнее об устройстве на странице продукта intakto. Дообучением здесь и не пахнет, и это не экономия на технологии, а выбор правильной оси: рабочему ассистенту важнее знать Ваше дело сегодняшним, чем говорить особенным стилем.

Короткий итог. Дообучение меняет характер модели, память меняет то, что она о Вас знает. Характер Вашему ассистенту менять почти никогда не нужно, а знать Ваше дело нужно каждый день. Лине важнее второе: чтобы Хермес каждый день помнил её клиентов, а не заговорил вдруг другим тоном.