Консолидация памяти ИИ: зачем ассистенту режим сна

Вечерами Лина пересматривает конспекты сессий: сводит два разных описания одного клиента в одно верное, вычёркивает то, что уже устарело. Режим сна нужен памяти ассистента по той же причине, по какой он нужен и ей: чтобы навести порядок в накопленном за день. Память, в которую только дописывают, зарастает дублями, устаревшими фактами и десятком версий одной и той же договорённости. Консолидация это фоновая переработка: пока Вы не задаёте вопросов, ассистент заново перебирает записи, сворачивает повторы, помечает противоречия и поднимает важное в верхние слои. Это называют sleep-time compute: модель обрабатывает контекст заранее, в простое, до того как поступил вопрос. Результат Вы видите утром: ответы приходят быстрее и опираются на упорядоченную память, а не на сырой лог вчерашнего дня. Без такой переработки память со временем тяжелеет и мутнеет, а ассистент отвечает медленнее и менее точно.

Почему память, в которую только пишут, портится

Представьте стол Лины после дня встреч: блокнот с пометками после каждой сессии, стикеры, две открытые папки клиентов, которые она ещё не убрала на полку. К вечеру нужная запись лежит где-то в этой стопке, и найти её быстро уже нельзя. С памятью ассистента происходит то же самое. За день в неё падает всё: реплики из переписки, правки к договорённостям, новые факты о клиентах, случайные уточнения. Каждая запись легла отдельно, и половина из них противоречит другой половине.

Проблем тут три, и они складываются. Дубли: одна встреча упомянута пять раз в пяти разговорах. Устаревшее: цена, которую Вы назвали в понедельник и переписали в среду, лежит в базе в обеих версиях. Противоречия: «клиент согласовал» и «клиент попросил паузу» соседствуют без пометки, какое из двух свежее. Когда ассистент ищет ответ, он вытаскивает всё это вперемешку, и качество ответа падает ровно настолько, насколько запутана память.

Дописывать факты бесконечно нельзя ещё и потому, что их становится всё больше. Чем дольше Вы работаете с ассистентом, тем тяжелее его память, и тем сильнее нужен кто-то, кто наведёт в ней порядок. Человек делает это во сне, Лина ещё и вечерами за переписыванием конспектов. У ассистента для этого есть отдельный ночной проход.

Что такое sleep-time compute

Обычная языковая модель думает только в тот момент, когда Вы задали вопрос. Она получает контекст, разбирает его на месте и отвечает. Всё тяжёлое осмысление происходит, пока Вы ждёте ответ, и за него же Вы платите вычислениями и временем.

Приём «sleep-time compute» предлагает сдвинуть эту работу во времени. Если контекст известен заранее, модель может обдумать его в простое, до того как поступит вопрос. Формулируют это так: рассуждение в режиме сна превращает «сырой контекст» в «осмысленный», и тогда в момент запроса думать нужно меньше. Проверяли на математических наборах Stateful GSM-Symbolic и Stateful AIME. Результат конкретный: чтобы достичь той же точности, в момент запроса требовалось примерно впятеро меньше вычислений. Когда работу во сне, наоборот, наращивали, точность росла до 13 процентов на первом наборе и до 18 процентов на втором.

Есть и второй выигрыш, важный для рабочего ассистента. Один и тот же контекст обычно порождает не один вопрос, а много: про одного клиента Вы за неделю спросите десять раз. Разобрав этот контекст ночью один раз, ассистент делит затраченную работу на все последующие вопросы. В экспериментах с несколькими запросами к общему контексту средняя стоимость одного вопроса падала примерно в два с половиной раза. Проще говоря: тяжёлый разбор делается однажды в тишине, а потом окупается на каждом Вашем вопросе.

Эту идею выделяют в отдельный режим с двумя ролями: основной агент общается с Вами и работает на быстрой модели, а фоновый агент занимается памятью, не спеша, на более сильной модели. Так формирование памяти даёт чистые и аккуратные воспоминания вместо обрывочных заметок на бегу.

Как это устроено у Хермес

У Хермес этот принцип живёт как ночной режим «Сон и консолидация». Пока Вы отдыхаете, память пересобирается. Накопленное за день проходит по конвейеру: свежие записи сначала просто лежат, потом получают оценку важности, потом сворачиваются в устойчивые факты, а лишнее уходит в архив. Дубли сводятся в одну запись, противоречия помечаются, важное поднимается в верхние, быстрые слои памяти, редкое опускается в холодный архив, откуда его всё равно можно достать вопросом.

Про слои памяти мы подробно рассказываем в обзоре темы память ИИ-ассистента: горячий слой для того, что нужно сейчас, тёплый для текущих недель, холодный для архива. Консолидация это как раз механизм, который решает, чему в каком слое лежать, и делает это ночью, чтобы не отнимать скорость у дневных ответов.

Для Вас вся эта механика невидима, и так и задумано. Вы не запускаете ночной проход руками и не настраиваете его. Виден только результат: утром ассистент отвечает быстрее и точнее, потому что отвечает из прибранной памяти. Спросите о клиенте, с которым работали в прошлом квартале, и он поднимет уже сведённую картину, а не пять разрозненных упоминаний, которые ещё надо между собой согласовать.

Что это меняет для Вас

Разница между ассистентом с консолидацией и без неё видна не в первый день, а через месяцы. Без ночной переработки память копится как попало и постепенно превращается в свалку: ответы замедляются, в них всплывают устаревшие факты, ассистент путается в том, что Вы уже переиграли. С консолидацией память остаётся ясной ровно настолько, насколько ясно Вы вели дела, потому что каждую ночь она сама себя причёсывает.

Здесь же кроется скрытая экономия. Каждый факт, который ассистент подкладывает в ответ, это оплаченные токены. Прибранная память подкладывает меньше мусора и меньше дублей, а значит, ответы обходятся дешевле. Ночная переработка работает на ту же цель, что и sleep-time compute в исследовании: перенести тяжёлую часть на время простоя, чтобы днём было быстрее и дешевле.

Всё это опирается на одно условие: у ассистента вообще должна быть долговременная память, а не только контекстное окно текущего разговора. Консолидировать нечего, если ничего не хранится между сессиями. Как устроена такая память и почему она лежит на Вашем сервере, а не в чужом облаке, мы разбираем на странице продукта. Ночной режим сна это надстройка над памятью, которая превращает накопление в порядок. У Лины ту же работу теперь по ночам делает не она сама над конспектами, а Хермес.