Попросите ИИ порекомендовать ноутбук, а затем скажите, что вам нужно что-то полегче. Если система воспримет это второе сообщение как самостоятельный запрос, вы можете получить список ультрабуков. Или же вы снова получите гору игровых рабочих станций, потому что ИИ не зафиксировал, что вы отклонили первую подборку из-за большого веса. Это происходит потому, что многие системы ИИ до сих пор ранжируют ответы, рассматривая каждый промпт в изоляции. Они относятся к каждому сообщению как к началу нового поиска, игнорируя контекст текущего разговора.
Такой подход упускает нюансы длительного чата. Человеческий диалог выстраивает смысл шаг за шагом. Мы подразумеваем, что память, намерения и предпочтения сохраняются. Когда ИИ не делает того же самого, это кажется не общением с ассистентом, а скорее вводом запросов в строку поиска, которая сбрасывается после каждого клика. Чтобы исправить это, нужно изменить способ ранжирования возможных ответов. Вместо того чтобы спрашивать, какой ответ подходит к этому предложению, нам нужно спрашивать, какой ответ подходит этому человеку прямо сейчас, учитывая всё, что мы уже обсудили.
Это становится возможным благодаря двум вещам: персонализации и истории.
Почему ранжирование в рамках одного хода не работает
Традиционное ранжирование ответов выросло из наборов данных для ответов на вопросы. Модель видит промпт, генерирует набор вариантов ответов, а ранжировщик оценивает каждый из них только на основе этого промпта. Побеждает вариант с самым высоким баллом. Это работает для изолированных фактов, но не работает для непрерывной работы.
Представьте пользователя, планирующего поездку. В первом сообщении он спрашивает о бюджетных отелях в Бангкоке. Модель предлагает список отелей рядом с Каосан Роуд. Пользователь отвечает: «Они выглядят шумными. У меня дети, поэтому мне нужен бассейн и удобный доступ к Skytrain». Ранжировщик, работающий в рамках одного хода, видит только второе предложение. Он может выдать общий список семейных курортов по всему Таиланду, упустив уже установленные ограничения: Бангкок, бюджетный вариант, тишина, бассейн, близость к транспорту.
Результат технически соответствует теме, но практически бесполезен. Пользователю приходится повторять контекст. Нарастает трение. Доверие падает.
Персонализация: Кто спрашивает
Персонализация означает адаптацию ответов под конкретные предпочтения и данные пользователя. Она отвечает на вопрос: кто этот человек?
Это нечто большее, чем просто вставка имени в приветствие. Это означает, что система знает (через явные профили или изученные паттерны), в каком виде пользователю удобнее получать информацию. Разработчик, который постоянно просит примеры на Python, должен видеть примеры кода на Python, даже если в его запросе упоминается общая задача программирования, если только он не укажет иное. Вегетарианец, который запрашивал рецепты на прошлой неделе, не должен просить систему исключить мясо. Тот, кто предпочитает краткие тезисы вместо длинных текстов, должен получать тезисы.
Конкретные сигналы могут включать в себя самостоятельно указанные предпочтения, поведение в прошлых сессиях или метаданные, такие как местоположение и тип устройства. Ключевой момент заключается в том, что эти сигналы должны поступать на этап ранжирования, а не только на этап генерации. Когда оцениваются варианты ответов, ранжировщик должен отдавать приоритет тем, которые соответствуют известному профилю.
Например, если два варианта ответа правильно отвечают на вопрос «Как мне сделать резервную копию фотографий?», но один предлагает облачное хранилище, а другой — локальный NAS-диск, ранжировщик должен знать, что этот конкретный пользователь ранее выражал интерес к офлайн-владению и конфиденциальности. Вариант с NAS должен получить более высокий балл. Без персонализации модель просто подбрасывает монетку.
История: Что уже было сказано
История означает использование предыдущих ходов в разговоре для направления следующего ответа. Она отвечает на вопрос: что мы уже установили?
Даже простые местоимения требуют истории. Когда пользователь говорит: «Сделай его синим», модель должна понимать, к чему относится «его». Эта ссылка содержится в предыдущем сообщении. В более длинных разговорах зависимости становятся сложными. Ограничения накапливаются. Пользователь может отклонить вариант, уточнить запрос или поставить новую цель, которая