Как языковые модели генерируют ответы?

Текст поступает в виде токенов

Перед генерацией токенизатор разбивает инструкции, переписку, результаты инструментов и другой контекст на токены. Токеном может быть слово, его часть или знак препинания. Модель обрабатывает идентификаторы, а не видимые человеку предложения, поэтому язык, написание и форматирование влияют на расход окна контекста.

Модель предсказывает один следующий токен

Для уже имеющейся последовательности сеть назначает вероятность каждому возможному следующему токену словаря. Правило декодирования выбирает один, добавляет его и запускает расчёт снова. Цикл заканчивается на стоп-токене или заданном пределе; обычно модель не извлекает заранее сохранённый полный ответ.

Контекст меняет вероятности

Системные инструкции, запрос, предыдущие сообщения и переданные документы сдвигают вероятности, пока помещаются в активный контекст. Выбор самого вероятного токена даёт более повторяемый результат, а сэмплирование среди правдоподобных вариантов — больше разнообразия. Температура и похожие настройки меняют отбор, но не добавляют фактов.

Генерация — не поиск в базе данных

Обучение распределяет текстовые закономерности по множеству числовых весов. Это не каталог фрагментов с надёжными адресами источников. Без отдельного поиска или инструмента модель не может открыть исходную запись и доказать утверждение. Поэтому связный текст способен соединить знакомые шаблоны в факт, у которого нет основания.

Практические ограничения

Модель может выдумать детали, неверно понять неоднозначную задачу, пропустить сведения вне контекста, повторить смещения обучающих данных или ошибиться в вычислениях и длинных рассуждениях. Важный результат следует считать черновиком: дать нужный контекст, применить поиск или инструменты для актуальных фактов и проверить значимые утверждения независимым источником или тестом.

Частые вопросы

Понимает ли языковая модель свой ответ?

Она может представлять сложные связи и создавать текст, похожий на рассуждение, но человеческое понимание из механизма не следует. В практическом смысле модель предсказывает токены по выученным параметрам и контексту.

Почему один запрос даёт разные ответы?

При сэмплировании среди нескольких вероятных токенов ранний другой выбор меняет все последующие вероятности. Детерминированные настройки уменьшают разброс, но не гарантируют правильность повторяемого ответа.

Может ли модель указать источники?

Только если источники переданы через контекст, поиск или инструмент и система сохраняет связь с ними. Ссылка, созданная лишь по весам модели, может быть выдумана, поэтому её необходимо проверить.