Как на самом деле работает вызов инструментов в ИИ?

Модели дают меню, а не клавиатуру

Перед отправкой запроса приложение описывает модели доступные инструменты: имя, описание того, что делает каждый, и схему ожидаемых аргументов. Модель не получает рабочий код или активное подключение к чему-либо — она получает описание, точно так же как человек читает меню, не имея доступа к кухне.

Модель никогда ничего не выполняет сама

Когда модель решает, что инструмент помог бы, она формирует структурированный вывод — обычно имя инструмента и набор аргументов — и на этом останавливается. Ничего ещё не найдено, не вызвано и не изменено. Приложение, отправившее запрос, читает этот структурированный вывод, решает, действовать ли на его основе, и если да — выполняет настоящую функцию или вызов API на собственной инфраструктуре.

Полный обмен — это цикл, а не один шаг

Типичная последовательность такая: приложение отправляет промпт вместе со списком доступных инструментов; модель отвечает либо ответом, либо предложенным вызовом инструмента; если это вызов инструмента, приложение выполняет его и отправляет результат обратно как часть разговора; модель затем продолжает, часто выдавая итоговый ответ, использующий этот результат. Многошаговые задачи могут повторять этот цикл несколько раз, прежде чем ответ дойдёт до пользователя.

Предложенный вызов — правдоподобная догадка, а не гарантированно верный

Модель может предложить не тот инструмент, придумать аргумент, которого никогда не было в схеме, или вызвать инструмент, когда вызывать было вообще нечего — та же вероятностная генерация, что создаёт любой другой вывод, создаёт и вызов инструмента. Ничто в самом механизме не делает предложенный вызов изначально безопасным для выполнения. Приложение, которое выполняет аргументы без проверки по схеме и без авторизации того, к чему вызов реально может получить доступ, доверяет реальный доступ догадке.

Схема — единственный интерфейс, который модель реально видит

Имя инструмента, описание и схема аргументов — это вся спецификация, с которой работает модель: у неё нет другого способа узнать, что делает инструмент, или как правильно заполнить его параметры. Одна и та же базовая функция, описанная чётко и узко, обычно вызывается корректно намного чаще, чем описанная расплывчато или объединённая с несвязанными опциями, потому что модель выбирает инструмент и заполняет аргументы исключительно на основе этого описания.

Почему это отличается от просьбы к модели написать код

Попросить модель создать рабочий скрипт и попросить её вызвать заранее заданный инструмент — не один и тот же запрос. Вызов инструмента ограничен именем и аргументами, с которыми ваше приложение уже умеет безопасно работать; свободно сгенерированный код может попытаться сделать всё, что позволяет среда выполнения, а это гораздо более широкая и другая по своей природе проблема безопасности. Вызов инструментов сужает то, что модель может запросить, до фиксированного, проверяемого набора вариантов.

Частые вопросы

Выполняет ли модель инструмент сама?

Нет. Модель выдаёт структурированный запрос с именем инструмента и его аргументами. Приложение, отправившее запрос, решает, выполнять ли его, а настоящая функция или вызов API выполняется на собственной инфраструктуре приложения, а не внутри модели.

Может ли модель вызвать инструмент с придуманными аргументами?

Да. Модель может подставить значение, которого никогда не было в схеме, или которое не имеет смысла для инструмента, потому что вызов генерируется так же, как и любой другой вывод. Проверка аргументов перед выполнением чего-либо реального — ответственность приложения, а не то, что гарантирует модель.

Что произойдёт, если модель вызовет не тот инструмент?

Это полностью зависит от того, как построено приложение. Хорошо спроектированное проверяет, имеет ли вызов смысл, прежде чем его выполнить, и может вернуть модели ошибку или уточняющий результат вместо того, чтобы действовать по несоответствующему запросу; плохо спроектированное выполняет то, что получает.

Вызов инструментов — это то же самое, что ИИ-агент?

Нет, но агенты обычно строятся поверх него. Вызов инструментов — это базовый механизм запрос-ответ; агент обычно повторяет этот цикл несколько раз, добавляя логику, которая решает, что попробовать дальше на основе каждого результата.