Приватное и локальное развёртывание с ClawAI

Что на самом деле меняется при локальном запуске

Облачный провайдер из остальной части каталога ClawAI запускает модель на собственной инфраструктуре и берёт плату за каждый запрос; Ollama и llama.cpp, напротив, загружают модель с открытыми весами на оборудование, которое вы контролируете, поэтому запрос никогда его не покидает. Это меняет то, кто может увидеть запрос, а не то, на что способна конкретная модель.

Режимы маршрутизации Local-Only и Privacy-First

Режим маршрутизации Local-Only удерживает каждый запрос на оборудовании, которое вы контролируете, используя Ollama или llama.cpp вместо любого облачного провайдера. Privacy-First — отдельный режим со своими приоритетами; оба существуют потому, что не каждая нагрузка должна по умолчанию идти через режим Auto, и выбор между ними — осознанное решение, а не настройка по умолчанию, которую можно оставить без внимания.

Когда приватная или локальная нагрузка — правильная форма работы

Приватная или локальная нагрузка определяется тем, где выполняется запрос, а не тем, к какому виду задач он относится, — программирование, письмо или исследование могут выполняться таким образом, если требование в том, чтобы ничего не покидало оборудование, которое вы контролируете. Компромиссы, которые стоит взвесить, смотрите в материалах о выборе модели для приватных локальных нагрузок и о том, что такое локальный ИИ, оба по ссылкам ниже.

Частые вопросы

В чём разница между режимами маршрутизации Local-Only и Privacy-First?

Local-Only удерживает каждый запрос на оборудовании, которое вы контролируете, через Ollama или llama.cpp; Privacy-First — отдельный режим маршрутизации со своими приоритетами. Оба существуют потому, что не каждая нагрузка должна по умолчанию идти через режим Auto.

Какую модель с открытыми весами запускать локально?

Эта страница не даёт рекомендации — как подходить к этому выбору, смотрите в материале о том, что такое локальный ИИ, по ссылке ниже, поскольку правильная модель зависит от вашего оборудования и задачи.

Можно ли выполнять локально любую задачу, или только определённые?

Приватная или локальная нагрузка определяется тем, где выполняется запрос, а не задачей — программирование, письмо или исследование могут выполняться таким образом, если сохранение работы на оборудовании, которое вы контролируете, важнее того, к какой задаче она относится.