Сценарий использования
Приватное и локальное развёртывание с ClawAI
Как режимы маршрутизации Local-Only и Privacy-First в ClawAI удерживают запрос на оборудовании, которое вы контролируете, используя коннекторы Ollama и llama.cpp вместо облачного провайдера.
Все сценарии использования · Дата последней проверки:
Что на самом деле меняется при локальном запуске
Облачный провайдер из остальной части каталога ClawAI запускает модель на собственной инфраструктуре и берёт плату за каждый запрос; Ollama и llama.cpp, напротив, загружают модель с открытыми весами на оборудование, которое вы контролируете, поэтому запрос никогда его не покидает. Это меняет то, кто может увидеть запрос, а не то, на что способна конкретная модель.
Режимы маршрутизации Local-Only и Privacy-First
Режим маршрутизации Local-Only удерживает каждый запрос на оборудовании, которое вы контролируете, используя Ollama или llama.cpp вместо любого облачного провайдера. Privacy-First — отдельный режим со своими приоритетами; оба существуют потому, что не каждая нагрузка должна по умолчанию идти через режим Auto, и выбор между ними — осознанное решение, а не настройка по умолчанию, которую можно оставить без внимания.
Когда приватная или локальная нагрузка — правильная форма работы
Приватная или локальная нагрузка определяется тем, где выполняется запрос, а не тем, к какому виду задач он относится, — программирование, письмо или исследование могут выполняться таким образом, если требование в том, чтобы ничего не покидало оборудование, которое вы контролируете. Компромиссы, которые стоит взвесить, смотрите в материалах о выборе модели для приватных локальных нагрузок и о том, что такое локальный ИИ, оба по ссылкам ниже.
Частые вопросы
- В чём разница между режимами маршрутизации Local-Only и Privacy-First?
- Local-Only удерживает каждый запрос на оборудовании, которое вы контролируете, через Ollama или llama.cpp; Privacy-First — отдельный режим маршрутизации со своими приоритетами. Оба существуют потому, что не каждая нагрузка должна по умолчанию идти через режим Auto.
- Какую модель с открытыми весами запускать локально?
- Эта страница не даёт рекомендации — как подходить к этому выбору, смотрите в материале о том, что такое локальный ИИ, по ссылке ниже, поскольку правильная модель зависит от вашего оборудования и задачи.
- Можно ли выполнять локально любую задачу, или только определённые?
- Приватная или локальная нагрузка определяется тем, где выполняется запрос, а не задачей — программирование, письмо или исследование могут выполняться таким образом, если сохранение работы на оборудовании, которое вы контролируете, важнее того, к какой задаче она относится.
Проверьте сами, а не верьте на слово
Режимы маршрутизации Local-Only и Privacy-First в ClawAI удерживают запрос на оборудовании, которое вы контролируете, через коннекторы Ollama и llama.cpp — это реальные, уже работающие коннекторы, а не пункт в планах на будущее.