Подбор модели
Выбор модели для приватных локальных нагрузок
Что меняется, когда запрос остаётся на оборудовании, которое вы контролируете, а не уходит к облачному провайдеру, и как режимы маршрутизации Local-Only и Privacy-First в ClawAI подходят для приватных нагрузок. Перед выбором тарифа проверьте актуальный каталог.
Все задачи · Дата последней проверки:
Что на самом деле меняется при локальном запуске модели
Облачный провайдер из остальной части каталога ClawAI выполняет модель на собственной инфраструктуре и берёт плату за каждый запрос; Ollama и llama.cpp, напротив, загружают модель с открытыми весами на оборудование, которое вы контролируете, поэтому запрос никогда его не покидает. Это меняет то, кто может увидеть запрос, а не то, на что способна конкретная модель — смотрите материал о локальном ИИ на странице провайдеров моделей за полным описанием механизма, здесь он не повторяется.
Режимы маршрутизации Local-Only и Privacy-First в ClawAI
Режим маршрутизации Local-Only удерживает каждый запрос на оборудовании, которое вы контролируете, используя Ollama или llama.cpp вместо любого облачного провайдера. Privacy-First — отдельный режим со своими приоритетами; оба существуют именно потому, что не каждая нагрузка должна по умолчанию идти через режим Auto. Выбор между ними или закрепление конкретной локальной модели в режиме Manual Model — это решение о рабочей нагрузке, которое стоит принимать осознанно, а не оставлять на усмотрение универсального режима по умолчанию.
Как выбрать, какую модель с открытыми весами запускать
Эта страница намеренно не называет ни одну конкретную модель с открытыми весами — по той же причине, по которой этого не делает страница о локальном провайдере: область развивается быстрее, чем статическая страница способна за ней успевать, а устаревшая рекомендация хуже, чем её отсутствие. Смотрите материал «что такое локальный ИИ» по ссылке ниже — там разобрано, как думать о компромиссе между моделью с открытыми весами, которую вы запускаете сами, и облачным провайдером.
Здесь намеренно не названа ни одна конкретная модель — модели с открытыми весами и их возможности быстро меняются, и вы сами выбираете, какие из них запускать. Актуальное поведение тарифа для локальных нагрузок проверяйте на странице тарифов. Проверить актуальный каталог на странице тарифов
Частые вопросы
- Какую модель с открытыми весами запускать для приватной нагрузки?
- Эта страница не даёт рекомендации — смотрите материал «что такое локальный ИИ» по ссылке ниже, там разобрано, как подходить к этому выбору, поскольку правильная модель зависит от вашего оборудования и задачи так, что статическая страница не может ответственно это отслеживать.
- В чём разница между режимами маршрутизации Local-Only и Privacy-First?
- Local-Only удерживает каждый запрос на оборудовании, которое вы контролируете, через Ollama или llama.cpp; Privacy-First — отдельный режим маршрутизации со своими приоритетами. Оба существуют потому, что не каждая нагрузка должна по умолчанию идти через режим Auto.
- Стоит ли что-то запуск модели локально через ClawAI?
- ClawAI не взимает плату за токен для локально запущенной модели так, как это делает облачный провайдер, поскольку здесь нет облачного провайдера, которому нужно платить, — расход состоит в оборудовании, на котором вы её и так запускаете. Актуальное поведение тарифа проверяйте на странице тарифов.
Проверьте сами, а не верьте на слово
Режим маршрутизации Local-Only в ClawAI удерживает каждый запрос на оборудовании, которое вы контролируете, через Ollama или llama.cpp — это реальный, уже работающий коннектор, а не пункт в планах на будущее.