Локально и приватно
Что такое модели с открытыми весами?
Модели с открытыми весами публикуют обученные параметры, чтобы вы могли запускать их сами. Что покрывает «открытость», чего нет и почему лицензии так различны.
Все разборы · Последняя проверка:
Что здесь покрывает слово «открытые»
Открытые веса означают, что числа, составляющие обученную модель, доступны для скачивания. Этого достаточно, чтобы запускать её, дообучать, изучать и поддерживать в рабочем состоянии независимо от того, что издатель сделает дальше.
Обычно это не включает обучающие данные и часто не включает код обучения. Так что модель с открытыми весами воспроизводима в том смысле, что вы можете её запустить, а не в том, что могли бы собрать заново.
Лицензии действительно различаются
У части моделей с открытыми весами обычные пермиссивные лицензии. У других — условия: ограничения коммерческого использования выше некоторого порога, запреты на определённые применения или требования об указании авторства и о производных моделях.
Коммерчески это важно и легко пропускается. «Мы можем это скачать» и «мы можем это использовать в продукте» — разные вопросы, и на второй отвечает только лицензия.
Почему они важны
Это единственные модели, которые можно запустить целиком на своём железе, что делает их основой любого локального и приватного развёртывания. Их также нельзя вывести из эксплуатации у вас под ногами: скачанная модель работает, пока вы её храните.
Разрыв в возможностях с лучшими размещёнными моделями реален и заметно сократился. Для большой доли повседневной работы он уже не решающий фактор.
Частые вопросы
- Открытые веса — это то же, что открытый исходный код?
- Нет. Открытый код подразумевает исходники и свободу использовать и изменять их. Открытые веса означают, что опубликованы параметры — под той лицензией, которую выбрал издатель, а она иногда ограничительна.
- Можно ли дообучить модель с открытыми весами?
- Технически да, это одна из главных причин желать веса. Можно ли вам и что можно делать с результатом — вопрос лицензии, различающийся от модели к модели.
- Безопасно ли использовать их коммерчески?
- Многие да; часть — не без условий. Читайте конкретную лицензию конкретной модели: это единственное в этой области, что действительно не обобщается.
Лучше попробовать, чем читать
ClawAI запускает модели с открытыми весами через Ollama и llama.cpp на вашем железе, рядом с 5 облачными провайдерами, а маршрутизация решает, кто что обрабатывает.