ClawAIのローカル・オープンウェイトAIモデル

モデルをローカルで動かすと実際に何が変わるか

このサイトに掲載されているクラウドプロバイダーは、自社のインフラ上でモデルを動かし、リクエストごとに課金します。一方Ollamaとllama.cppは、オープンウェイトモデルをあなたが管理するハードウェア — 自分のマシンや、自分で運用するサーバー — に読み込ませるため、リクエストがそこから外に出ることはありません。これによって変わるのは、リクエストを誰が見られるかであって、モデルにできることそのものではありません。ローカルで動かすオープンウェイトモデルは、このクラスターの他のページで挙げられているクラウドプロバイダーのいずれとも異なる種類のものであり、そのまま置き換えられるものではありません。

Ollamaとllama.cppは異なる2つのツールです

どちらもClawAIの実在するアダプターですが、適した状況が異なります。Ollamaはモデルを手軽に取得して妥当な既定値で動かせることに重点を置いており、llama.cppはより手間のかかる手動セットアップと引き換えに、モデルの動かし方をより直接的に制御できます。詳しい比較は、ここで繰り返す代わりに、下記の「Ollama対llama.cpp」に掲載しています。

どのオープンウェイトモデルを動かすか選ぶ

このページでは意図的に特定のオープンウェイトモデルを名指ししていません。この分野は静的なページが追いつけないほど速く動いており、古くなった推奨は何も示さないより悪い結果になるためです。下記の「ローカルファーストAIとは」では、オープンウェイトモデルとクラウドプロバイダーとのトレードオフを、製品ページで扱うべき以上に詳しく説明しています。

よくある質問

ClawAIを通じたローカルAIの利用に費用はかかりますか?

ClawAIは、クラウドプロバイダーに対して行うようなトークン単価の課金をローカルで動かすモデルには行いません。課金対象となるクラウドプロバイダーが存在しないためで、コストはすでに自分が保有しているハードウェアそのものです。現在のプランでの扱いは料金ページで確認してください。

どのオープンウェイトモデルを動かすべきですか?

このページでは特定のモデルを推奨していません。判断の考え方については下記の「ローカルファーストAIとは」を参照してください。適したモデルはあなたのハードウェアとタスクによって異なり、静的なページが責任を持って追跡できるものではないためです。

ローカルで動かすモデルはクラウドのモデルと同等の能力がありますか?

それは完全に、具体的なオープンウェイトモデルとあなたのハードウェア次第であり、このページはどちらの方向にも一律の主張をしません。自分のワークロードで確認する方法については下記の「AIモデルの評価方法」を参照してください。