プライベート・ローカル環境向けモデルの選び方

モデルをローカルで実行すると実際に何が変わるか

ClawAIのカタログにある他のクラウドプロバイダーは、自社のインフラストラクチャ上でモデルを実行し、リクエストごとに課金します。一方Ollamaとllama.cppは、オープンウェイトのモデルを自分の管理下にあるハードウェアに読み込むため、リクエストがそこから外に出ることはありません。これによって変わるのは誰がリクエストを見られるかであり、個々のモデルの能力そのものではありません。仕組みの全体については、ここで繰り返す代わりに、モデルプロバイダーページの「ローカルAI」をご覧ください。

ClawAIのLocal-OnlyとPrivacy-Firstルーティングモード

Local-Onlyルーティングは、クラウドプロバイダーではなくOllamaやllama.cppを使い、すべてのリクエストを自分の管理下にあるハードウェアに留めます。Privacy-Firstルーティングは、独自の優先事項を持つ別のモードです。この2つが存在するのは、すべてのワークロードがAutoルーティングを既定とすべきではないからに他なりません。どちらを選ぶか、あるいはManual Modelモードで特定のローカルモデルを固定するかは、汎用的な既定値に任せるのではなく、意図的に判断する価値のあるワークロード上の決定です。

どのオープンウェイトモデルを実行するかを選ぶ

このページは、ローカルAIのプロバイダーページと同じ理由から、あえて特定のオープンウェイトモデルを挙げていません。この分野は静的なページが追いつけないほど速く動いており、古くなったおすすめは、何も示さないより悪い結果を招きます。自分で実行するオープンウェイトモデルとクラウドプロバイダーとのトレードオフをどう考えるかについては、下記リンクの「ローカルファーストAIとは」をご覧ください。

よくある質問

プライベートなワークロードにはどのオープンウェイトモデルを実行すべきですか?

このページでは特定のモデルをおすすめしません。適したモデルはあなたのハードウェアとタスクによって決まり、静的なページが責任を持って追跡できるものではないためです。その選び方については、下記リンクの「ローカルファーストAIとは」をご覧ください。

Local-OnlyとPrivacy-Firstのルーティングの違いは何ですか?

Local-Onlyは、Ollamaまたはllama.cppを介して、すべてのリクエストを自分の管理下にあるハードウェアに留めます。Privacy-Firstは独自の優先事項を持つ別のルーティングモードです。この2つが存在するのは、すべてのワークロードがAutoルーティングを既定とすべきではないからです。

ClawAIを通じてモデルをローカルで実行することに費用はかかりますか?

ClawAIは、クラウドプロバイダーの場合のようにローカルで実行するモデルにトークン単価を課金しません。課金対象となるクラウドプロバイダーが存在しないためで、コストはすでにあなたが所有しているハードウェアです。現在のプランの挙動については料金ページで確認してください。