انتخاب مدل برای بارهای کاری خصوصی و محلی

اجرای محلی یک مدل واقعاً چه چیزی را تغییر می‌دهد

یک ارائه‌دهنده ابری در جایی دیگر از کاتالوگ ClawAI یک مدل را روی زیرساخت خودش اجرا می‌کند و به ازای هر درخواست هزینه می‌گیرد؛ Ollama و llama.cpp در عوض یک مدل با وزن باز (open-weight) را روی سخت‌افزاری بار می‌گذارند که خودتان کنترل می‌کنید، به‌طوری‌که درخواست هرگز آن را ترک نمی‌کند. این تغییر می‌دهد چه کسی می‌تواند درخواست را ببیند، نه اینکه هر مدل معین چه توانمندی‌ای دارد — صفحه هوش مصنوعی محلی، در صفحه ارائه‌دهندگان مدل، مکانیزم کامل را توضیح می‌دهد، بدون تکرار آن اینجا.

حالت‌های مسیریابی Local-Only و Privacy-First در ClawAI

مسیریابی Local-Only هر درخواست را با استفاده از Ollama یا llama.cpp، به‌جای هر ارائه‌دهنده ابری، روی سخت‌افزاری نگه می‌دارد که خودتان کنترل می‌کنید. مسیریابی Privacy-First حالتی جداست با اولویت‌های خودش؛ هر دو دقیقاً به این دلیل وجود دارند که نباید هر بار کاری به‌طور پیش‌فرض به مسیریابی Auto واگذار شود. انتخاب میان این دو، یا ثابت‌کردن یک مدل محلی خاص زیر حالت Manual Model، تصمیمی مربوط به بار کاری است که ارزش دارد آگاهانه گرفته شود، نه اینکه به یک پیش‌فرض عمومی واگذار شود.

انتخاب اینکه کدام مدل با وزن باز اجرا شود

این صفحه عمداً هیچ مدل با وزن باز خاصی را نام نمی‌برد، به همان دلیلی که صفحه ارائه‌دهنده هوش مصنوعی محلی هم این کار را نمی‌کند: این حوزه سریع‌تر از آنی حرکت می‌کند که یک صفحه ایستا بتواند دنبالش کند، و یک توصیه قدیمی بدتر از نبود توصیه است. صفحه هوش مصنوعی محلی‌محور چیست، که در ادامه پیوند داده شده، توضیح می‌دهد چگونه باید درباره موازنه میان یک مدل با وزن باز که خودتان اجرا می‌کنید و یک ارائه‌دهنده ابری فکر کرد.

سوالاتی که کاربران می‌پرسند

برای یک بار کاری خصوصی کدام مدل با وزن باز را اجرا کنم؟

این صفحه مدلی را توصیه نمی‌کند — صفحه هوش مصنوعی محلی‌محور چیست، که در ادامه پیوند داده شده، توضیح می‌دهد چگونه درباره این انتخاب فکر کنید، چون مدل درست به سخت‌افزار و وظیفه شما بستگی دارد به شکلی که یک صفحه ایستا نمی‌تواند مسئولانه دنبالش کند.

تفاوت مسیریابی Local-Only و Privacy-First چیست؟

Local-Only هر درخواست را از طریق Ollama یا llama.cpp روی سخت‌افزاری نگه می‌دارد که خودتان کنترل می‌کنید؛ Privacy-First حالت مسیریابی جداگانه‌ای است با اولویت‌های خودش. هر دو به این دلیل وجود دارند که نباید هر بار کاری به‌طور پیش‌فرض به Auto واگذار شود.

آیا اجرای محلی یک مدل از طریق ClawAI هزینه‌ای دارد؟

ClawAI برای یک مدل که به‌صورت محلی اجرا می‌شود نرخی به ازای هر توکن دریافت نمی‌کند، همان‌طور که برای یک ارائه‌دهنده ابری دریافت می‌کند، چون هیچ ارائه‌دهنده ابری‌ای در کار نیست که صورت‌حساب شود — هزینه همان سخت‌افزاری است که از پیش روی آن اجرا می‌کنید. رفتار فعلی پلن را در صفحه قیمت‌گذاری تأیید کنید.