مسیریابی مدل و هماهنگی در ClawAI

هفت حالت مسیریابی، نه یک پیش‌فرض پنهان

ClawAI هر پیام را طبقه‌بندی می‌کند و می‌تواند آن را به‌طور خودکار به مدلی مناسب بفرستد، یا خودتان می‌توانید قاعده را تعیین کنید. حالت‌ها: Auto (بر اساس نوع کار طبقه‌بندی می‌کند و مدلی قوی برای آن دسته انتخاب می‌کند)، Manual Model (یک مدل را برای گفت‌وگو ثابت می‌کند)، Local-Only (هر درخواست روی سخت‌افزاری که کنترل می‌کنید، از طریق Ollama یا llama.cpp، باقی می‌ماند)، Privacy-First (حالتی جداگانه با اولویت‌های خودش برای نگه‌داشتن درخواست خارج از مسیر ابری عمومی)، Low Latency (مدلی را ترجیح می‌دهد که سریع‌تر پاسخ دهد)، High Reasoning (صرف‌نظر از سرعت یا هزینه، قوی‌ترین مدل استدلالی را ترجیح می‌دهد) و Cost Saver (ارزان‌ترین مدلی را که هنوز از پس درخواست برمی‌آید ترجیح می‌دهد). برای عملکرد کلی یک مسیریاب، به «مسیریابی مدل هوش مصنوعی چیست»، پیوند شده در پایین، مراجعه کنید.

نُه راه برای قرار دادن بیش از یک مدل روی یک مسئله

وقتی یک مدل کافی نیست، مکانیزم‌های هماهنگی ClawAI — که در دفتر کل زیر سطح ORCHESTRATION، جدا از گفت‌وگوی عادی، ثبت می‌شوند — عبارت‌اند از Compare (تا پنج مدل روی یک پرامپت، در کنار هم)، Consensus (ترکیب یک پاسخ از نقاطی که چند مدل توافق دارند، و علامت‌گذاری اختلاف‌ها)، Escalation (شروع با مدلی ارزان و ارتقای خودکار فقط زمانی که کیفیت کافی نیست)، Best-of-N (تولید چند نامزد و نگه‌داشتن قوی‌ترین)، Repair (رفع یک نقص مشخص در پاسخی موجود به‌جای بازتولید کامل آن)، Verify (مدلی دوم صحت را با محدودیت قابل‌تنظیمی از دورهای بازبینی بررسی می‌کند)، بسته‌های نقش (تیمی کوچک از مدل‌های تخصصی هر نقش که کار را به یکدیگر تحویل می‌دهند) Pipelines (زنجیر کردن چند تا از این مراحل در یک گردش‌کار نام‌گذاری‌شده و قابل‌اجرای مجدد) و Judge و Critic (مدلی مستقل پاسخی را بر اساس معیارهای صریح امتیاز می‌دهد، همراه با بازخورد نوشتاری مرحله Critic درباره نقاط ضعف). Compare و Judge هرکدام جداگانه به پلن وابسته‌اند (COMPARE_MODE، JUDGE_MODE، CRITIC_REVIEW)؛ برای نحوه کارکرد خود ارزیابی، به «اجماع هوش مصنوعی چیست» و «داور هوش مصنوعی چیست»، هر دو پیوند شده در پایین، مراجعه کنید.

وقتی ارائه‌دهنده‌ای وسط درخواست خراب می‌شود چه اتفاقی می‌افتد

تصمیم مسیریابی یک شرط‌بندی یک‌باره نیست: اگر ارائه‌دهنده یا مدلی که درخواست به آن فرستاده شده وسط پردازش خراب شود، ClawAI می‌تواند به‌طور خودکار به مدل دیگری سوئیچ کند، و پاسخ ثبت می‌کند کدام مدل واقعاً وارد عمل شده — نه فقط مدلی که در ابتدا انتخاب شده بود. برای نحوه گرفته‌شدن آن تصمیم پشتیبان، به «جایگزینی مدل چیست»، پیوند شده در پایین، مراجعه کنید.

پرسش‌های پرتکرار

ClawAI چند حالت مسیریابی دارد؟

هفت تا: Auto، Manual Model، Local-Only، Privacy-First، Low Latency، High Reasoning و Cost Saver. Auto پیش‌فرض است؛ شش حالت دیگر برای زمانی وجود دارند که می‌خواهید خودتان مسیریابی را تعیین کنید یا آن را به سمتی مشخص هدایت کنید.

تفاوت Compare و Consensus چیست؟

Compare پاسخ هر مدل به همان پرامپت را در کنار هم نشان می‌دهد، همراه با تأخیر و شمار توکن هر مدل، و خواندن را به عهده شما می‌گذارد. Consensus پاسخی را از نقاط توافق مدل‌ها می‌سازد و اختلاف‌ها را علامت‌گذاری می‌کند.

می‌توانم ببینم واقعاً کدام مدل پاسخ داده و چرا؟

بله — هر پاسخ ارائه‌دهنده و مدلی را که آن را تولید کرده، منطق پشت انتخاب مسیریابی، و هزینه‌ای که از سهمیه شما کسر شده حمل می‌کند. اگر ارائه‌دهنده‌ای خراب شده و مدل دیگری وارد عمل شده، آن هم ثبت می‌شود.