ClawAI में मॉडल रूटिंग और ऑर्केस्ट्रेशन

सात रूटिंग मोड, न कि एक छिपा हुआ डिफ़ॉल्ट

ClawAI हर मैसेज को वर्गीकृत करता है और उसे अपने-आप किसी उपयुक्त मॉडल पर भेज सकता है, या आप खुद नियम तय कर सकते हैं। मोड: Auto (काम के हिसाब से वर्गीकृत करता है और उस श्रेणी के लिए मज़बूत मॉडल चुनता है), Manual Model (बातचीत के लिए एक मॉडल तय करता है), Local-Only (हर रिक्वेस्ट Ollama या llama.cpp के ज़रिए आपके नियंत्रण वाले हार्डवेयर पर रहती है), Privacy-First (रिक्वेस्ट को सामान्य क्लाउड रास्ते से बाहर रखने की अपनी प्राथमिकताओं वाला अलग मोड), Low Latency (सबसे तेज़ जवाब देने वाले मॉडल को प्राथमिकता देता है), High Reasoning (गति या लागत की परवाह किए बिना सबसे मज़बूत रीज़निंग मॉडल को प्राथमिकता देता है) और Cost Saver (रिक्वेस्ट संभाल सकने वाले सबसे सस्ते मॉडल को प्राथमिकता देता है)। राउटर के सामान्य काम के लिए नीचे लिंक किया गया «AI मॉडल रूटिंग क्या है» देखें।

किसी समस्या पर एक से ज़्यादा मॉडल लगाने के नौ तरीके

जब एक मॉडल काफी नहीं होता, तो ClawAI के ऑर्केस्ट्रेशन प्रिमिटिव — सामान्य चैट से अलग, लेजर में ORCHESTRATION सरफ़ेस के तहत दर्ज — हैं Compare (एक ही प्रॉम्प्ट पर पाँच मॉडल तक, साथ-साथ), Consensus (जहाँ कई मॉडल सहमत हों वहाँ से एक जवाब बनाना, और असहमति को चिह्नित करना), Escalation (सस्ते से शुरू करना और गुणवत्ता कम पड़ने पर ही अपने-आप ऊपर जाना), Best-of-N (कई उम्मीदवार जवाब बनाना और सबसे मज़बूत रखना), Repair (मौजूदा जवाब को दोबारा बनाने के बजाय उसकी किसी खास कमी को ठीक करना), Verify (एक दूसरा मॉडल कॉन्फ़िगर करने योग्य रिविज़न सीमा के साथ सटीकता जाँचता है), Role packs (भूमिका-विशेष मॉडलों की एक छोटी टीम जो एक-दूसरे को काम सौंपती है), Pipelines (इनमें से कई चरणों को एक नामित, दोबारा चलाए जा सकने वाले वर्कफ़्लो में जोड़ना) और Judge और Critic (एक स्वतंत्र मॉडल स्पष्ट मानदंडों पर जवाब को अंक देता है, Critic पास से कमज़ोरियों पर लिखित फ़ीडबैक के साथ)। Compare और Judge दोनों अलग-अलग प्लान पर निर्भर हैं (COMPARE_MODE, JUDGE_MODE, CRITIC_REVIEW); खुद मूल्यांकन कैसे काम करता है इसके लिए नीचे लिंक किए गए «AI कंसेंसस क्या है» और «AI जज क्या है» देखें।

जब कोई प्रोवाइडर बीच रिक्वेस्ट में फेल हो जाए तो क्या होता है

रूटिंग का फ़ैसला एक बार का जुआ नहीं है: अगर जिस प्रोवाइडर या मॉडल को रिक्वेस्ट भेजी गई थी वह प्रोसेसिंग के बीच में फेल हो जाए, तो ClawAI अपने-आप दूसरे मॉडल पर स्विच कर सकता है, और जवाब यह दर्ज करता है कि असल में कौन-सा मॉडल आगे आया — न कि सिर्फ़ शुरुआत में चुना गया मॉडल। वह फ़ॉलबैक फ़ैसला कैसे लिया जाता है, इसके लिए नीचे लिंक किया गया «मॉडल फ़ॉलबैक क्या है» देखें।

लोग जो सवाल पूछते हैं

ClawAI में कितने रूटिंग मोड हैं?

सात: Auto, Manual Model, Local-Only, Privacy-First, Low Latency, High Reasoning और Cost Saver। Auto डिफ़ॉल्ट है; बाकी छह तब काम आते हैं जब आप खुद रूटिंग तय करना चाहते हैं, या उसे किसी खास दिशा में झुकाना चाहते हैं।

Compare और Consensus में क्या फ़र्क़ है?

Compare एक ही प्रॉम्प्ट पर हर मॉडल का जवाब साथ-साथ दिखाता है, हर मॉडल की लेटेंसी और टोकन गिनती के साथ, और पढ़ना आप पर छोड़ देता है। Consensus उन जगहों से एक जवाब बनाता है जहाँ मॉडल सहमत होते हैं और असहमति को चिह्नित करता है।

क्या मैं देख सकता हूँ कि असल में किस मॉडल ने जवाब दिया, और क्यों?

हाँ — हर जवाब में वह प्रोवाइडर और मॉडल होता है जिसने उसे बनाया, रूटिंग चुनाव के पीछे की वजह, और आपके अलॉटमेंट से कितनी लागत आई। अगर कोई प्रोवाइडर फेल हुआ और दूसरा मॉडल आगे आया, तो वह भी दर्ज होता है।