ClawAI में विश्वसनीयता: फ़ॉलबैक, ब्रेकर और फिर से जुड़ने वाली स्ट्रीम

दूसरे मॉडल पर अपने-आप फ़ॉलबैक

हर रूट की गई रिक्वेस्ट के साथ उम्मीदवार मॉडलों की एक सूची होती है। अगर चुना गया मॉडल रिक्वेस्ट के बीच में विफल होता है, तो ClawAI अपने-आप अगले उम्मीदवार पर चला जाता है, और जवाब यह दर्ज करता है कि असल में किस मॉडल ने जवाब दिया — सिर्फ़ पहले चुने गए मॉडल को नहीं।

क्रेडिट खत्म हो चुके प्रोवाइडरों के लिए साझा ब्रेकर

जब किसी प्रोवाइडर खाते का क्रेडिट खत्म हो जाता है, तो एक ब्रेकर उस प्रोवाइडर को दस मिनट के लिए रोटेशन से बाहर कर देता है, फिर यह देखने के लिए एक टेस्ट कॉल जाने देता है कि वह ठीक हुआ या नहीं। ब्रेकर की स्थिति Redis में हर चैट सर्वर के बीच साझा होती है, इसलिए एक विफलता एक ही बार सीखी जाती है, हर सर्वर उसे दोबारा नहीं खोजता, और अगर Redis उपलब्ध न हो तो हर सर्वर अपनी अलग कॉपी पर लौट आता है।

Stop जो हमेशा रोकता है, स्ट्रीम जो फिर से शुरू होती है

Stop दबाने पर यह संकेत हर चैट सर्वर तक पहुँचता है, इसलिए जो भी सर्वर मॉडल चला रहा हो, वह उसे रोक देता है। अगर जवाब स्ट्रीम होते समय आपका कनेक्शन टूट जाता है, तो दोबारा कनेक्ट होने पर छूटे हुए इवेंट एक बफ़र से फिर से चलाए जाते हैं, और जवाब का बाकी हिस्सा खोता नहीं।

लोग जो सवाल पूछते हैं

अगर कोई मॉडल जवाब के बीच में विफल हो जाए तो क्या होता है?

ClawAI अपने-आप अगले उम्मीदवार मॉडल पर चला जाता है, और जवाब दिखाता है कि असल में उसे किस मॉडल ने बनाया।

प्रोवाइडर ब्रेकर किस चीज़ से बचाता है?

ऐसे प्रोवाइडर खाते से जिसका क्रेडिट खत्म हो चुका है। उसे दस मिनट के लिए छोड़ दिया जाता है और फिर एक कॉल से जाँचा जाता है, बजाय इसके कि इस बीच हर रिक्वेस्ट उस पर विफल होती रहे।

अगर मेरा कनेक्शन टूट जाए तो क्या मेरा जवाब खो जाता है?

नहीं। स्ट्रीम दोबारा कनेक्ट होने पर छूटे हुए इवेंट सर्वर-साइड बफ़र से फिर से चलाए जाते हैं और जवाब आगे जारी रहता है।