मॉडलों के बीच फ़ॉलबैक क्या है?

यह वैकल्पिक क्यों नहीं है

एक ही प्रोवाइडर वाला वर्कफ़्लो उसकी उपलब्धता को ज्यों का त्यों विरासत में पाता है। ख़ासकर रेट लिमिट कोई दुर्लभ घटना नहीं हैं — यह किसी व्यस्त घंटे का सामान्य नतीजा है — और बिना फ़ॉलबैक वाला वर्कफ़्लो बस रुक जाता है।

फ़ॉलबैक एक साफ़ नाकामी को ख़राब जवाब में बदल देता है। यह सुधार है या नहीं, यह पूरी तरह इस पर निर्भर करता है कि आपको बताया जाए ऐसा हुआ है।

क्रम चुनना

सहज क्रम है «अगला-सबसे-अच्छा मॉडल», लेकिन यह अक्सर ग़लत होता है। अगर पहला विकल्प इसलिए फ़ेल हुआ क्योंकि रिक्वेस्ट बहुत लंबी थी, तो छोटा मॉडल भी फ़ेल होगा। अगर उसने कंटेंट की वजह से इनकार किया, तो मिलता-जुलता मॉडल भी वैसे ही इनकार करेगा।

ज़्यादा उपयोगी क्रम कोई संरचनात्मक चीज़ बदलता है: बिल्कुल अलग प्रोवाइडर, या अलग नियमों वाला स्थानीय मॉडल — किसी ऐसे «भाई» के बजाय जो उसी तरह फ़ेल होगा।

ख़तरनाक क़िस्म

चुपचाप फ़ॉलबैक ऐसा सिस्टम है जो चुपके से किसी और मॉडल से जवाब देता है और कुछ नहीं बताता। आपको एक बदतर जवाब मिलता है, जिसे आप मन ही मन उस मॉडल से जोड़ लेते हैं जिसे आपने चुना था, और उस मॉडल के बारे में ग़लत नतीजा निकालते हैं।

जब फ़ॉलबैक प्राइवेसी की सीमा पार करता है, तो यह ग़लत नतीजे से भी बुरा है। स्थानीय मॉडल से क्लाउड प्रोवाइडर पर जाना डेटा को ठीक वहीं भेजता है जहाँ यूज़र ने ख़ासतौर पर न भेजने का फ़ैसला किया था। जो चेन स्थानीय एग्ज़िक्यूशन छोड़ सकती है, उसे ऐसी चेन होना चाहिए जिसे यूज़र ने साफ़-साफ़ मंज़ूर किया हो।

ClawAI यह कैसे करता है

रूटिंग मोड अपनी-अपनी चेन तय करते हैं, और सिर्फ़-लोकल मोड अपनी चेन को स्थानीय प्रोवाइडरों पर ही रखता है, बजाय इसके कि लोकल व्यस्त होने पर क्लाउड मॉडल ढूँढे। हर मैसेज उस मॉडल को दर्ज करता है जिसने असल में जवाब दिया, इसलिए फ़ॉलबैक बाद में दिखता है, लहज़े में बदलाव से अंदाज़ा लगाने की ज़रूरत नहीं पड़ती।

अक्सर पूछे जाने वाले सवाल

क्या फ़ॉलबैक और दोबारा कोशिश एक ही चीज़ है?

दोबारा कोशिश वही रिक्वेस्ट वही मॉडल को भेजती है, जो एक अस्थायी ग़लती में मदद करती है। फ़ॉलबैक मॉडल बदलता है, जो तब मदद करता है जब पहला मॉडल रिक्वेस्ट को सर्व कर ही न सके। मज़बूत सिस्टम दोनों करते हैं, इसी क्रम में।

क्या फ़ॉलबैक को कभी लोकल से क्लाउड में जाना चाहिए?

सिर्फ़ तब जब यूज़र ने ऐसा माँगा हो। स्थानीय एग्ज़िक्यूशन आमतौर पर किसी वजह से चुना जाता है जिसे फ़ॉलबैक पूरा नहीं कर सकता, तो सुरक्षित तरीक़ा है फ़ेल होकर बता देना, कहीं और सफल होने के बजाय।

चेन में कितने मॉडल होने चाहिए?

दो या तीन आमतौर पर काफ़ी हैं। लंबी चेनें ज़्यादातर लेटेंसी बढ़ाती हैं, क्योंकि हर नाकाम कोशिश अगली शुरू होने से पहले वक़्त में चुकाई जाती है।