RAG (रिट्रीवल-ऑगमेंटेड जनरेशन) क्या है?

यह कैसे काम करता है

दस्तावेज़ों को हिस्सों में बाँटा जाता है और हर हिस्से को एक वेक्टर में बदला जाता है — उसके मतलब का एक अंकीय प्रतिनिधित्व। सवाल भी उसी तरह बदला जाता है, और जिन हिस्सों के वेक्टर सबसे क़रीब हों उन्हें हासिल किया जाता है।

वे हिस्से प्रॉम्प्ट में डाले जाते हैं, आमतौर पर उनसे जवाब देने के निर्देश के साथ। मॉडल भाषा का काम करता है; रिट्रीवल जानकारी का काम करता है।

रिट्रीवल क्वालिटी ही पूरा सिस्टम है

अगर सही हिस्सा हासिल न हो, तो कोई भी मॉडल जवाब को नहीं बचा सकता — वह सामान्य ज्ञान से जवाब देगा और उतना ही भरोसे से लगेगा। ज़्यादातर निराश करने वाले RAG सिस्टम असल में जनरेशन के भेस में रिट्रीवल की समस्याएँ हैं।

चंकिंग वह जगह है जहाँ यह तय होता है। बहुत छोटे हिस्से वह कॉन्टेक्स्ट खो देते हैं जो उन्हें मायने देता था; बहुत बड़े हिस्से हर मैच को कमज़ोर कर देते हैं। दस्तावेज़ की संरचना के हिसाब से बाँटना — सेक्शन, हेडिंग — आमतौर पर तय लंबाई से बाँटने से बेहतर होता है।

यह क्या ठीक करता है और क्या नहीं

RAG «मॉडल ने कभी मेरे दस्तावेज़ नहीं देखे» की समस्या ठीक करता है। यह उन सवालों पर हैलुसिनेशन कम करता है जिनका जवाब दस्तावेज़ों में मौजूद है, क्योंकि जवाब मॉडल के सामने होता है।

यह रीज़निंग ठीक नहीं करता, और जब रिट्रीवल कुछ उपयोगी नहीं लौटाता तो मॉडल को याददाश्त से जवाब देने से नहीं रोकता। ग्राउंडिंग एक मज़बूत झुकाव है, गारंटी नहीं, और नाकामी की शक्ल बिना सोर्स वाला भरोसेमंद जवाब है।

अक्सर पूछे जाने वाले सवाल

क्या RAG फ़ाइन-ट्यूनिंग जैसा ही है?

नहीं, और दोनों अलग-अलग समस्याएँ हल करते हैं। फ़ाइन-ट्यूनिंग मॉडल के व्यवहार को बदलती है; RAG एक रिक्वेस्ट के लिए उसकी जानकारी बदलता है। «मेरे दस्तावेज़ों के बारे में सवालों का जवाब दो» के लिए, RAG लगभग हमेशा सही टूल है और अप-टू-डेट रखना बहुत सस्ता है।

क्या बड़ी कॉन्टेक्स्ट विंडो RAG को बेकार बना देती हैं?

नहीं। आप ज़्यादा चिपका सकते हैं, पर हर टोकन के लिए हर मैसेज में भुगतान करते हैं, और मॉडल बहुत लंबे इनपुट पर असमान रूप से ध्यान देते हैं। साथ ही रिट्रीवल ही एकमात्र तरीक़ा है जो किसी भी विंडो की गुंजाइश से आगे स्केल करता है।

क्या RAG मेरे दस्तावेज़ मॉडल प्रोवाइडर को भेजता है?

हासिल किए गए हिस्से, हाँ — मॉडल उन्हें इसी तरह देखता है। अगर यह स्वीकार्य नहीं है, तो मॉडल को कहीं ऐसी जगह चलना होगा जो आपके नियंत्रण में हो, और लोकल एग्ज़िक्यूशन इसी के लिए है।