AI जवाब सत्यापन क्या है?

स्वतंत्रता ही पूरा विचार है

अगर कोई मॉडल अपनी ट्रेनिंग की किसी वजह से कोई तथ्य गढ़ लेता है, तो उसी मॉडल से पूछना कि क्या वह तथ्य सच है, उसी सोर्स से पूछना है जिसने उसे गढ़ा। जाँच और ग़लती की एक साझा वजह है, इसलिए जाँच पास हो जाती है।

एक उपयोगी वेरिफ़ायर कुछ बदलता है। कोई और मॉडल, असली दस्तावेज़ों में खोज, कोई कंपाइलर, टेस्ट का सेट, कोई स्कीमा वैलिडेटर। वेरिफ़ायर जनरेटर से जितना ज़्यादा अलग होगा, वह उतना ही ज़्यादा पकड़ सकता है।

सत्यापन की क़िस्में, कमज़ोर से मज़बूत तक

सेल्फ़-रिव्यू: मॉडल अपना जवाब फिर पढ़ता है। सस्ता, ज़्यादातर फ़ॉर्मैटिंग और आंतरिक विरोधाभास पकड़ता है। क्रॉस-मॉडल रिव्यू: कोई और मॉडल जाँचता है। बेहतर, पहले मॉडल की ख़ास ग़लतियाँ पकड़ता है। रिट्रीवल: दावे को हासिल किए गए दस्तावेज़ों से जाँचा जाता है। तथ्यात्मक दावों के लिए मज़बूत। एग्ज़िक्यूशन: कोड चलता है, स्कीमा वैलिडेट होती है, टेस्ट पास होते हैं। सबसे मज़बूत, और सिर्फ़ वहीं उपलब्ध जहाँ जवाब एग्ज़िक्यूट करने लायक़ हो।

पैटर्न यह है कि ताक़त मॉडल से स्वतंत्रता के साथ बढ़ती है, और उपलब्धता उल्टी दिशा में जाती है — सबसे मज़बूत जाँचें सिर्फ़ कुछ ख़ास तरह के काम के लिए मौजूद होती हैं।

सत्यापन और मरम्मत

वेरिफ़ायर जो सिर्फ़ समस्या बताता है, वह आपको वहीं छोड़ देता है जहाँ आप थे। व्यवहार में सत्यापन आमतौर पर मरम्मत के साथ जुड़ा होता है: नाकामी और उसकी वजह किसी मॉडल के पास वापस जाती है, जो सुधरा हुआ जवाब बनाता है, जिसे फिर जाँचा जाता है।

इस लूप को एक सीमा चाहिए। बिना उसके, कोई ऐसा मॉडल जो समस्या ठीक नहीं कर सकता, पूरी क़ीमत पर उसी ग़लती की भिन्नताएँ बनाता रहेगा।

अक्सर पूछे जाने वाले सवाल

क्या मॉडल से दोबारा जाँचने को कहना मदद करता है?

थोड़ी, और मुख्यतः आंतरिक असंगति के लिए, तथ्यात्मक ग़लती से ज़्यादा। यह सत्यापन का सबसे कमज़ोर रूप है और उस पर सबसे ज़्यादा भरोसा करना आसान है।

क्या रिट्रीवल सत्यापन RAG जैसा ही है?

दोनों एक ही तंत्र को उल्टी दिशाओं में इस्तेमाल करते हैं। RAG जनरेट करने से पहले हासिल करता है, ताकि जवाब को जानकारी दे सके। रिट्रीवल सत्यापन बाद में हासिल करता है, ताकि उसे जाँच सके।

कितनी मरम्मत कोशिशें समझदारी हैं?

एक या दो। अगर मॉडल दूसरी कोशिश तक इसे ठीक नहीं कर पाया, तो आगे की कोशिशें आमतौर पर उसी ग़लती की फिर से बयानी होती हैं, और किसी इंसान को देखना चाहिए।