सेल्फ़-होस्टेड AI क्या है?

यह मॉडल से ज़्यादा है

लोकल मॉडल चलाने पर भी बातचीत, फ़ाइलें, मेमोरी, और अकाउंट डेटा उसी ऐप में रहते हैं जो आपने इस्तेमाल किया। सेल्फ़-होस्टिंग इन सबको आपके अपने इंफ़्रास्ट्रक्चर पर ले जाती है।

यह फ़र्क़ हर उस व्यक्ति के लिए मायने रखता है जिसकी ज़िम्मेदारियाँ इन्फ़रेंस के बजाय स्टोर किए गए डेटा से जुड़ी हों। मॉडल कहाँ चलता है और इतिहास कहाँ रहता है, ये दो अलग सवाल हैं, और सेल्फ़-होस्टिंग ही दूसरे का जवाब देती है।

यह ऑपरेशनल तौर पर क्या ख़र्च करती है

आप अपडेट, बैकअप, मॉनिटरिंग, TLS, और नामुनासिब घंटे में कुछ टूटने पर उसे सुलझाने का ज़िम्मा लेते हैं। यह पैसों से ज़्यादा ध्यान में मापी जाने वाली एक असली, लगातार चलने वाली लागत है।

यह तब लायक़ है जब डेटा सच में कहीं और नहीं रह सकता, या जब डिप्लॉयमेंट को किसी भी वेंडर रिश्ते से लंबा टिकना ज़रूरी हो। सामान्य एहतियात के तौर पर यह लायक़ नहीं है।

सेल्फ़-होस्टेड का मतलब कटा हुआ नहीं है

सेल्फ़-होस्टेड डिप्लॉयमेंट फिर भी होस्टेड मॉडलों को कॉल कर सकता है। कई करते हैं: प्लेटफ़ॉर्म और उसका डेटा आपका है, और क्लाउड प्रोवाइडर वहाँ इस्तेमाल होते हैं जहाँ उनकी क्षमता डेटा के बाहर जाने को जायज़ ठहराए।

वह मेल जो बाहरी प्रोसेसिंग को पूरी तरह हटाता है, वह है सेल्फ़-होस्टिंग प्लस लोकल मॉडल, और यह जानबूझकर की गई सेटिंग है, डिफ़ॉल्ट नहीं।

अक्सर पूछे जाने वाले सवाल

क्या सेल्फ़-होस्टिंग लोकल AI जैसी ही है?

नहीं। लोकल AI इस बारे में है कि मॉडल कहाँ चलता है। सेल्फ़-होस्टिंग इस बारे में है कि ऐप और उसका डेटा कहाँ रहते हैं। एक बिना दूसरे के हो सकता है, और सबसे मज़बूत प्राइवेसी स्थिति को दोनों चाहिए।

क्या सेल्फ़-होस्टिंग हमें कंप्लायंट बनाती है?

नहीं। यह कंप्लायंस की कहानी का एक हिस्सा हो सकती है, पर कंप्लायंस कॉन्ट्रैक्ट, कंट्रोल, सबूत, और ऑडिट से बनता है। सॉफ़्टवेयर कहाँ चलता है, यह कई इनपुट में से एक है।

इसे चलाने के लिए क्या चाहिए?

ज़्यादातर प्लेटफ़ॉर्मों के लिए: कंटेनर, एक डेटाबेस, और उन्हें चलाने की कोई जगह — साथ ही कोई इंसान जो अपडेट रास्ते का ज़िम्मा उठाए। यही आख़िरी चीज़ है जिसे सबसे ज़्यादा कम आँका जाता है।