ما هو الذكاء الاصطناعي المحلي؟

ما الذي يتغير

البيانات هي السبب الحقيقي. المطالبة المرسلة إلى نموذج مستضاف يعالجها ذلك المزوّد وفق شروطه. أما المطالبة إلى نموذج محلي فلا تُرسل إلى أي مكان، وهذه النسخة الوحيدة من ذلك الضمان التي لا تعتمد على سياسة طرف آخر.

كما يزيل الفوترة بالرمز، وحدود الاستخدام، وإمكانية سحب نموذج من تحتك. النموذج الذي نزّلته يظل يعمل.

شكل الكلفة لا الكلفة

الذكاء المحلي ليس أرخص تلقائيًا. إنه يحوّل كلفة متغيرة إلى كلفة ثابتة: تشتري عتادًا أو تستأجره، ثم يصبح الاستدلال شبه مجاني عند الحدّ.

مقايضة جيدة عند حجم مرتفع مستقر، وسيئة للاستخدام العَرَضي. ووحدة معالجة رسومية خاملة معظم اليوم أغلى من استدعاءات الواجهة التي استبدلتها.

الحدود الصادقة

النماذج التي تعمل بارتياح على جهاز واحد ليست عمومًا أكبر المتاح. وفي أصعب مهام الاستدلال تكون الفجوة مع نموذج طراز أول مستضاف حقيقية.

ولعدد هائل من المهام اليومية — التلخيص والصياغة والاستخراج والتصنيف والشيفرة الروتينية — تكون الفجوة أصغر بكثير مما يُفترض، وغالبًا ما تكون خصائص الخصوصية والكلفة أهم من آخر زيادة في القدرة.

أنفع ما يكون هجينًا

النمط الشائع ليس محليًا فقط ولا سحابيًا فقط. إنه محلي لكل ما هو حساس أو عالي الحجم، ومستضاف لأصعب الأسئلة، وسياسة تقرّر أيّهما — وهذا بالضبط ما وُجد له الموجّه.

أسئلة يطرحها الناس

أي عتاد أحتاج؟

يعتمد كليًا على حجم النموذج والتكميم، ومن يعطيك رقمًا واحدًا فهو يخمّن. والقيد المهيمن هو الذاكرة المتاحة: يجب أن تتّسع الأوزان، وما يتّسع يحدّد ما تستطيع تشغيله.

هل الذكاء المحلي خاص بالتعريف؟

استدعاء النموذج نعم. أما بقية التطبيق فقد لا تكون كذلك: البحث والقياس عن بُعد وتكاملات أخرى قد تخرج إلى الشبكة. الخصوصية خاصية النظام كله لا مكوّن واحد.

هل تستطيع النماذج المحلية استخدام مستنداتي؟

نعم. الاسترجاع يعمل بالطريقة نفسها، وحين يكون الاسترجاع والنموذج محليَّين لا تغادر المستندات عتادك في أي لحظة.