به محتوای اصلی بروید

قابلیت

پایداری در ClawAI: جایگزینی، قطع‌کننده و جریان ازسرگرفتنی

ClawAI وقتی ارائه‌دهنده‌ای از کار می‌افتد چه می‌کند: جایگزینی خودکار با مدلی دیگر، قطع‌کنندهٔ مشترک برای حساب‌های ارائه‌دهندهٔ بی‌اعتبار، و جریان‌هایی که پس از اتصال دوباره ادامه می‌یابند.

همه امکانات · آخرین بازبینی:

جایگزینی خودکار با مدلی دیگر

هر درخواستِ مسیریابی‌شده فهرستی از مدل‌های نامزد همراه دارد. اگر مدل انتخاب‌شده در میانهٔ درخواست ناموفق شود، ClawAI خودکار به نامزد بعدی می‌رود و پاسخ ثبت می‌کند کدام مدل واقعاً پاسخ داده است، نه فقط مدلی که اول انتخاب شده بود.

قطع‌کنندهٔ مشترک برای ارائه‌دهندگان بی‌اعتبار

وقتی اعتبار حساب یک ارائه‌دهنده تمام می‌شود، یک قطع‌کننده آن ارائه‌دهنده را ده دقیقه از چرخه بیرون می‌گذارد و سپس یک فراخوانی آزمایشی را عبور می‌دهد تا ببیند بهبود یافته است یا نه. وضعیت قطع‌کننده در Redis میان همهٔ سرورهای گفت‌وگو مشترک است، پس هر خرابی یک بار آموخته می‌شود و هر سرور آن را از نو کشف نمی‌کند، و اگر Redis در دسترس نباشد هر سرور به نسخهٔ خودش برمی‌گردد.

توقفی که همیشه متوقف می‌کند، جریان‌هایی که ادامه می‌یابند

زدن دکمهٔ توقف به همهٔ سرورهای گفت‌وگو ارسال می‌شود، پس هر سروری که مدل را اجرا می‌کند آن را قطع می‌کند. اگر اتصال شما هنگام پخش جریانی پاسخ قطع شود، اتصال دوباره رویدادهای از دست رفته را از یک میان‌گیر بازپخش می‌کند، به جای آنکه بقیهٔ پاسخ از دست برود.

پرسش‌های پرتکرار

اگر مدلی در میانهٔ یک پاسخ ناموفق شود چه می‌شود؟
ClawAI خودکار به مدل نامزد بعدی می‌رود و پاسخ نشان می‌دهد کدام مدل واقعاً آن را تولید کرده است.
قطع‌کنندهٔ ارائه‌دهنده در برابر چه چیزی محافظت می‌کند؟
در برابر حساب ارائه‌دهنده‌ای که اعتبارش تمام شده است. آن ارائه‌دهنده ده دقیقه کنار گذاشته می‌شود و سپس با یک فراخوانی آزموده می‌شود، به جای آنکه در این فاصله هر درخواستی روی آن شکست بخورد.
اگر اتصالم قطع شود پاسخ را از دست می‌دهم؟
نه. وقتی جریان دوباره وصل شود، رویدادهای از دست رفته از یک میان‌گیر سمت سرور بازپخش می‌شوند و پاسخ ادامه می‌یابد.

به‌جای باور حرف ما، خودتان امتحان کنید

جایگزینی، قطع‌کنندهٔ ارائه‌دهندهٔ مشترک در Redis، توقف میان‌سروری و جریان‌های ازسرگرفتنی همگی امروز در سرویس گفت‌وگو هستند؛ اپراتورها وضعیت قطع‌کننده را در صفحهٔ کانکتورهای مدیریت می‌بینند.