ความน่าเชื่อถือใน ClawAI: การสลับสำรอง ตัวตัดวงจร และสตรีมที่ทำต่อได้

สลับไปยังโมเดลอื่นโดยอัตโนมัติ

ทุกคำขอที่ผ่านการกำหนดเส้นทางจะมีรายชื่อโมเดลผู้สมัครติดไปด้วย หากโมเดลที่เลือกล้มเหลวกลางคำขอ ClawAI จะย้ายไปยังผู้สมัครถัดไปโดยอัตโนมัติ และคำตอบจะบันทึกว่าโมเดลใดตอบจริง ไม่ใช่แค่โมเดลที่เลือกไว้ตอนแรก

ตัวตัดวงจรร่วมสำหรับผู้ให้บริการที่เครดิตหมด

เมื่อบัญชีผู้ให้บริการใช้เครดิตหมด ตัวตัดวงจรจะนำผู้ให้บริการนั้นออกจากการหมุนเวียนเป็นเวลาสิบนาที แล้วปล่อยให้การเรียกทดสอบหนึ่งครั้งผ่านไปเพื่อดูว่ากลับมาใช้ได้หรือยัง สถานะของตัวตัดวงจรถูกแชร์ผ่าน Redis ระหว่างเซิร์ฟเวอร์แชททุกเครื่อง ความล้มเหลวหนึ่งครั้งจึงถูกเรียนรู้ครั้งเดียว ไม่ต้องให้แต่ละเซิร์ฟเวอร์ค้นพบซ้ำ และแต่ละเซิร์ฟเวอร์จะใช้สำเนาของตัวเองหาก Redis ใช้งานไม่ได้

ปุ่มหยุดที่หยุดได้จริง และสตรีมที่ทำต่อได้

การกดหยุดจะถูกกระจายไปยังเซิร์ฟเวอร์แชททุกเครื่อง เซิร์ฟเวอร์ใดที่กำลังรันโมเดลอยู่ก็จะยกเลิกได้ทันที หากการเชื่อมต่อของคุณหลุดระหว่างสตรีมคำตอบ การเชื่อมต่อใหม่จะเล่นเหตุการณ์ที่คุณพลาดไปซ้ำจากบัฟเฟอร์ แทนที่จะสูญเสียคำตอบส่วนที่เหลือ

คำถามที่พบบ่อย

จะเกิดอะไรขึ้นถ้าโมเดลล้มเหลวกลางคำตอบ?

ClawAI จะสลับไปยังโมเดลผู้สมัครถัดไปโดยอัตโนมัติ และคำตอบจะแสดงว่าโมเดลใดเป็นผู้สร้างคำตอบนั้นจริง

ตัวตัดวงจรผู้ให้บริการป้องกันอะไร?

ป้องกันบัญชีผู้ให้บริการที่เครดิตหมดแล้ว ระบบจะข้ามผู้ให้บริการนั้นเป็นเวลาสิบนาทีแล้วทดสอบด้วยการเรียกหนึ่งครั้ง แทนที่จะปล่อยให้ทุกคำขอล้มเหลวซ้ำ ๆ ในระหว่างนั้น

ฉันจะเสียคำตอบไปไหมถ้าการเชื่อมต่อหลุด?

ไม่ เมื่อสตรีมเชื่อมต่อใหม่ เหตุการณ์ที่คุณพลาดไปจะถูกเล่นซ้ำจากบัฟเฟอร์ฝั่งเซิร์ฟเวอร์ และคำตอบจะดำเนินต่อ