Confiabilidade na ClawAI: fallback, disjuntores e streams retomáveis

Fallback automático para outro modelo

Cada solicitação roteada carrega uma lista de modelos candidatos. Se o modelo escolhido falhar no meio da solicitação, a ClawAI passa automaticamente para o próximo candidato, e a resposta registra qual modelo realmente respondeu, não apenas o escolhido primeiro.

Um disjuntor compartilhado para provedores esgotados

Quando uma conta de provedor fica sem crédito, um disjuntor tira esse provedor de rotação por dez minutos e depois deixa passar uma única chamada de teste para ver se ele se recuperou. O estado do disjuntor é compartilhado no Redis entre todos os servidores de chat, então uma falha é aprendida uma vez só, em vez de ser redescoberta por cada servidor, e cada servidor recorre à sua própria cópia se o Redis estiver indisponível.

Um Parar que sempre para, streams que retomam

Apertar Parar é transmitido a todos os servidores de chat, então aquele que estiver rodando o modelo o interrompe. Se a sua conexão cair enquanto uma resposta está sendo transmitida, a reconexão reproduz os eventos perdidos a partir de um buffer, em vez de perder o restante da resposta.

Perguntas frequentes

O que acontece se um modelo falhar no meio de uma resposta?

A ClawAI passa automaticamente para o próximo modelo candidato, e a resposta mostra qual modelo realmente a produziu.

Contra o que o disjuntor de provedores protege?

Contra uma conta de provedor que ficou sem crédito. Ela é ignorada por dez minutos e depois testada com uma chamada, em vez de todas as solicitações falharem contra ela nesse meio-tempo.

Perco uma resposta se minha conexão cair?

Não. Quando o stream se reconecta, os eventos perdidos são reproduzidos a partir de um buffer no servidor e a resposta continua.