Guias
Guias: IA multimodelo, roteamento e orquestração
Explicações claras das técnicas por trás da IA multimodelo: roteamento, consenso, verificação, RAG, memória e modelos de pesos abertos no seu próprio hardware.
Última revisão:
Escolha um conceito
- O que é IA multimodelo?Usar vários modelos num mesmo fluxo em vez de se prender a um só.
- O que é orquestração de LLM?A camada que decide qual modelo roda, em que ordem e o que acontece com o resultado.
- O que é roteamento de modelos de IA?Enviar cada requisição a um modelo escolhido por tarefa, custo, privacidade ou latência.
- O que é fallback entre modelos?O que deve acontecer quando o primeiro modelo cai, é limitado ou recusa.
- O que é consenso entre modelos de IA?Fazer a mesma pergunta a vários modelos e usar a concordância como sinal.
- O que é melhor de N?Gerar várias respostas candidatas e ficar com a melhor.
- O que é um juiz de IA?Usar um modelo para pontuar respostas de outros, e onde isso falha.
- O que é verificação de respostas de IA?Conferir uma resposta contra algo diferente do modelo que a produziu.
- O que é uma janela de contexto?A memória de trabalho de uma única requisição, e por que não é memória.
- O que é geração aumentada por recuperação?Recuperar seus próprios documentos e colocá-los diante do modelo.
- O que é memória num assistente de IA?O que persiste entre conversas, e quanto isso custa.
- O que são pacotes de contexto?Pacotes de contexto reutilizáveis que você anexa a uma conversa de propósito.
- O que é IA local?Rodar um modelo em hardware que você controla, e o que isso muda de fato.
- O que são modelos de pesos abertos?Modelos cujos pesos você pode baixar — e o que «aberto» significa e não significa.
- O que é IA auto-hospedada?Rodar a aplicação inteira por conta própria, não apenas o modelo.
- Ollama ou llama.cppDuas formas de rodar modelos de pesos abertos localmente, e para que serve cada uma.
- IA em nuvem ou IA localA troca real: capacidade e conveniência contra controle e formato de custo.
- Agente de IA ou chatbotA diferença entre responder a você e fazer algo por você.