Guide
Guide: IA multimodello, routing e orchestrazione
Spiegazioni chiare delle tecniche dietro l’IA multimodello: routing, consenso, verifica, RAG, memoria e modelli open-weight sul tuo hardware.
Ultima verifica:
Scegli un concetto
- Che cos’è l’IA multimodello?Usare più modelli in un unico flusso invece di legarsi a uno solo.
- Che cos’è l’orchestrazione LLM?Lo strato che decide quale modello viene eseguito, in che ordine e cosa accade all’output.
- Che cos’è il routing dei modelli IA?Inviare ogni richiesta a un modello scelto per compito, costo, riservatezza o latenza.
- Che cos’è il fallback tra modelli?Cosa deve accadere quando il primo modello cade, viene limitato o rifiuta.
- Che cos’è il consenso tra modelli IA?Porre la stessa domanda a più modelli e usare il loro accordo come segnale.
- Che cos’è il best-of-N?Generare più risposte candidate e tenere la migliore.
- Che cos’è un giudice IA?Usare un modello per valutare le risposte di altri, e dove questo si rompe.
- Che cos’è la verifica delle risposte IA?Controllare una risposta con qualcosa di diverso dal modello che l’ha prodotta.
- Che cos’è una finestra di contesto?La memoria di lavoro di una singola richiesta, e perché non è memoria.
- Che cos’è la generazione aumentata dal recupero?Recuperare i tuoi documenti e metterli davanti al modello.
- Che cos’è la memoria di un assistente IA?Cosa resta tra una conversazione e l’altra, e quanto ti costa.
- Che cosa sono i pacchetti di contesto?Pacchetti di contesto riutilizzabili che alleghi a una conversazione di proposito.
- Che cos’è l’IA locale?Eseguire un modello su hardware che controlli, e cosa cambia davvero.
- Che cosa sono i modelli open-weight?Modelli di cui puoi scaricare i pesi, e cosa significa e non significa «aperto».
- Che cos’è l’IA self-hosted?Eseguire l’intera applicazione da soli, non solo il modello.
- Ollama o llama.cppDue modi di eseguire modelli open-weight in locale, e a cosa serve ciascuno.
- IA cloud o IA localeIl vero scambio: capacità e comodità contro controllo e forma del costo.
- Agente IA o chatbotLa differenza tra risponderti e fare qualcosa al posto tuo.