Guide
Guide: IA multimodello, routing e orchestrazione
Spiegazioni chiare delle tecniche dietro l’IA multimodello: routing, consenso, verifica, RAG, memoria e modelli open-weight sul tuo hardware.
Ultima verifica:
Guardalo nell’app
Ogni risposta mostra quale modello l’ha scritta e perché.
Scegli un concetto
- Come i modelli linguistici generano risposteCome un prompt diventa token, probabilità e infine una risposta generata.
- Che cosa sono i token dell’IA?L’unità che un modello legge e scrive davvero, e perché un numero esatto richiede il suo tokenizer.
- Cosa controllano temperature e top-p?Cosa cambiano davvero temperature e top-p in una risposta, e cosa non possono cambiare.
- Cosa sono gli embedding?Come il testo diventa un vettore di numeri, e perché questo rende possibile cercare per significato.
- Prompting vs. RAG vs. fine-tuning: qual è la differenza?Tre soluzioni diverse per tre problemi diversi, e perché molti prodotti non hanno mai bisogno della terza.
- Come funziona davvero la chiamata di strumenti nell’IA?Il modello non esegue mai nulla — propone una chiamata, e la tua applicazione decide cosa succede dopo.
- Cosa sono gli output strutturati dell’IA?Chiedere JSON a un modello è una richiesta; solo alcuni meccanismi garantiscono davvero che corrisponda al tuo schema.
- Perché l’IA ha le allucinazioni?Perché un modello afferma una risposta sbagliata con la stessa sicurezza di una giusta — e cosa la riduce davvero.
- Che cos’è l’IA multimodello?Usare più modelli in un unico flusso invece di legarsi a uno solo.
- Che cos’è l’orchestrazione LLM?Lo strato che decide quale modello viene eseguito, in che ordine e cosa accade all’output.
- Che cos’è il routing dei modelli IA?Inviare ogni richiesta a un modello scelto per compito, costo, riservatezza o latenza.
- Che cos’è il fallback tra modelli?Cosa deve accadere quando il primo modello cade, viene limitato o rifiuta.
- Che cos’è il consenso tra modelli IA?Porre la stessa domanda a più modelli e usare il loro accordo come segnale.
- Che cos’è il best-of-N?Generare più risposte candidate e tenere la migliore.
- Che cos’è un giudice IA?Usare un modello per valutare le risposte di altri, e dove questo si rompe.
- Che cos’è la verifica delle risposte IA?Controllare una risposta con qualcosa di diverso dal modello che l’ha prodotta.
- Che cos’è una finestra di contesto?La memoria di lavoro di una singola richiesta, e perché non è memoria.
- Che cos’è la generazione aumentata dal recupero?Recuperare i tuoi documenti e metterli davanti al modello.
- Che cos’è la memoria di un assistente IA?Cosa resta tra una conversazione e l’altra, e quanto ti costa.
- Che cosa sono i pacchetti di contesto?Pacchetti di contesto riutilizzabili che alleghi a una conversazione di proposito.
- Che cos’è l’IA locale?Eseguire un modello su hardware che controlli, e cosa cambia davvero.
- Che cosa sono i modelli open-weight?Modelli di cui puoi scaricare i pesi, e cosa significa e non significa «aperto».
- Che cos’è l’IA self-hosted?Eseguire l’intera applicazione da soli, non solo il modello.
- Ollama o llama.cppDue modi di eseguire modelli open-weight in locale, e a cosa serve ciascuno.
- IA cloud o IA localeIl vero scambio: capacità e comodità contro controllo e forma del costo.
- Agente IA o chatbotLa differenza tra risponderti e fare qualcosa al posto tuo.
- Come valutare i modelli di IA per il proprio usoCosa testare davvero prima di affidare il tuo lavoro a un modello — non un numero da classifica.
- Come leggere i benchmark di IA senza farsi ingannareCosa misura davvero un numero da benchmark, e i modi in cui può trarti in inganno ancora prima di iniziare a testare.
- Cos’è il prompt injection?Un testo che non è tuo può comunque dare istruzioni al modello — cosa significa e perché un modello più intelligente non può risolverlo del tutto.
- Privacy e conservazione dei dati IA, spiegateCosa succede davvero a quello che scrivi in un prodotto IA — chi lo vede, se addestra un modello, e per quanto tempo resta lì.