Fundamentos
¿Cómo generan respuestas los modelos de lenguaje?
Descubre cómo un modelo tokeniza texto, predice el siguiente token según el contexto, muestrea una respuesta y por qué puede equivocarse.
Todas las guías · Última revisión:
El texto entra como tokens
Antes de generar, un tokenizador divide las instrucciones, la conversación, los resultados de herramientas y el contexto adjunto. Un token puede ser una palabra, parte de ella o un signo. El modelo procesa identificadores, no las frases como las ve una persona; por eso la ortografía, el formato y el idioma afectan al espacio usado en la ventana de contexto.
El modelo predice un token cada vez
Para la secuencia disponible, la red asigna una probabilidad a cada siguiente token de su vocabulario. Una regla de decodificación selecciona uno, lo agrega y vuelve a calcular. El ciclo termina al aparecer un token de parada o alcanzar un límite; normalmente no recupera una respuesta completa guardada de antemano.
El contexto cambia las probabilidades
Las instrucciones del sistema, la petición, los mensajes anteriores y los documentos aportados desplazan las probabilidades mientras quepan en el contexto activo. Elegir el token más probable suele ser más repetible; muestrear entre opciones plausibles produce variedad. La temperatura y controles similares cambian la selección, pero no aportan hechos nuevos.
Generar no es consultar una base de datos
El entrenamiento distribuye patrones del texto entre muchos pesos numéricos; no crea un catálogo de pasajes con direcciones fiables. Sin recuperación o una herramienta aparte, el modelo no abre un registro fuente para demostrar una afirmación. Por eso una respuesta fluida puede combinar patrones familiares en una afirmación sin respaldo real.
Límites prácticos que conviene prever
Los modelos pueden inventar detalles, interpretar mal una petición ambigua, omitir lo que queda fuera del contexto, repetir sesgos del entrenamiento y fallar en cálculos o razonamientos largos. Trata los resultados importantes como borradores: aporta contexto, usa recuperación o herramientas para hechos actuales y verifica las afirmaciones relevantes con una fuente o prueba independiente.
Preguntas frecuentes
- ¿Un modelo de lenguaje entiende su respuesta?
- Puede representar relaciones complejas y producir texto parecido al razonamiento, pero llamarlo comprensión humana añade algo que el mecanismo no demuestra. En términos operativos, predice tokens desde parámetros aprendidos y el contexto.
- ¿Por qué el mismo prompt puede dar respuestas distintas?
- Al muestrear entre varios tokens plausibles, una elección temprana diferente cambia todas las probabilidades posteriores. Los ajustes deterministas reducen la variación, pero no garantizan que la respuesta repetida sea correcta.
- ¿Puede un modelo citar sus fuentes?
- Solo si las fuentes se aportan mediante contexto, recuperación o una herramienta y el sistema conserva esa relación. Una cita generada solo desde los pesos puede ser inventada, así que debe verificarse.
Pruébalo en lugar de leer sobre ello
ClawAI dirige prompts a modelos locales o en la nube configurados y puede ejecutar flujos de comparación y verificación; el modelo elegido sigue generando tokens de forma probabilística, así que el enrutamiento no garantiza la verdad.