Categoría: IA por dentro

A esta altura de la serie ya sabés que un modelo tiene el conocimiento congelado en su fecha de entrenamiento y que, cuando no sabe algo, tiende a inventar la continuación más plausible. La solución que la industria adoptó para las dos cosas es la misma: darle al modelo acceso a información externa en el …

Read more “RAG y herramientas: cómo la IA busca, cita y trabaja con datos frescos”

La IA a veces afirma con total aplomo cosas que son falsas: inventa una cita, un dato o un artículo que nunca existió. A eso se le llama alucinación, y es una de las cosas que más desconcierta a quien empieza a usar estas herramientas. La alucinación es una consecuencia directa de cómo el modelo …

Read more “Por qué la IA alucina: inferencia, ventana de contexto y temperatura”

Un Transformer recién armado es una hoja en blanco con miles de millones de parámetros puestos al azar. No sabe español, no conoce ningún hecho, no sigue instrucciones. Todo lo que después parece inteligencia entra durante el entrenamiento, que hoy se hace en tres etapas bien distintas. Entenderlas explica por qué un modelo sabe tanto, …

Read more “Cómo se entrena un modelo: preentrenamiento, ajuste fino y RLHF”

Si hay un solo invento detrás del salto de la IA moderna, es el Transformer. Apareció en 2017 en un paper con un título que ya es célebre, “Attention Is All You Need”, y en pocos años se volvió la base de casi todos los modelos grandes: GPT, Gemini, Claude, LLaMA. Entender el mecanismo de …

Read more “Atención y Transformers: la arquitectura que hizo posible la IA de hoy”

Una red neuronal no sabe leer. No ve la palabra “gato”, ve números. Antes de que un modelo pueda predecir nada, tu texto atraviesa dos traducciones fundamentales: primero se parte en tokens y después cada token se convierte en un vector de números llamado embedding. Entender estas dos piezas explica un montón de comportamientos raros …

Read more “Tokens y embeddings: cómo la IA convierte palabras en números”

Cuando le escribís algo a ChatGPT y te responde con un párrafo redondo, parece que del otro lado hay alguien que entiende. Por dentro, la máquina hace una sola cosa, muy concreta y sorprendentemente simple de enunciar: predice cuál es la próxima palabra. Todo lo demás (la gramática, el tono, los datos, la sensación de …

Read more “Cómo aprende a hablar una máquina: qué es un modelo de lenguaje y por qué predice texto”