IA & Machine LearningIntermedio

LLM

Large Language Model - Modelos de lenguaje a gran escala que pueden entender y generar texto de forma casi humana, como los que impulsan GPT, Claude y Gemini.

Pronunciación

/ɛl ɛl ɛm/
"el-el-em"
Escuchar en:Forvo

Qué es

LLM (Large Language Model) es un tipo de modelo de inteligencia artificial entrenado con enormes cantidades de texto para:

  1. Entender lenguaje natural - Comprender preguntas, instrucciones y contexto
  2. Generar texto coherente - Respuestas, código, documentación
  3. Razonar - Seguir lógica, resolver problemas paso a paso
  4. Traducir y resumir - Entre idiomas y formatos

Los LLMs son el “cerebro” detrás de ChatGPT, Claude, Gemini y Copilot.

Cómo se le llama también

  • “Large Language Model” completo
  • “Modelo de lenguaje grande” (en español)
  • “Modelo fundacional” (foundation model, término más amplio)

Cómo funciona

┌─────────────────────────────────────────────────────────────┐
│                    ARQUITECTURA LLM                          │
├─────────────────────────────────────────────────────────────┤
│                                                              │
│   ENTRENAMIENTO (una vez, más ajustes posteriores)          │
│   ┌──────────────────────────────────────────────────────┐  │
│   │  Internet, libros, código, conversaciones            │  │
│   │  → Billones de tokens de texto                       │  │
│   │  → Semanas/meses en miles de GPUs                    │  │
│   └──────────────────────────────────────────────────────┘  │
│                           │                                  │
│                           ▼                                  │
│   MODELO ENTRENADO                                          │
│   ┌──────────────────────────────────────────────────────┐  │
│   │  Parámetros: de miles de millones a cientos de miles │  │
│   │  de millones (o más)                                 │  │
│   │  Conocimiento "congelado" en pesos                   │  │
│   └──────────────────────────────────────────────────────┘  │
│                           │                                  │
│                           ▼                                  │
│   INFERENCIA (cada uso)                                     │
│   ┌──────────────────────────────────────────────────────┐  │
│   │  Usuario: "Explica qué es Kubernetes"                │  │
│   │  LLM: Predice siguiente token → siguiente → ...      │  │
│   │  Respuesta: "Kubernetes es una plataforma..."        │  │
│   └──────────────────────────────────────────────────────┘  │
│                                                              │
└─────────────────────────────────────────────────────────────┘

Principales familias de LLMs

Familia Empresa Pesos Fortaleza
GPT OpenAI Cerrados (API) Razonamiento general
Claude Anthropic Cerrados (API) Código, seguridad
Gemini Google Cerrados (API) Multimodal, búsqueda
Llama Meta Abiertos (hasta 405B en Llama 3.1) Despliegue propio
Mistral Mistral AI Abiertos y cerrados Eficiencia, empresa europea

Las versiones cambian cada pocos meses y la mayoría de los proveedores de modelos cerrados no publica el número de parámetros. Consulta la documentación de cada proveedor para conocer el modelo vigente.

LLM vs SLM

Aspecto LLM (Grande) SLM (Pequeño)
Parámetros Decenas o cientos de miles de millones Desde cientos de millones hasta ~10-15B
Hardware GPUs potentes, cloud Laptop, teléfono, GPU modesta
Costo Mayor (se paga por token vía API) Menor, o solo hardware si es local
Capacidad Tareas complejas y variadas Tareas específicas
Ejemplos GPT, Claude, Gemini Phi-3, Llama 3.2 1B/3B

Caso práctico: LLM en desarrollo

Antes (sin LLM)

Desarrollador: Buscar en Stack Overflow
              Leer documentación
              Copiar/adaptar código
              Depurar manualmente

Ahora (con LLM)

Desarrollador: "Implementa autenticación JWT en Express"

LLM: Genera un borrador de código + tests + documentación
     Explica cada parte
     Sugiere mejoras de seguridad

Desarrollador: Revisa, prueba y ajusta antes de integrar

El ahorro de tiempo varía mucho según la tarea y la experiencia del equipo; la revisión humana sigue siendo imprescindible.

Limitaciones

Lo que los LLMs NO pueden hacer bien

Limitación Descripción
Alucinaciones Inventan información que suena real
Conocimiento limitado Fecha de corte del entrenamiento
Matemáticas complejas Errores en cálculos largos (sin herramientas)
Datos privados No acceden a tu base de datos por sí solos
Tiempo real No conocen la fecha ni eventos actuales sin herramientas

Mitigaciones

┌────────────────────────────────────────┐
│   CÓMO MEJORAR LLMs                     │
├────────────────────────────────────────┤
│                                         │
│   + RAG (Retrieval)                    │
│     → Acceso a documentos actuales     │
│                                         │
│   + Tools/Function Calling             │
│     → Ejecutar código, APIs            │
│                                         │
│   + Fine-tuning                        │
│     → Especializar en tu dominio       │
│                                         │
│   + Agentes                            │
│     → Planificar y ejecutar tareas     │
│                                         │
└────────────────────────────────────────┘

Términos relacionados

  • Agentic AI - LLMs que pueden actuar autónomamente
  • SLM - Modelos pequeños para dispositivos locales
  • MCP - Protocolo para conectar LLMs a herramientas
  • Prompt Injection - Ataques de seguridad contra LLMs

Recuerda: Los LLMs son herramientas poderosas pero no perfectas. Siempre verifica la información crítica y usa tu criterio profesional.