SLM (Small Language Model)
Modelos de lenguaje pequeños y eficientes, diseñados para tareas específicas con menor consumo de recursos que los LLMs gigantes.
Pronunciación
Qué es
Un SLM (Small Language Model) es un modelo de lenguaje con menos parámetros que los LLMs gigantes, diseñado para:
- Tareas específicas en lugar de propósito general
- Ejecutar en hardware limitado (laptops, móviles, edge)
- Menor latencia y costo operativo
- Fine-tuning más fácil y económico
Errores comunes de pronunciación
- ❌ “eslm” (no es una palabra)
- ❌ “slim” (no es la palabra inglesa “delgado”)
LLM vs SLM: Comparación
| Aspecto | LLM (Large) | SLM (Small) |
|---|---|---|
| Parámetros | Decenas o cientos de miles de millones (muchos no publican la cifra) | Desde cientos de millones hasta ~10-15B (no hay umbral oficial) |
| Hardware | GPUs de datacenter | Laptop, móvil, edge o una GPU modesta |
| Latencia | Mayor | Menor |
| Costo por query | Mayor | Mucho menor, sobre todo self-hosted |
| Propósito | General | Específico |
| Fine-tuning | Costoso | Más económico |
Ejemplos de SLMs Populares
Familias conocidas (con nuevas versiones frecuentes; revisa la más reciente antes de elegir):
| Modelo | Parámetros | Creador | Fortaleza |
|---|---|---|---|
| Phi-3 mini | 3.8B | Microsoft | Razonamiento |
| Gemma 2 | 2B, 9B (y 27B) | Eficiencia | |
| Llama 3.2 | 1B - 3B | Meta | Open source |
| Mistral 7B | 7B | Mistral AI | Balance |
| Qwen 2.5 | 0.5B - 7B | Alibaba | Multilingüe |
Por qué los SLMs son tendencia
“Fine-tuned SLMs will be the big trend and become a staple used by mature AI enterprises in 2026, as the cost and performance advantages will drive usage over out-of-the-box LLMs.” — Andy Markus, Chief Data Officer de AT&T, citado en In 2026, AI will move from hype to pragmatism (TechCrunch, enero de 2026)
El cambio de paradigma
2023-2024: "Necesitamos el modelo más grande posible"
└→ GPT-4, Claude 3 Opus, Gemini Ultra
2025-2026: "Necesitamos el modelo correcto para la tarea"
└→ SLMs fine-tuneados para casos específicosCaso Práctico: Cuándo usar SLM vs LLM
Escenario: Clasificar tickets de soporte
Cifras ilustrativas para mostrar el orden de magnitud; los precios reales cambian con frecuencia y dependen del proveedor y la infraestructura.
Opción 1: LLM (GPT-4)
- Costo: ~$0.03 por ticket
- 10,000 tickets/día = $300/día = $9,000/mes
- Latencia: 2-5 segundos
- Requiere: API externaOpción 2: SLM fine-tuneado (Phi-3)
- Costo: ~$0.0003 por ticket (self-hosted)
- 10,000 tickets/día = $3/día = $90/mes
- Latencia: 50-200ms
- Requiere: GPU pequeña o CPU potente
- Fine-tuning inicial: ~$500Resultado: en este escenario ilustrativo, el SLM resulta del orden de 100 veces más económico para esta tarea específica.
Cuándo usar cada uno
Usa SLM cuando:
| Escenario | Por qué SLM |
|---|---|
| Clasificación de texto | Tarea específica, alta frecuencia |
| Extracción de entidades | Patrones definidos |
| Chatbot de FAQ | Respuestas predecibles |
| Análisis de sentimiento | Tarea acotada |
| Ejecución en edge | Hardware limitado |
| Datos sensibles | Procesamiento local |
Usa LLM cuando:
| Escenario | Por qué LLM |
|---|---|
| Razonamiento complejo | Requiere conocimiento amplio |
| Generación creativa | Diversidad de outputs |
| Tareas variadas | No sabes qué pedirán |
| Prototipado rápido | Sin tiempo para fine-tuning |
| Multimodalidad | Imágenes + texto |
Cómo implementar un SLM
Paso 1: Elegir el modelo base
# Ejemplo con Hugging Face
from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "microsoft/Phi-3-mini-4k-instruct"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)Paso 2: Fine-tuning (opcional pero recomendado)
from datasets import load_dataset
from trl import SFTConfig, SFTTrainer
# Cargar tu dataset específico
dataset = load_dataset("json", data_files="mis_datos.json")
# Configurar trainer
trainer = SFTTrainer(
model=model,
args=SFTConfig(max_length=512), # ... más configuración
train_dataset=dataset["train"],
)
# Entrenar
trainer.train()Paso 3: Desplegar
# Opción A: Local con llama.cpp (CPU)
# Opción B: Ollama (fácil setup)
# Opción C: vLLM (producción GPU)
# Opción D: API serverless (Replicate, Modal)Arquitectura típica con SLM
┌─────────────────────────────────────────────────────────┐
│ ARQUITECTURA HÍBRIDA LLM/SLM │
├─────────────────────────────────────────────────────────┤
│ │
│ Request │
│ │ │
│ ▼ │
│ ┌──────────────┐ │
│ │ Router │ ← Decide qué modelo usar │
│ └──────┬───────┘ │
│ │ │
│ ┌─────┴─────┐ │
│ │ │ │
│ ▼ ▼ │
│ ┌──────┐ ┌──────┐ │
│ │ SLM │ │ LLM │ │
│ │local │ │ API │ │
│ └──┬───┘ └──┬───┘ │
│ │ │ │
│ └────┬─────┘ │
│ │ │
│ ▼ │
│ ┌──────────┐ │
│ │ Response │ │
│ └──────────┘ │
│ │
│ Lógica del Router: │
│ - Tarea conocida → SLM (rápido, barato) │
│ - Tarea compleja → LLM (capaz, costoso) │
│ │
└─────────────────────────────────────────────────────────┘Sobre los costos
Los precios por millón de tokens de las APIs cambian con frecuencia y varían entre input y output; en self-hosting, el costo depende del hardware y del volumen. Antes de decidir, compara la página de precios vigente de cada proveedor con el costo real de tu infraestructura.
Términos relacionados
- LLM - Large Language Model, modelos grandes
- Fine-tuning - Adaptar un modelo a tareas específicas
- Edge Computing - Procesamiento en dispositivos locales
Recuerda: Los SLMs no reemplazan a los LLMs—los complementan. La estrategia recomendada es usar el modelo correcto para cada tarea, no el modelo más grande disponible.