Entendiendo los Large Language Models (LLMs)
John Jairo Herrera Cardona · Erley Fabian Valencia Carvajal
Maestría en Inteligencia Artificial · Universidad de La Salle
Maestría en Inteligencia Artificial · Universidad de La Salle
Sistemas LLMs Avanzados
Actividad 1
Sección 1
¿Qué son los LLM?
Un Large Language Model (LLM) es un sistema de inteligencia artificial entrenado con enormes cantidades de texto para comprender y generar lenguaje humano. Funciona prediciendo la siguiente palabra más probable en un texto, aprendiendo patrones del lenguaje a escala masiva.
Token
Unidad mínima de texto. Puede ser una palabra, sílaba o símbolo. Los LLM procesan input tokens (entrada) y generan output tokens (respuesta).
Ventana de contexto
Cantidad máxima de tokens que el modelo puede "recordar" en una conversación. Es su memoria activa de corto plazo.
Razonamiento (learning rate)
Capacidad del modelo para conectar conceptos y llegar a conclusiones. El learning rate controla qué tanto aprende en cada paso del entrenamiento.
Bases de datos vectoriales
Almacenan información como representaciones matemáticas (vectores) para que el LLM pueda buscar y recuperar conocimiento semántico eficientemente.
Texto
Imágenes
Audio
Video
Código
Los LLMs modernos son multimodales: procesan múltiples tipos de datos, no solo texto.
Sección 2
¿Cómo funcionan?
El proceso tiene tres fases principales: el usuario envía un texto, el modelo lo procesa usando matemáticas avanzadas y bases vectoriales, y devuelve una respuesta generada token por token.
Entrada
Input tokens (tu pregunta)
→
Tokenización
Texto → números
→
Transformers
Atención y contexto
→
Respuesta
Output tokens generados
El corazón del LLM es la arquitectura Transformer, que usa mecanismos de atención para saber qué partes del texto son más relevantes para generar cada token de salida. Las bases de datos vectoriales complementan este proceso aportando conocimiento externo de forma eficiente.
Sección 3
Modelos Open Source vs Propietarios
Existen dos grandes enfoques para usar LLMs: los modelos Open Source, que pueden descargarse, adaptarse y ejecutarse en infraestructura propia; y los modelos propietarios, que suelen consumirse mediante plataformas cerradas o servicios en la nube.
🟢 Open Source
Mayor control técnico y posibilidad de personalización.
Ejemplos: Llama, Mistral, Falcon, Gemma y Phi.
Ventaja: se pueden ajustar a necesidades específicas.
Uso ideal: investigación, educación, privacidad y despliegue local.
🔵 Propietarios
Mayor facilidad de uso y acceso rápido a modelos avanzados.
Ejemplos: GPT, Claude, Gemini y Copilot.
Ventaja: alto rendimiento sin administrar infraestructura.
Uso ideal: productividad, empresas, asistentes virtuales y tareas generales.
Criterio
Open Source
Propietario
Acceso
Código o pesos disponibles, según licencia.
Acceso controlado por proveedor.
Personalización
Alta: permite ajuste fino y despliegue propio.
Limitada: depende de las opciones del servicio.
Costos
Menor costo de licencia, pero requiere infraestructura.
Pago por uso, suscripción o consumo de API.
Privacidad
Mayor control si se ejecuta localmente.
Depende de las políticas del proveedor.
Facilidad
Requiere conocimientos técnicos para instalar y mantener.
Más fácil de usar e integrar rápidamente.
Conclusión: los modelos Open Source son ideales cuando se necesita control, privacidad y personalización. Los propietarios son convenientes cuando se busca rapidez, soporte y alto rendimiento sin gestionar infraestructura.
Sección 4
Aplicaciones en educación - selecciona cada caso
Industria seleccionada: Educación. Los LLMs están transformando la forma en que se enseña, aprende y evalúa el conocimiento.
Tutor inteligente personalizado
Un LLM puede actuar como tutor 24/7, adaptando sus explicaciones al nivel y ritmo de cada estudiante. Detecta dificultades, reformula conceptos y ofrece ejemplos ajustados a los intereses del alumno. Plataformas como Khan Academy y Duolingo ya integran este enfoque.
Aprendizaje adaptativo y personalizado
Generación automática de material educativo
Los docentes pueden usar LLMs para crear quizzes, resúmenes, ejercicios y planes de clase en minutos. Un profesor puede ingresar el tema y nivel educativo, y obtener material listo para usar, reduciendo horas de preparación y aumentando la variedad del contenido.
Mayor productividad docente
Evaluación y retroalimentación automática
Los LLMs pueden calificar ensayos, trabajos escritos y respuestas abiertas con retroalimentación detallada. No solo detectan errores gramaticales, sino que evalúan argumentación, coherencia y profundidad, dando a los estudiantes comentarios inmediatos y accionables.
Retroalimentación inmediata y objetiva
Accesibilidad e inclusión educativa
Los LLMs pueden traducir contenido a múltiples idiomas, simplificar textos complejos para estudiantes con dificultades de aprendizaje, y generar material en formatos accesibles (texto a voz, resúmenes visuales). Reducen barreras para personas con discapacidades o en zonas con baja cobertura docente.
Educación incluyente y multilingüe
Sección 5
Beneficios de los LLM
Velocidad
Procesan y generan texto en segundos, automatizando tareas que tomarían horas
Multilingüe
Comprenden y traducen decenas de idiomas con alta precisión
Versatilidad
Una misma arquitectura sirve para redactar, programar, analizar y más
Escalabilidad
Atienden millones de usuarios simultáneamente sin perder calidad
Acceso abierto
Los modelos open source democratizan la IA para cualquier organización
Colaboración
Potencian el trabajo humano en vez de reemplazarlo
Recursos
Referencias y herramientas recomendadas
Trummer (2024) - LLMs: Principles and Practice (IEEE ICDE)
↗
Jayakody & Dias (2024) - Performance of LLMs for low-resource languages
↗
Norheim & Rebentisch (2024) - Structuring requirements with LLMs
↗
Hugging Face - Repositorio de modelos open source
↗
Ollama - Ejecuta LLMs localmente en tu computador
↗
Clase del profesor
↗