LLMs en la Práctica: Inferencia, Cuantización y Fine-Tuning LoRA
Despliegue y adaptación de modelos masivos (LLMs) de pesos abiertos con técnicas de cuantización y fine-tuning de bajo rango.
- Arquitectura Transformer y mecanismos de atención.
- Inferencia acelerada con vLLM y Ollama.
- Cuantización moderna (AWQ, GPTQ, GGUF).
- Fine-tuning supervisado (SFT) con LoRA y QLoRA.