Dive into LLMs: prácticas guiadas para aprender grandes modelos de lenguaje

Todo lo que hay que saber sobre Lordog/dive-into-llms: un curso gratuito, principalmente en chino, que convierte temas de modelos de lenguaje en apuntes, cuadernos y ejercicios reproducibles.

Qué es Dive into LLMs

Dive into LLMs es una serie de tutoriales prácticos de programación sobre modelos de lenguaje de gran tamaño. El repositorio reúne diapositivas, guías por capítulo y cuadernos Jupyter; su objetivo declarado es ofrecer una referencia de iniciación mediante prácticas sencillas para alumnado que prepara proyectos de asignatura o investigación.

El material procede de las asignaturas de la Universidad Jiao Tong de Shanghái sobre tecnologías de procesamiento del lenguaje natural y seguridad de IA. El README lo describe como gratuito y de carácter público; no es una biblioteca que se instale como paquete ni un modelo preentrenado.

Red neuronal luminosa con forma de libro abierto flotando en un espacio de trabajo cyberpunk oscuro, con interfaces holográficas de cuadernos Jupyter y líneas de código emanando de las páginas.

El origen: de apuntes universitarios a curso abierto

El repositorio se creó el 8 de abril de 2024. Su propietario, Tongxin Yuan (Lordog), se identifica en GitHub como estudiante de máster centrado en seguridad de modelos e inteligencia artificial de agentes y vinculado a la Universidad Jiao Tong de Shanghái.

La autoría es colectiva. El README acredita un equipo de docentes y estudiantes de la Universidad Jiao Tong de Shanghái, y colaboradores de la Universidad Nacional de Singapur. Entre ellos figura Zhuosheng Zhang como docente de las asignaturas de origen.

Patio de una universidad moderna de noche, inspirado en la Universidad Jiao Tong de Shanghái, con flujos de datos neón conectando los edificios y un escudo académico luminoso fusionado con la silueta de un octogato de GitHub.

La actualización de 6 de junio de 2025 amplió el curso con temas de razonamiento matemático, agentes de interfaz gráfica, alineamiento y esteganografía. También anunció un curso complementario, realizado con la comunidad Ascend de Huawei, sobre el ciclo completo de desarrollo de modelos de lenguaje con material, manuales de laboratorio y vídeo.

Filosofía y principios

La propuesta privilegia la práctica sobre una introducción puramente conceptual:

Entrada gradual: cada tema enlaza explicación, diapositivas y código ejecutable.
Aprender modificando: el primer capítulo distingue una versión desacoplada y personalizable de una versión más integrada, para que quien empieza pueda cambiar carga de datos, arquitectura y métricas.
Cobertura del ciclo de vida: combina ajuste fino, inferencia, despliegue, evaluación, seguridad y alineamiento en vez de limitarse a consumir una API.
Acceso abierto: el curso se presenta como gratuito y admite incidencias y solicitudes de cambios como mecanismos de mejora.

Arquitectura de aprendizaje automático personalizable: bloques modulares luminosos que representan cargadores de datos, capas de modelo y métricas siendo reorganizados por brazos robóticos sobre una mesa de trabajo oscura de alta tecnología.

No afirma sustituir formación académica ni garantizar resultados: el aviso del repositorio advierte que el contenido proviene de experiencia de contribuyentes, datos públicos y trabajo de investigación, y que las técnicas son solo referencia.

Cómo funciona

La unidad de aprendizaje es un capítulo en documents/: cada uno suele aportar un PDF, un README y un cuaderno. El índice principal cubre ajuste fino y despliegue; ingeniería de indicaciones y razonamiento encadenado; edición de conocimiento; razonamiento matemático; marcas de agua; ataques de elusión; esteganografía; modelos multimodales; agentes de interfaz gráfica; seguridad de agentes; y alineamiento con aprendizaje por refuerzo a partir de retroalimentación humana.

Visualización del ciclo de vida de un modelo de lenguaje: una tubería circular luminosa con nodos interconectados etiquetados con iconos holográficos para ajuste fino, inferencia, despliegue, evaluación, seguridad y alineamiento.

El primer capítulo trabaja con Transformers, ajuste fino e inferencia, y propone desplegar demostraciones con Gradio Spaces. El capítulo de razonamiento matemático usa ajuste fino supervisado para destilar respuestas de DeepSeek-R1 sobre el conjunto DeepMath-103K y el modelo Qwen2.5-Math-1.5B; el cuaderno conduce por descarga y preparación de datos, entrenamiento, generación y evaluación.

Interfaz holográfica de un cuaderno Jupyter mostrando código Python ejecutado para razonamiento matemático, junto a una proyección 3D de una ecuación compleja siendo resuelta por una red neuronal.

El capítulo de agentes de interfaz gráfica usa Qwen2-VL-7B, el conjunto OS-Kairos y LLaMA-Factory para un ejercicio de ajuste fino supervisado. El capítulo de alineamiento ilustra PPO con GPT-2, un clasificador BERT como recompensa y datos IMDB.

Estado oficial y semioficial

No se recuperó evidencia de que el repositorio esté aceptado en un mercado oficial de plugins, SDK o extensiones. Su condición verificable es la de material docente abierto mantenido en GitHub.

La colaboración con la comunidad Ascend de Huawei es semioficial en sentido educativo: el README anuncia un curso conjunto y enlaza la página de aprendizaje de Ascend. Eso acredita apoyo y distribución del curso complementario, no una certificación de Huawei sobre todos los contenidos del repositorio ni un estándar industrial.

Bóveda de seguridad digital cyberpunk protegiendo un núcleo de IA luminoso, con puertas cubiertas de candados digitales y patrones de esteganografía, mientras indicadores rojos de advertencia se tornan azules calmados a medida que una mano robótica alinea el núcleo.

El ecosistema

Material y repositorios del autor

La consulta de repositorios públicos de Lordog recuperó tres proyectos adicionales: Lordog/R-Judge, un banco de evaluación de conciencia de riesgos de seguridad para agentes; Lordog/agent-guardrail; y una bifurcación de OpenDevin. Solo R-Judge tiene una relación temática clara con la seguridad de agentes; no se presenta en las fuentes como dependencia de Dive into LLMs.

El curso enlaza además recursos externos para prácticas concretas: Transformers y Gradio Spaces en el capítulo de ajuste fino, y el curso de Ascend de Huawei para la ampliación de desarrollo integral.

Bifurcaciones, traducciones y extensiones comunitarias

La búsqueda por nombre exacto y la lista de bifurcaciones identificaron una traducción al inglés, hhprojects/dive-into-llms-en, cuya descripción declara explícitamente que traduce Lordog/dive-into-llms; tenía 17 estrellas durante la consulta. También apareció N1j1k4/llms-, con una descripción que lo identifica como apuntes de estudio derivados del curso y 7 estrellas.

Entre las bifurcaciones más visibles, cooelf/dive-into-llms se describe como tutorial para principiantes y tenía 27 estrellas. Las demás bifurcaciones revisadas conservaban la descripción del original o no documentaban una adaptación distinta; por ello se clasifican como bifurcaciones, no como puertos independientes.

Hay una propuesta de traducción al turco en la incidencia 41 y una solicitud de cambios asociada, pero no se recuperó una traducción turca fusionada en la rama principal.

Números del repositorio

Medición: 9 de agosto de 2026, API de GitHub.

Métrica	Valor
Estrellas	48.524
Bifurcaciones	5.811
Suscriptores	299
Incidencias abiertas indicadas por la API	14
Lenguaje principal	Jupyter Notebook
Licencia	No declarada por la API
Creación	8 de abril de 2024
Última publicación	`v1`, 12 de junio de 2025
Último envío de código	10 de octubre de 2025

Panel de repositorio de GitHub en modo oscuro como centro de comando cyberpunk futurista, con estadísticas holográficas de "48.5k" estrellas, una red de bifurcaciones ramificándose en nodos luminosos y avatares de contribuidores.

Los contribuidores principales recuperados por número de contribuciones fueron Lordog (31), cooelf (15), zwhe99 (8) y dongdongzhaoUP (6). La API devolvió updated_at como 10 de agosto de 2026, fecha posterior al día de esta medición; se transcribe como anomalía del metadato, sin inferir actividad futura.

open_issues_count puede incluir solicitudes de cambios abiertas. Además, watchers_count de la respuesta general replica el número de estrellas; por eso la tabla usa subscribers_count para los suscriptores reales.

Cómo contribuir

No se recuperó un archivo CONTRIBUTING.md, plantilla de solicitud de cambios ni una política detallada de ramas en la raíz ni en .github/. El README sí declara que el proyecto sigue en curso, invita a abrir incidencias y solicitudes de cambios, y acredita a sus contribuyentes.

En la práctica, una contribución verificable debería partir de una bifurcación, modificar el capítulo pertinente y abrir una solicitud de cambios; la lista de solicitudes recuperada incluye correcciones de rutas, compatibilidad de dependencias y una previsualización de traducción turca. Esa es una descripción del flujo habitual de GitHub respaldada por las solicitudes existentes, no una guía de contribución formal publicada por el proyecto.

Cómo lo recibió la comunidad

La señal más sólida de recepción es la adopción en GitHub: 48.524 estrellas y 5.811 bifurcaciones en la medición actual. Las incidencias muestran necesidades concretas de quienes intentan ejecutar el material: enlaces de descarga que dejaron de funcionar, incompatibilidad de MPS en macOS, conflicto entre versiones fijadas de trl y transformers, dudas sobre manuales de laboratorio y petición de traducción turca.

Manuscrito digital luminoso central etiquetado "Dive into LLMs" proyectando traducciones holográficas en distintos idiomas —inglés, chino, turco— hacia el vacío oscuro, con flujos de datos conectando a nodos satélite más pequeños que representan bifurcaciones.

No se halló un hilo directo verificable sobre este repositorio en Hacker News. La consulta por dive-into-llms devuelve publicaciones sobre el vídeo de Andrej Karpathy y otros contenidos homónimos, no sobre Lordog/dive-into-llms; no deben atribuirse sus 582 puntos y 46 comentarios al curso.

Reddit bloqueó la búsqueda automatizada con respuesta 403; X exigió autenticación y Product Hunt devolvió 403. Por tanto, no se afirma ausencia de publicaciones en esas plataformas, solo que no se obtuvo evidencia recuperable. La búsqueda de YouTube devolvió una página de resultados, pero no permitió validar de forma individual un vídeo cuyo título o descripción nombrara este repositorio; se omiten títulos y vistas. Tampoco se recuperaron artículos verificables en Dev.to, Hashnode, blogs, paquetes publicados o podcasts específicamente sobre el curso.

Dive into LLMs frente a otras propuestas

Propuesta	Coincidencia verificable	Diferencia verificable
`hhprojects/dive-into-llms-en`	Declara ser la traducción inglesa de este curso.	Es una traducción comunitaria separada, no la rama principal.
Curso de desarrollo de modelos de lenguaje de Ascend	Comparte el enfoque de formación práctica y el README lo presenta como ampliación conjunta.	Su distribución y materiales se alojan en la comunidad Ascend; no se recuperó evidencia de que sustituya los cuadernos de este repositorio.
`Lordog/R-Judge`	Comparte con algunos capítulos el foco de seguridad de agentes.	La descripción del repositorio lo define como un banco de evaluación de riesgos, mientras Dive into LLMs es un curso de varios temas.

No se incluyen comparaciones de rendimiento: las fuentes recuperadas no aportan una evaluación común entre estas propuestas.

Guía rápida de uso

Instalación y primer arranque

Clone el repositorio y entre en él:

git clone https://github.com/Lordog/dive-into-llms.git
cd dive-into-llms

Para el primer capítulo, la guía propone crear y activar un entorno Conda con Python 3.9 e instalar Transformers:

conda create -n llm python=3.9
conda activate llm
pip install transformers

Después, el material indica descargar los archivos del ejemplo de clasificación de texto de Transformers y ejecutar pip install -r requirements.txt; si se necesita GPU, recomienda instalar PyTorch con conda install pytorch porque el espejo doméstico puede instalar una edición solo de CPU.

Abra el README de un capítulo y ejecute su cuaderno. Por ejemplo, para razonamiento matemático:

jupyter notebook sft_math.ipynb

El cuaderno guía por descarga de datos, carga y entrenamiento, generación y evaluación.

Flujos de trabajo habituales

Ajustar y desplegar un clasificador: siga documents/chapter1/README.md, parta del ejemplo de clasificación de texto y adapte los módulos de datos, modelo y métricas de la versión desacoplada.
Probar indicaciones y razonamiento encadenado: abra el capítulo 2, consiga una clave de API de un proveedor documentado y ejecute el ejemplo de llamada con el modelo indicado en el propio capítulo.
Destilar razonamiento matemático: abra documents/chapter4/sft_math.ipynb; el resultado esperado incluye puntos de control de entrenamiento y resultados de generación.
Reproducir el ejemplo de alineamiento PPO: abra el cuaderno del capítulo 11, descargue los modelos y conjunto de datos con los comandos huggingface-cli download proporcionados allí y ejecute el experimento de GPT-2 con recompensa de sentimiento.

Configuración esencial

documents/chapter1/README.md: guía para preparar el entorno y elegir la variante desacoplada o integrada.
documents/chapter4/sft_math.ipynb: cuaderno para el experimento de razonamiento matemático.
HF_ENDPOINT: el capítulo 11 lo establece en https://hf-mirror.com antes de usar huggingface-cli download; sirve como espejo de descargas.
CUDA_VISIBLE_DEVICES: el cuaderno de RLHF muestra este ajuste como ejemplo para seleccionar GPU.
Rutas locales de datos, modelos y puntos de control: los capítulos de entrenamiento requieren definirlas de acuerdo con el equipo propio; el capítulo 4 pide reservar al menos 50 GB de disco y una GPU con al menos 40 GB de memoria de vídeo.

Trampas frecuentes y soluciones

PyTorch sin aceleración GPU: la guía advierte que un espejo de paquetes puede instalar una versión de CPU; use conda install pytorch cuando necesite GPU.
Falta de recursos para el capítulo matemático: el propio capítulo exige al menos 40 GB de memoria de vídeo y 50 GB de disco; use un entorno con esos recursos antes de iniciar el cuaderno.
Enlaces o dependencias desactualizados: las incidencias registran enlaces de descarga rotos y el choque de versiones entre trl y transformers. Revise las incidencias y las solicitudes de cambios recientes antes de fijar versiones por cuenta propia.
Incompatibilidad con MPS de macOS: existe una incidencia específica; la fuente recuperada acredita el problema, pero no una corrección oficial confirmada.

Integraciones y migración

El curso integra Transformers, Gradio Spaces, Hugging Face, Qwen, LLaMA-Factory y la plataforma Ascend dentro de capítulos concretos. No se recuperó una guía de migración desde otro curso o hacia otra herramienta: la forma documentada de reutilizar el material es ejecutar o adaptar los cuadernos y sus archivos de datos y modelos.

Casos de uso y a quién puede ayudar este repositorio

Estudiantes y docentes que necesiten prácticas abiertas para una asignatura pueden usar los capítulos como base de laboratorio, ya que el repositorio conecta explicación, PDF y cuaderno sobre temas que van desde ajuste fino hasta seguridad.
Investigadores o ingenieros que empiezan con ajuste fino pueden usar la variante desacoplada del primer capítulo para localizar y modificar carga de datos, arquitectura y evaluación antes de adoptar un flujo más integrado.
Equipos con infraestructura de GPU pueden ejecutar el recorrido de destilación matemática, con requisitos explícitos de memoria de vídeo y almacenamiento, para observar entrenamiento, generación y evaluación en un mismo cuaderno.
Personas que trabajan en seguridad y agentes pueden complementar la introducción general con los capítulos de ataques de elusión, seguridad de agentes y alineamiento; no obstante, deben tratarlos como material de aprendizaje y respetar el aviso del proyecto de que no garantiza exactitud.
Desarrolladores del ecosistema Ascend pueden encontrar una ruta de aprendizaje adicional en el curso conjunto enlazado por el proyecto.

Terminal futurista en modo oscuro cyberpunk mostrando comandos bash neón como git clone y conda activate en una pantalla holográfica curva, con un bastidor de servidores GPU pulsando en azul y magenta al fondo.

Recursos

Repositorio: https://github.com/Lordog/dive-into-llms
Documentación e instalación: https://github.com/Lordog/dive-into-llms/blob/main/documents/chapter1/README.md
Capítulos y cuadernos: https://github.com/Lordog/dive-into-llms/tree/main/documents
Curso complementario de Ascend: https://www.hiascend.com/edu/growth/lm-development
Traducción comunitaria al inglés: https://github.com/hhprojects/dive-into-llms-en
Comunidad e incidencias: https://github.com/Lordog/dive-into-llms/issues

Nota: este artículo combina documentación y repositorios de Lordog, la API de GitHub y fuentes comunitarias recuperadas el 9 de agosto de 2026. Las cifras cambian con el tiempo.