Curso online de Google BERT para Principiantes bonificado

💻 Software

• Python 3.10 o superior (3.13 recomendado) — descarga gratuita desde python.org
• Hugging Face Transformers — librería gratuita y open source (pip install transformers)
• PyTorch 2.x o TensorFlow 2.x — ambos gratuitos. PyTorch es la opción más usada con BERT hoy
• Jupyter Notebook o VS Code — ambos gratuitos. VS Code con extensión Python es suficiente
• Google Colab — gratuito, ideal si tu PC tiene poca RAM o GPU limitada. Permite ejecutar modelos BERT en la nube sin coste

?️ Hardware

• RAM: 8 GB mínimo (con Colab puedes trabajar con 4 GB en local)
• CPU: cualquier procesador de los últimos 6 años vale
• GPU: NO es necesaria en local — Google Colab ofrece GPU gratuita para entrenar modelos BERT sin coste adicional
• Almacenamiento: 5-10 GB libres para modelos preentrenados y datasets

🔑 Cuentas necesarias

• Cuenta de Google — gratuita, para usar Google Colab
• Cuenta en Hugging Face (huggingface.co) — gratuita, para descargar modelos preentrenados y usar el Hub

📚 Conocimientos previos

• Python básico: bucles, funciones, listas, librerías. Sin esto el curso será muy difícil
• Nociones de qué es un modelo de machine learning (no hace falta haber entrenado ninguno)
• Matemáticas: nivel bachillerato es más que suficiente

Este curso combina teoría de NLP con implementación real usando Hugging Face y Python. Estos son los proyectos que puedes construir aplicando lo aprendido:

1. Clasificador de sentimiento para reseñas de productos — Ajusta un modelo BERT preentrenado para detectar si una reseña de Amazon o Trustpilot es positiva, negativa o neutra. Caso de uso: automatizar el análisis de feedback de clientes.
2. Sistema de preguntas y respuestas sobre documentos internos — Implementa un pipeline de QA con BERT que responde preguntas sobre un PDF o texto corporativo. Caso de uso: chatbot interno para RR.HH. o soporte técnico.
3. Detector de spam o phishing en emails — Entrena un clasificador binario con fine-tuning de BERT sobre un corpus de emails etiquetados. Caso de uso: filtro automático para bandejas de entrada empresariales.
4. Clasificación temática de tickets de soporte — Categoriza automáticamente incidencias (facturación, técnico, devoluciones) usando BERT ajustado a texto empresarial. Caso de uso: routing automático en centros de atención al cliente.
5. Análisis de similitud semántica entre textos — Usa embeddings de BERT para medir cuánto se parecen dos textos. Caso de uso: detección de duplicados en bases de datos de documentos o FAQs.

Estos son los errores más frecuentes al empezar con BERT y Hugging Face. Conocerlos de antemano te ahorrará horas de depuración:

• Intentar entrenar BERT en CPU local sin Colab: el fine-tuning de BERT-base tarda horas en CPU. Usa Google Colab con GPU desde el principio.
• No truncar ni rellenar las secuencias (padding/truncation): BERT tiene un límite de 512 tokens. Si no configuras truncation=True, padding=True en el tokenizador, obtendrás errores o resultados incorrectos.
• Confundir el tokenizador de BERT con split(): BERT usa WordPiece, un tokenizador propio. Usar split() directamente y pasarlo al modelo produce errores o predicciones sin sentido.
• Usar un modelo preentrenado en inglés para textos en español sin adaptación: bert-base-uncased no funciona bien con español. Para castellano usa dccuchile/bert-base-spanish-wwm-cased disponible en Hugging Face Hub.
• No congelar las capas base durante el fine-tuning inicial: actualizar todos los pesos desde el principio con un learning rate alto destruye el conocimiento preentrenado. Empieza con lr=2e-5 o inferior.
• Ignorar el desbalance de clases en el dataset: si tienes 90% de ejemplos negativos y 10% positivos, el modelo aprenderá a predecir siempre negativo con alta precisión aparente. Usa pesos de clase o oversampling.
• No evaluar en conjunto de validación separado: medir solo en train enmascara el sobreajuste. Siempre separa train/val/test antes de empezar.
• Asumir que más épocas siempre mejoran el modelo: con fine-tuning de BERT, 2-4 épocas suelen ser suficientes. Más épocas provocan overfitting rápido en datasets pequeños.

Recursos gratuitos y herramientas que complementan el curso desde el primer día:

⚙️ Entornos y herramientas clave

• Google Colab (colab.research.google.com) — GPU gratuita, sin instalación. Ideal para ejecutar todos los notebooks del curso
• Hugging Face Hub (huggingface.co/models) — miles de modelos BERT multilingües listos para usar, incluyendo modelos en español
• Hugging Face Spaces — despliega demos de tus modelos gratis con Gradio o Streamlit

📖 Documentación oficial

• Hugging Face Course (huggingface.co/learn/nlp-course) — curso gratuito oficial de NLP con Transformers, cubre BERT en detalle con código
• Documentación de Transformers (huggingface.co/docs/transformers) — referencia completa de pipelines, tokenizadores y fine-tuning
• Paper original de BERT (arxiv.org/abs/1810.04805) — si quieres entender la arquitectura en profundidad

📊 Datasets para practicar

• Hugging Face Datasets (huggingface.co/datasets) — acceso directo a datasets de NLP listos para usar con load_dataset(): SST-2, IMDB, SQuAD, XNLI en español y más
• Kaggle (kaggle.com/datasets) — datasets de clasificación de texto y análisis de sentimiento en castellano

👥 Comunidades donde resolver dudas

• Hugging Face Forums (discuss.huggingface.co) — comunidad oficial, muy activa para dudas de Transformers y fine-tuning
• r/MachineLearning y r/LanguageTechnology en Reddit — debates técnicos sobre NLP y modelos de lenguaje
• Stack Overflow — etiquetas huggingface-transformers y bert-language-model con miles de respuestas resueltas

⌨️ Atajos y comandos que usarás cada día

• from transformers import pipeline; nlp = pipeline('sentiment-analysis') — inferencia en 2 líneas
• !pip install transformers datasets accelerate — instalación básica en Colab
• model.save_pretrained('./mi_modelo') — guarda tu modelo fine-tuned localmente