DATABRICKS PLATFORM

Estamos en búsqueda de: Especialista en Databricks Platform (AWS/ML/DevOps)
Tipo de perfil:
Dominio de operaciones en la nube con AWS, con sólido entendimiento del escalado de infraestructura y optimización de coste/rendimiento.
Experiencia demostrada y práctica con Databricks en AWS: administración del workspace, gestión de clústeres y pools, orquestación de trabajos (Jobs/Workflows), repositorios, secrets e integraciones.
Amplia experiencia con Databricks Unity Catalog: configuración del metastore, catálogos/esquemas, data lineage, control de acceso (ACLs, grants), control de acceso basado en atributos y gobierno del dato.
Experiencia en Infraestructura como Código (IaC) para Databricks y AWS usando Terraform (proveedores databricks y aws) y/o AWS CloudFormation; experiencia con Databricks asset bundles o CLI es un plus.
Experiencia implementando CI/CD y GitOps para notebooks, trabajos y activos de ML usando GitHub y GitHub Actions (o GitLab/Jenkins), incluyendo pruebas automatizadas y promoción entre workspaces.
Capacidad para estructurar librerías reutilizables, empaquetar y versionar código, y reforzar calidad mediante pruebas unitarias/de integración y linting. Dominio de SQL para desarrollo en Lakehouse.
Experiment tracking, model registry, versionado de modelos, approval gates y despliegue a endpoints batch/en tiempo real (Model Serving).
AWS IAM/STS, PrivateLink/VPC, cifrado KMS, secretos, SSO/SCIM y monitorización/observabilidad (CloudWatch/Datadog/Grafana).
Experiencia con prácticas DevOps para habilitar estrategias de automatización y reducir operaciones manuales.
Experiencia o conocimiento en MLOps; crear pipelines que aceleren y automaticen ML será muy valorado.
Excelentes habilidades de comunicación, colaboración transversal y gestión de stakeholders.
Detallista, proactivo, capaz de trabajar de forma independiente y en un equipo distribuido.
Funciones del candidato:
Diseñar e implementar soluciones de plataforma Databricks escalables para soportar flujos de trabajo de analítica, ML y GenAI en entornos dev/test/prod.
Administrar y optimizar workspaces de Databricks: políticas de clústeres, pools, job clusters vs all-purpose clusters, autoscaling, uso de spot/fleet y GPU/compute acelerado cuando aplique.
Implementar gobierno con Unity Catalog: definir metastore, catálogos, esquemas, data sharing, enmascaramiento de filas/columnas, lineage y controles de acceso; integrar con identidad empresarial y auditoría.
Crear IaC para aprovisionamiento y configuración reproducible de la plataforma usando Terraform; gestionar config-as-code para políticas de clúster, trabajos, repos, service principals y secret scopes.
Implementar CI/CD para notebooks, librerías, pipelines DLT y activos de ML; automatizar pruebas, quality gates y promoción entre workspaces usando GitHub Actions y APIs de Databricks.
Estandarizar estructura de experimentos, implementar flujos de trabajo del registro de modelos y desplegar/operar endpoints de model serving con monitorización y rollback.
Desarrollar y optimizar pipelines de Delta Lake (batch y streaming) usando Auto Loader, Structured Streaming y DLT; aplicar calidad de datos y SLAs con expectations y alertas.
Optimizar coste y rendimiento: dimensionar correctamente clústeres y pools, aplicar políticas y cuotas, gestionar consumo de DBU, usar spot/fleet e implementar informes de chargeback/showback.
Integrar observabilidad: métricas/logs/traces para trabajos, clústeres y model serving; configurar alertas, runbooks de guardia y respuesta a incidentes para reducir MTTR.
Garantizar seguridad y cumplimiento de la plataforma: diseño de VPC, PrivateLink, cifrado en reposo/en tránsito, gestión de secretos, remediación de vulnerabilidades y preparación para auditorías; alineación con estándares internos de seguridad y, cuando aplique, controles GxP.
Colaborar con equipos multifuncionales para integrar la plataforma Databricks con fuentes de datos, flujos de eventos, aplicaciones downstream y servicios de IA en AWS.
Realizar investigación técnica, evaluar nuevas funcionalidades de Databricks (p. ej., Lakehouse Federation, Vector Search, Mosaic AI) y proponer mejoras de plataforma alineadas con la hoja de ruta.
Comunicar regularmente avances, riesgos y recomendaciones a los responsables del cliente y equipos de desarrollo.
Requisitos indispensables:
Experiencia práctica en administración de Databricks en AWS, incluyendo gobierno con Unity Catalog e integraciones empresariales.
Sólida base en AWS: redes (VPC, subnets, SGs), roles y políticas IAM, KMS, S3, CloudWatch; familiaridad con EKS es un plus.
Dominio de Terraform (incluyendo databricks provider), GitHub y GitHub Actions.
Sólidos conocimientos de Python y SQL; experiencia empaquetando librerías y trabajando con notebooks y repos.
Experiencia con MLflow para tracking y model registry; se prefiere experiencia con endpoints de model serving.
Familiaridad con Delta Lake, Auto Loader, Structured Streaming y DLT.
Experiencia implementando automatización DevOps y runbooks; comodidad trabajando con REST APIs y Databricks CLI.
Dominio de Git y GitHub; estrategias de revisión de código y branching.
Detalles del puesto:
Modalidad: Presencial una vez al mes en las oficinas de Barcelona
Horario de trabajo: Debe trabajar en horario laboral del Reino Unido, comenzando a las 09:00 (hora del Reino Unido) / 13:30 IST
Nivel de inglés: C1, uso diario en un ámbito internacional

Localización (Híbrido)