Ingeniero MLOps / LLMOps (Nivel Medio)

Sobre Irth Soluciones
Irth Solutions es un proveedor líder de software SaaS basado en la nube para la prevención de daños, la integridad de los activos, la participación de las partes interesadas y la gestión del territorio, ayudando a las empresas de energía, servicios públicos, telecomunicaciones e infraestructura a proteger su infraestructura de red crítica. Con casi tres décadas de experiencia en la industria, Irth atiende a clientes en toda América del Norte y continúa expandiendo su plataforma con nuevas capacidades impulsadas por datos e inteligencia artificial.
Ingeniero MLOps / LLMOps - Insights (AI/ML)
Ubicación: Remota – India
Departamento: Insights (AI/ML)
Reporta a: Gerente de plataforma de datos y análisis
Acerca del rol
Irth está construyendo un Lakehouse gobernado y de múltiples nubes en Databricks para desbloquear conocimientos entre productos, imponer la residencia de datos y acelerar la innovación de IA/ML para nuestros clientes.
Buscamos un ingeniero MLOps/LLMOps para traducir esta base en servicios LLM y aprendizaje automático escalables, automatizados, seguros y observables.
Trabajará en estrecha colaboración con equipos de ciencia de datos, ingeniería de datos, plataforma, producto y dominio para producir capacidades de ML y GenAI que respalden las industrias clave de Irth:

• Prevención de daños

• Integridad de activos

• Gestión de tierras

• Participación de las partes interesadas

Esta es una función fundamental en el establecimiento de patrones de ingeniería reutilizables para contratos de datos, linaje, calidad de datos, seguridad, CI/CD, implementación de modelos, monitoreo y confiabilidad operativa.
Ayudará a garantizar que los modelos y las aplicaciones LLM pasen de manera eficiente de la experimentación a la producción y sigan siendo confiables, observables, seguros y rentables durante todo su ciclo de vida.
Responsabilidades clave
1. Construya la plataforma ML/LLM en Lakehouse

• Ponga en funcionamiento todo el ciclo de vida del aprendizaje automático, incluida la capacitación, la evaluación, el empaquetado, la implementación y el monitoreo, en Databricks.

• Implementar flujos de trabajo de aprendizaje automático utilizando la arquitectura medallón Bronce → Plata → Oro con Delta Lake como capa de almacenamiento subyacente.

• Establecer patrones de implementación para la gestión de modelos de Unity Catalog, preparando los activos del modelo para la gobernanza, el linaje, el descubrimiento y el control de acceso basados ​​en catálogos.

• Desarrollar plantillas reutilizables para trabajos, flujos de trabajo y procesos de implementación de ML/LLM.

• Crear y mantener políticas de clúster para cargas de trabajo de ML/LLM alineadas con las barreras de seguridad de la plataforma empresarial.

• Aplicar estándares de plataforma como:

• Redes privadas

• Etiquetado de recursos obligatorio

• Versiones de Databricks Runtime de soporte a largo plazo (LTS)

• Gestión segura de secretos

• Políticas informáticas adecuadas

• Establecer patrones reutilizables que permitan a los científicos de datos y a los ingenieros de aprendizaje automático implementar modelos de manera consistente y segura.

2. Producción de funciones de ML y LLM

• Asociarse con equipos de Ciencia de Datos y Producto para producir modelos que respalden casos de uso como:

• Calificación de riesgos de excavación e infraestructura

• Detección de anomalías

• Mantenimiento predictivo

• Enriquecimiento geoespacial

• Reconocimiento de Entidad Nombrada (NER) sobre parcelas y servidumbres

• Resumen de la comunicación con las partes interesadas

• Recuperación-Generación Aumentada (RAG)

• Asistentes impulsados por IA y aplicaciones de apoyo a la toma de decisiones

• Diseñar, construir y mantener tuberías LLM y RAG de grado de producción.

• Implementar arquitecturas de búsqueda y recuperación de vectores utilizando tecnologías como Databricks Vector Search.

• Implementar y gestionar puntos finales de inferencia y servicio de modelos.

• Optimice las cargas de trabajo de inferencia en términos de rendimiento, escalabilidad, confiabilidad y costo.

• Aplicar técnicas de optimización como:

• Cuantización

• Destilación

• Almacenamiento en caché de mensajes y respuestas

• Optimización de la recuperación

• procesamiento por lotes

• Implementar patrones de inferencia por lotes, streaming y en línea basados ​​en los requisitos comerciales y de latencia.

• Establecer expectativas claras de nivel de servicio y SLA operativos para cargas de trabajo de Prioridad A/B/C.

3. Incorpore la confiabilidad, la seguridad y el cumplimiento al ciclo de vida del aprendizaje automático

• Integre contratos de datos y puertas de calidad en procesos de ML y LLM.

• Implementar validación automatizada para:

• Desviación del esquema

• Umbrales nulos

• Registros duplicados

• Integridad referencial

• Integridad de los datos

• Problemas de calidad de las funciones

• Implementar detección, clasificación, enmascaramiento y ofuscación de PII antes de que funciones o modelos consuman datos confidenciales.

• Hacer cumplir los requisitos de residencia de datos a través de políticas como código.

• Garantizar que los datos regulados o confidenciales de la capa Bronce permanezcan en la región geográfica requerida.

• Garantizar que sólo se transfieran datos adecuadamente anonimizados o agregados a espacios de trabajo o servicios globales.

• Mantener el linaje de un extremo a otro en todo el ciclo de vida del aprendizaje automático, incluido: Tablas/columnas de origen → Funciones → Modelos → Servir puntos finales → Aplicaciones/BI

• Mostrar información sobre linaje y gobernanza a través de paneles de control y gobernanza adecuados.

• Respaldar los requisitos de seguridad, cumplimiento, auditoría y revisión de acceso en toda la plataforma ML.

4. Automatizar todo: CI/CD y pruebas

• Utilice paquetes de activos de Databricks (DAB) y acciones de GitHub para versionar, probar y promover activos de ML/LLM en todos los entornos.

• Automatizar la promoción en: DEV → QA → PROD

• Garantizar que los cambios de producción se implementen a través de procesos CI/CD controlados sin desarrollo directo en PROD.

• Versionar y gestionar:

• Empleos

• Cuadernos

• Artefactos modelo

• Políticas de clúster

• Configuración

• Permisos

• Definiciones de implementación

• Cree conjuntos de pruebas automatizadas de unidad, integración, regresión y calidad de datos.

• Implementar la validación de la calidad del modelo como parte de los procesos de implementación.

• Validar los KPI comerciales y los resultados analíticos con la capa semántica del Catálogo de Unity antes de la publicación de producción.

• Establecer puertas de implementación que impidan que los modelos o aplicaciones progresen cuando no se cumplan los requisitos de calidad, seguridad o rendimiento.

5. Observabilidad y operaciones de producción

• Instrumentar canales y servicios de ML/LLM para respaldar SLO definidos, que incluyen:

•
Éxito del oleoducto P1: ≥99,5%

•
P1 MTTD: ≤5 minutos

•
MTTR: ≤60 minutos…

Fuente: Himalaya (https://himalayas.app/companies/irth/jobs/mlops-llmops-engineer-mid-level)