Ingénieur MLOps / LLMOps (niveau intermédiaire)

À propos de Irth Solutions
Irth Solutions est l'un des principaux fournisseurs de logiciels SaaS basés sur le cloud pour la prévention des dommages, l'intégrité des actifs, l'engagement des parties prenantes et la gestion des terres, aidant les entreprises de l'énergie, des services publics, des télécommunications et des infrastructures à protéger leur infrastructure réseau critique. Avec près de trois décennies d'expérience dans l'industrie, Irth sert des clients partout en Amérique du Nord et continue d'étendre sa plateforme avec de nouvelles capacités basées sur les données et l'IA.
Ingénieur MLOps / LLMOps – Insights (AI/ML)
Emplacement : Éloigné – Inde
Département : Insights (AI/ML)
Relève de : Responsable de la plateforme de données et des analyses
À propos du rôle
Irth construit un Lakehouse multi-cloud gouverné sur Databricks pour débloquer des informations multi-produits, appliquer la résidence des données et accélérer l'innovation IA/ML pour nos clients.
Nous recherchons un ingénieur MLOps/LLMOps pour traduire cette base en services d'apprentissage automatique et LLM évolutifs, automatisés, sécurisés et observables.
Vous travaillerez en étroite collaboration avec les équipes de science des données, d'ingénierie des données, de plate-forme, de produit et de domaine pour produire les capacités ML et GenAI prenant en charge les industries clés d'Irth :

• Prévention des dommages

• Intégrité des actifs

• Gestion des terres

• Engagement des parties prenantes

Il s'agit d'un rôle central dans l'établissement de modèles d'ingénierie réutilisables pour les contrats de données, le lignage, la qualité des données, la sécurité, le CI/CD, le déploiement de modèles, la surveillance et la fiabilité opérationnelle.
Vous contribuerez à garantir que les modèles et les applications LLM passent efficacement de l'expérimentation à la production et restent fiables, observables, sécurisés et rentables tout au long de leur cycle de vie.
Principales responsabilités
1. Construisez la plateforme ML/LLM sur Lakehouse

• Opérationnalisez le cycle de vie complet du ML, y compris la formation, l'évaluation, le packaging, le déploiement et la surveillance, sur Databricks.

• Implémentez des workflows ML en utilisant l'architecture médaillon Bronze → Argent → Or avec Delta Lake comme couche de stockage sous-jacente.

• Établir des modèles de mise en œuvre pour la gestion des modèles Unity Catalog, en préparant les actifs du modèle pour la gouvernance, le lignage, la découverte et le contrôle d'accès basés sur le catalogue.

• Développez des modèles réutilisables pour les tâches ML/LLM, les flux de travail et les processus de déploiement.

• Créez et maintenez des politiques de cluster pour les charges de travail ML/LLM alignées sur les garde-fous de la plateforme d'entreprise.

• Appliquer les normes de plateforme telles que :

• Réseau privé

• Étiquetage obligatoire des ressources

• Versions d'exécution de Databricks avec support à long terme (LTS)

• Gestion sécurisée des secrets

• Politiques de calcul appropriées

• Établir des modèles réutilisables qui permettent aux Data Scientists et aux ingénieurs ML de déployer des modèles de manière cohérente et sûre.

2. Production des fonctionnalités ML et LLM

• Collaborer avec les équipes Data Science et Produit pour produire des modèles prenant en charge des cas d'utilisation tels que :

• Notation des risques d'excavation et d'infrastructure

• Détection d'anomalies

• Maintenance prédictive

• Enrichissement géospatial

• Reconnaissance d'entité nommée (NER) sur les parcelles et les servitudes

• Résumé de la communication avec les parties prenantes

• Génération augmentée par récupération (RAG)

• Assistants basés sur l'IA et applications d'aide à la décision

• Concevoir, construire et entretenir des pipelines LLM et RAG de qualité production.

• Implémenter des architectures de recherche et de récupération vectorielles à l'aide de technologies telles que Databricks Vector Search.

• Déployer et gérer les points de terminaison de diffusion de modèles et d'inférence.

• Optimisez les charges de travail d'inférence en termes de performances, d'évolutivité, de fiabilité et de coût.

• Appliquer des techniques d'optimisation telles que :

• Quantification

• Distillation

• Mise en cache des invites et des réponses

• Optimisation de la récupération

• Traitement par lots

• Implémentez des modèles d'inférence par lots, en streaming et en ligne en fonction des exigences métier et de latence.

• Établir des attentes claires en matière de niveau de service et des SLA opérationnels pour les charges de travail prioritaires A/B/C.

3. Incorporer la fiabilité, la sécurité et la conformité dans le cycle de vie du ML

• Intégrez des contrats de données et des contrôles de qualité dans les pipelines ML et LLM.

• Mettre en œuvre une validation automatisée pour :

• Dérive du schéma

• Seuils nuls

• Enregistrements en double

• Intégrité référentielle

• Complétude des données

• Problèmes de qualité des fonctionnalités

• Implémentez la détection, la classification, le masquage et l'obscurcissement des informations personnelles avant que les données sensibles ne soient consommées par des fonctionnalités ou des modèles.

• Appliquer les exigences de résidence des données via la stratégie en tant que code.

• Assurez-vous que les données réglementées ou sensibles de la couche Bronze restent dans la région géographique requise.

• Assurez-vous que seules des données correctement anonymisées ou agrégées sont transférées vers des espaces de travail ou des services mondiaux.

• Maintenir un lignage de bout en bout tout au long du cycle de vie du ML, notamment : Tables/colonnes sources → Fonctionnalités → Modèles → Points de terminaison de service → Applications/BI

• Faire apparaître les informations de traçabilité et de gouvernance via des tableaux de bord de surveillance et de gouvernance appropriés.

• Prise en charge des exigences de sécurité, de conformité, d'audit et de révision des accès sur l'ensemble de la plateforme ML.

4. Automatisez tout – CI/CD et tests

• Utilisez les Databricks Asset Bundles (DAB) et les actions GitHub pour versionner, tester et promouvoir les ressources ML/LLM dans tous les environnements.

• Automatiser la promotion sur : DEV → QA → PROD

• S'assurer que les modifications de production sont déployées via des processus CI/CD contrôlés sans développement direct dans PROD.

• Versionner et gérer :

• Emplois

• Cahiers

• Artefacts de modèle

• Politiques de cluster

• Configuration

• Autorisations

• Définitions de déploiement

• Créez des suites de tests automatisés unitaires, d'intégration, de régression et de qualité des données.

• Implémenter la validation de la qualité des modèles dans le cadre des pipelines de déploiement.

• Valider les KPI métier et les résultats analytiques par rapport à la couche sémantique Unity Catalog avant la publication en production.

• Établissez des barrières de déploiement qui empêchent la progression des modèles ou des applications lorsque les exigences de qualité, de sécurité ou de performances ne sont pas satisfaites.

5. Observabilité et opérations de production

• Instrumenter les pipelines et services ML/LLM pour prendre en charge les SLO définis, notamment :

•
Succès du pipeline P1 : ≥99,5 %

•
P1 MTTD : ≤5 minutes

•
MTTR : ≤60 minutes…

Source : Himalaya (https://himalayas.app/companies/irth/jobs/mlops-llmops-engineer-mid-level)