MLOps-/LLMOps-Ingenieur (Mittelstufe)

Über Irth Solutions
Irth Solutions ist ein führender Anbieter cloudbasierter SaaS-Software für Schadensverhütung, Vermögensintegrität, Stakeholder-Einbindung und Landmanagement und unterstützt Energie-, Versorgungs-, Telekommunikations- und Infrastrukturunternehmen beim Schutz ihrer kritischen Netzwerkinfrastruktur. Mit fast drei Jahrzehnten Branchenerfahrung bedient Irth Kunden in ganz Nordamerika und erweitert seine Plattform weiterhin um neue datengesteuerte und KI-gestützte Funktionen.
MLOps / LLMOps Engineer – Einblicke (KI/ML)
Standort: Abgelegen – Indien
Abteilung: Erkenntnisse (KI/ML)
Berichtet an: Data Platform & Analytics Manager
Über die Rolle
Irth baut ein verwaltetes Multi-Cloud-Lakehouse auf Databricks auf, um produktübergreifende Erkenntnisse zu gewinnen, die Datenresidenz durchzusetzen und KI/ML-Innovationen für unsere Kunden zu beschleunigen.
Wir suchen einen MLOps/LLMOps-Ingenieur, der diese Grundlage in skalierbare, automatisierte, sichere und beobachtbare maschinelle Lern- und LLM-Dienste übersetzt.
Sie arbeiten eng mit Data Science-, Data Engineering-, Plattform-, Produkt- und Domänenteams zusammen, um ML- und GenAI-Funktionen zur Unterstützung der Schlüsselindustrien von Irth zu entwickeln:

• Schadensverhütung

• Asset-Integrität

• Landmanagement

• Stakeholder-Engagement

Dies ist eine entscheidende Rolle bei der Etablierung wiederverwendbarer technischer Muster für Datenverträge, Herkunft, Datenqualität, Sicherheit, CI/CD, Modellbereitstellung, Überwachung und Betriebszuverlässigkeit.
Sie tragen dazu bei, dass Modelle und LLM-Anwendungen effizient vom Experiment in die Produktion übergehen – und während ihres gesamten Lebenszyklus zuverlässig, beobachtbar, sicher und kosteneffektiv bleiben.
Hauptaufgaben
1. Bauen Sie die ML/LLM-Plattform auf dem Lakehouse auf

• Operationalisieren Sie den gesamten ML-Lebenszyklus – einschließlich Schulung, Evaluierung, Paketierung, Bereitstellung und Überwachung – auf Databricks.

• Implementieren Sie ML-Workflows mithilfe der Bronze → Silber → Gold-Medaillonarchitektur mit Delta Lake als zugrunde liegender Speicherebene.

• Erstellen Sie Implementierungsmuster für die Modellverwaltung im Unity-Katalog und bereiten Sie Modellressourcen für katalogbasierte Governance, Herkunft, Erkennung und Zugriffskontrolle vor.

• Entwickeln Sie wiederverwendbare Vorlagen für ML/LLM-Jobs, Workflows und Bereitstellungsprozesse.

• Erstellen und pflegen Sie Cluster-Richtlinien für ML/LLM-Workloads, die an den Richtlinien der Unternehmensplattform ausgerichtet sind.

• Wenden Sie Plattformstandards an wie:

• Privates Netzwerken

• Obligatorische Ressourcenkennzeichnung

• Databricks Runtime-Versionen mit Langzeitunterstützung (LTS).

• Sicheres Geheimnismanagement

• Geeignete Rechenrichtlinien

• Erstellen Sie wiederverwendbare Muster, die es Datenwissenschaftlern und ML-Ingenieuren ermöglichen, Modelle konsistent und sicher bereitzustellen.

2. Erstellen Sie ML- und LLM-Funktionen

• Arbeiten Sie mit Data Science- und Produktteams zusammen, um Modelle zu erstellen, die Anwendungsfälle unterstützen, wie zum Beispiel:

• Risikobewertung für Ausgrabungen und Infrastruktur

• Anomalieerkennung

• Vorausschauende Wartung

• Geodatenanreicherung

• Named Entity Recognition (NER) für Parzellen und Dienstbarkeiten

• Zusammenfassung der Stakeholder-Kommunikation

• Retrieval-Augmented Generation (RAG)

• KI-gestützte Assistenten und Anwendungen zur Entscheidungsunterstützung

• Entwerfen, bauen und warten Sie LLM- und RAG-Pipelines in Produktionsqualität.

• Implementieren Sie Vektorsuch- und -abrufarchitekturen mithilfe von Technologien wie Databricks Vector Search.

• Modellbereitstellungs- und Inferenzendpunkte bereitstellen und verwalten.

• Optimieren Sie Inferenz-Workloads im Hinblick auf Leistung, Skalierbarkeit, Zuverlässigkeit und Kosten.

• Wenden Sie Optimierungstechniken an wie:

• Quantisierung

• Destillation

• Prompt- und Response-Caching

• Retrieval-Optimierung

• Batchverarbeitung

• Implementieren Sie Batch-, Streaming- und Online-Inferenzmuster basierend auf Geschäfts- und Latenzanforderungen.

• Legen Sie klare Service-Level-Erwartungen und betriebliche SLAs für Workloads mit Priorität A/B/C fest.

3. Integrieren Sie Zuverlässigkeit, Sicherheit und Compliance in den ML-Lebenszyklus

• Integrieren Sie Datenverträge und Quality Gates in ML- und LLM-Pipelines.

• Implementieren Sie eine automatisierte Validierung für:

• Schemadrift

• Nullschwellenwerte

• Doppelte Datensätze

• Referenzielle Integrität

• Vollständigkeit der Daten

• Probleme mit der Funktionsqualität

• Implementieren Sie die PII-Erkennung, -Klassifizierung, -Maskierung und -Verschleierung, bevor sensible Daten von Funktionen oder Modellen verbraucht werden.

• Erzwingen Sie Datenresidenzanforderungen durch Policy-as-Code.

• Stellen Sie sicher, dass regulierte oder sensible Bronze-Layer-Daten in der erforderlichen geografischen Region verbleiben.

• Stellen Sie sicher, dass nur angemessen anonymisierte oder aggregierte Daten an globale Arbeitsbereiche oder Dienste übertragen werden.

• Behalten Sie die End-to-End-Herkunft über den gesamten ML-Lebenszyklus bei, einschließlich: Quelltabellen/-spalten → Funktionen → Modelle → Endpunkte bereitstellen → Anwendungen/BI

• Offenlegung von Abstammungs- und Governance-Informationen durch geeignete Überwachungs- und Governance-Dashboards.

• Unterstützen Sie Sicherheits-, Compliance-, Audit- und Zugriffsüberprüfungsanforderungen auf der gesamten ML-Plattform.

4. Alles automatisieren – CI/CD und Tests

• Verwenden Sie Databricks Asset Bundles (DABs) und GitHub Actions, um ML/LLM-Assets umgebungsübergreifend zu versionieren, zu testen und zu bewerben.

• Automatisieren Sie die Werbung über: DEV → QA → PROD

• Stellen Sie sicher, dass Produktionsänderungen durch kontrollierte CI/CD-Prozesse ohne direkte Entwicklung in PROD umgesetzt werden.

• Versionieren und verwalten:

• Arbeitsplätze

• Notizbücher

• Modellartefakte

• Clusterrichtlinien

• Konfiguration

• Berechtigungen

• Bereitstellungsdefinitionen

• Erstellen Sie automatisierte Testsuiten für Einheiten, Integration, Regression und Datenqualität.

• Implementieren Sie die Validierung der Modellqualität als Teil der Bereitstellungspipelines.

• Validieren Sie Geschäfts-KPIs und Analyseergebnisse anhand der semantischen Ebene des Unity-Katalogs vor der Veröffentlichung in der Produktion.

• Richten Sie Bereitstellungstore ein, die verhindern, dass Modelle oder Anwendungen weiterentwickelt werden, wenn Qualitäts-, Sicherheits- oder Leistungsanforderungen nicht erfüllt werden.

5. Beobachtbarkeit und Produktionsabläufe

• Instrumentieren Sie ML/LLM-Pipelines und -Dienste zur Unterstützung definierter SLOs, einschließlich:

•
Erfolg der P1-Pipeline: ≥99,5 %

•
P1 MTTD: ≤5 Minuten

•
MTTR: ≤60 Minuten…

Quelle: Himalaya (https://himalayas.app/companies/irth/jobs/mlops-llmops-engineer-mid-level)