Plattformingenieur für maschinelles Lernen

Über ActAI
Heutzutage nutzen über 5 Milliarden Benutzer grundlegende Anwendungen wie E-Mail, Notizen, Aufgaben und Kalender, und diese sind nicht auf KI-basiert. Unsere Mission ist es, proaktive Anwendungen für jeden auf der Welt zu entwickeln, der nicht an komplexe Eingabeaufforderungen gewöhnt ist. Unser Ziel ist es, Gespräche, Besorgungen, Organisation und Arbeitsabläufe mit minimaler oder gar keiner Aufforderung intelligent zu gestalten.
Unser Produkt konzentriert sich auf die Erzielung einer hohen Zuverlässigkeit für lang andauernde Arbeitsabläufe, dauerhaften Kontext und die Erledigung realer Aufgaben. Wir glauben, dass Produkte Halluzinationen erheblich reduzieren werden.
Unser Ziel ist es, das Leben jedes Einzelnen so zu organisieren, dass wir alle Zeit mit wertvollen und bedeutungsvollen Dingen verbringen können.
Über die Rolle
Als ML Platform Engineer bauen Sie die Infrastruktur und Systeme auf, die die KI-Funktionen von ActAI unterstützen.
Sie entwerfen und betreiben die Systeme hinter dem KI-Stack, vom Modelltraining und der Evaluierung bis hin zu Bereitstellung, Inferenz, Beobachtbarkeit und kontinuierlicher Verbesserung.
Sie arbeiten eng mit KI-Ingenieuren, Forschern und Produktingenieuren zusammen, um Modelle in zuverlässige, skalierbare und kosteneffiziente Produktionssysteme umzuwandeln. Sie bauen die Plattformen, Tools und Infrastruktur auf, die es dem Team ermöglichen, schnell zu experimentieren und KI-Funktionen sicher in die Produktion zu bringen.
Konzentrieren Sie sich

• Aufbau und Betrieb der ML-Infrastruktur und -Plattformen, die die KI-Produkte von A1 unterstützen

• Entwerfen Sie Systeme für Modelltraining, Bewertung, Bereitstellung, Inferenz und Experimente

• Erstellen und optimieren Sie eine Modellbereitstellungs- und Inferenzinfrastruktur für Arbeitslasten mit hohem Durchsatz und geringer Latenz

• Verbessern Sie die Zuverlässigkeit, Skalierbarkeit, Latenz und Kosteneffizienz von KI-Systemen

• Entwickeln Sie zuverlässige Pipelines für Datenvorbereitung, Schulung, Bewertung, Modellfreigabe und kontinuierliche Verbesserung

• Erstellen Sie Plattformen und Werkzeuge, die es KI-Ingenieuren und -Forschern ermöglichen, schneller mit Modellen zu experimentieren, sie zu bewerten und auszuliefern

• Entwickeln Sie eine Evaluierungs- und Benchmarking-Infrastruktur, um Modellqualität, Leistung und Regressionen zu messen

• Bauen Sie Produktionsbeobachtbarkeit, Überwachung, Nachverfolgung und Alarmierung für KI/ML-Workloads auf

• Verbessern Sie KI-Systeme in Bezug auf Zuverlässigkeit, Skalierbarkeit, Latenz, Durchsatz und Kosten

• Identifizieren Sie Engpässe im gesamten ML-Stack und verbessern Sie kontinuierlich die Systemleistung

• Arbeiten Sie eng mit KI-Ingenieuren, Forschern und Produktteams zusammen, um sich entwickelnde Modellanforderungen in eine produktionsreife Infrastruktur umzuwandeln

Tech-Stack

• Python

• PyTorch / JAX

• LLM- und ML-Bereitstellungsinfrastruktur wie vLLM, SGLang oder TensorRT-LLM

• Cloud-Infrastruktur

• Verteilte Systeme

• ML/Datenpipelines und Workflow-Orchestrierung

• GPU-Infrastruktur und Leistungstools

• Vektordatenbanken und Retrieval-Infrastruktur

Ideale Erfahrung

• Starke Software-Engineering-Grundlagen und Erfahrung im Aufbau von Produktionssystemen

• Erfahrung im Aufbau von ML-Infrastrukturen, Plattformen oder Produktionssystemen für maschinelles Lernen

• Erfahrung mit Modellbereitstellung, Inferenz, Auswertung oder Datenpipelines

• Ausgeprägtes Verständnis verteilter Systeme und Systemzuverlässigkeit

• Fähigkeit, sauberen, wartbaren Code in Produktionsqualität zu schreiben

• Komfortables Arbeiten in mehrdeutigen, sich schnell bewegenden Umgebungen

• Neigung zu Eigenverantwortung, Experimentieren und kontinuierlicher Verbesserung

Ergebnisse

• Die KI-Infrastruktur unterstützt zuverlässig Produktions-Workloads im großen Maßstab

• Modelle können effizient trainiert, bewertet, bereitgestellt und verbessert werden

• Inferenzsysteme bieten hohe Latenz, Durchsatz, Zuverlässigkeit und Kosteneffizienz

• ML-Pipelines sind reproduzierbar, beobachtbar, wartbar und robust

• Modell- und Infrastrukturregressionen werden schnell erkannt und effizient diagnostiziert

• Gemeinsame ML-Infrastrukturfunktionen werden zu wiederverwendbaren Plattformprimitiven, anstatt für jedes KI-Produkt neu erstellt zu werden

• Der KI-Stack kann sich schnell weiterentwickeln, wenn neue Modelle, Architekturen und Inferenztechniken entstehen

Finden Sie Jobs in Deutschland auf Arbeitnow

Quelle: Arbeitnow (https://www.arbeitnow.com/jobs/companies/bjak/machine-learning-platform-engineer-Germany-452758)