ML-Infrastrukturingenieur

Über Nebius:

Nebius leitet eine neue Ära der Cloud-Infrastruktur für die globale KI-Wirtschaft ein. Wir bauen eine Full-Stack-KI-Cloud-Plattform auf, die Entwickler und Unternehmen von der Daten- und Modellschulung bis hin zur Produktionsbereitstellung unterstützt, ohne die Kosten und Komplexität des Aufbaus einer großen internen KI/ML-Infrastruktur.

Von Ingenieuren für Ingenieure gebaut. Von der groß angelegten GPU-Orchestrierung bis zur Inferenzoptimierung beherrschen wir die schwierigen Probleme in den Bereichen Rechenleistung, Speicher, Netzwerk und angewandte KI.

Wir sind an der Nasdaq (NBIS) notiert und haben unseren Hauptsitz in Amsterdam. Wir verfügen über eine globale Präsenz mit Forschungs- und Entwicklungszentren in Europa, Großbritannien, Nordamerika und Israel. Zu unserem über 1.500-köpfigen Team gehören Hunderte von Ingenieuren mit umfassendem Fachwissen in den Bereichen Hardware, Software und KI-Forschung und -Entwicklung.

Die Rolle

Wir suchen einen hochqualifizierten ML/KI-Ingenieur zur Verstärkung unseres Teams, der das Benchmarking von GPU-Plattformen für maschinelles Lernen und KI-Workloads leitet und unterstützt. Sie spielen eine entscheidende Rolle bei der Bewertung der Leistung GPU-basierter Hardware für verschiedene Deep-Learning- und KI-Frameworks und ermöglichen datengesteuerte Entscheidungen für die Plattformoptimierung und die Hardwareentwicklung der nächsten Generation.

Zu Ihren Aufgaben gehören:

• Arbeiten Sie eng mit Hardware- und Entwicklungsteams zusammen, um die GPU-Leistung auf System- und Kernelebene zu profilieren und zu analysieren.

• Bewerten und vergleichen Sie die GPU-Leistung über verschiedene Plattformen, Architekturen und Software-Stacks (z. B. CUDA, ROCm).

• Debuggen und optimieren Sie ML-Workloads für eine effiziente Ausführung auf GPU-Hardware und identifizieren und beheben Sie Leistungsengpässe.

• Führen Sie Akzeptanztests für neue GPU-Cluster durch und stellen Sie sicher, dass Hardware und Software die Leistungs-, Stabilitäts- und Kompatibilitätsanforderungen für KI-Workloads erfüllen.

• Führen Sie Experimente mit verschiedenen GPU-Systemkonfigurationen durch, um die Auswirkungen unterschiedlicher Verbindungsstrategien und Optimierungen auf Systemebene auf Leistung und Skalierbarkeit zu bewerten.

• Entwickeln Sie Tools und Dashboards zur Visualisierung von Leistungsmetriken, um Leistungsmetriken, Engpässe und Trends zu visualisieren.

• Tragen Sie zu internen Tools, Frameworks und Best Practices bei

Wir erwarten von Ihnen:

• Ein profundes Verständnis der theoretischen Grundlagen des maschinellen Lernens

• Tiefes Verständnis der Leistungsaspekte des Trainings und der Inferenz großer neuronaler Netze (Daten-/Tensor-/Kontext-/Expertenparallelität, Offloading, benutzerdefinierte Kernel, Hardwarefunktionen, Aufmerksamkeitsoptimierungen, dynamisches Batching usw.)

• Umfangreiche Erfahrung mit modernen Deep-Learning-Frameworks (PyTorch, JAX, Megatron-LM, Tensort-LLM)

• Gutes Verständnis des GPU-Stacks: CUDA, NCCL, Treiber und relevante Bibliotheken

• Vertrautheit mit Containerumgebungen (z. B. Docker, Kubernetes).

• Starke Kommunikationsfähigkeit und Fähigkeit zum selbstständigen Arbeiten

Möglichkeiten, sich von der Masse abzuheben:

• Vertrautheit mit modernen LLM-Inferenz-Frameworks (vLLM, SGLang, TensorRT)

• Erfahrung mit Python und Performance-Profiling-Tools (z. B. Nsight, nvprof, perf).

• Vertrautheit mit Cloud-ML-Plattformen wie AWS, GCP, Azure ML

• Beiträge zu Open-Source-ML-Benchmarking-Tools

Vorteile und Vorteile:

• Wettbewerbsfähige Vergütung

• Karrierewachstum und Lernmöglichkeiten

• Flexibilität und Eigenverantwortung

• Kollaborative und innovative Kultur

• Möglichkeit, an wirkungsvollen KI-Projekten zu arbeiten

• Internationales Umfeld und talentierte Teams

Wie ist es, bei Nebius zu arbeiten:

Schnelllebig – Mutiges Denken – Ständiges Wachstum – Bedeutende Wirkung – Vertrauen und echte Eigenverantwortung – Chance, die Zukunft der KI zu gestalten

Erklärung zur Chancengleichheit:

Nebius ist ein Arbeitgeber, der Chancengleichheit fördert. Wir setzen uns dafür ein, einen integrativen und vielfältigen Arbeitsplatz zu fördern und in allen Beschäftigungsbereichen gleiche Beschäftigungsmöglichkeiten zu bieten. Wir diskriminieren nicht aufgrund von Rasse, Hautfarbe, Religion, Geschlecht (einschließlich Schwangerschaft), nationaler Herkunft, Abstammung, Alter, Behinderung, genetischen Informationen, Familienstand, Veteranenstatus, sexueller Orientierung, Geschlechtsidentität oder -ausdruck oder anderen durch geltendes Recht geschützten Merkmalen.

Bewerber müssen eine Arbeitserlaubnis in dem Land haben, in dem sie sich bewerben, und müssen als Einstellungsvoraussetzung einen Nachweis über die Beschäftigungsberechtigung vorlegen.

Wenn Sie während des Bewerbungsprozesses eine Unterkunft benötigen, teilen Sie uns dies bitte mit.

Quelle: Jobicy (https://jobicy.com/jobs/155964-ml-infrastructure-engineer)