Leitender Ingenieur für maschinelles Lernen – LLMs

Wer wir sind
Sie haben ein Abendessen über Just Eat Takeaway bestellt. Sie haben auf OLX gekauft und verkauft. Sie haben mit PayU bezahlt. Die Chancen stehen gut, dass Sie heute bereits mit einem Prosus-Unternehmen zusammengearbeitet haben.
Wir sind Prosus, ein globales Technologieunternehmen, das einige der weltweit führenden Lifestyle-E-Commerce-Unternehmen unterstützt. Jeden Tag nutzen Milliarden von Menschen in Indien, Lateinamerika, Europa und darüber hinaus unsere Produkte und Dienstleistungen zum Kaufen, Verkaufen, Bezahlen, Verbinden und Entdecken.
Unser KI-gesteuertes Ökosystem umfasst über 100 Unternehmen aus den Bereichen E-Commerce, Lebensmittellieferung, Fintech und Erlebnisse und bedient Milliarden von Verbrauchern weltweit. KI bestimmt unsere Arbeitsweise und Innovation. Mehr als 60.000 aktive KI-Agenten helfen unseren Teams dabei, schneller aufzubauen, zu skalieren und voranzukommen. Über unser Investmentteam unterstützen wir auch die Gründer und Technologien, die die Zukunft gestalten: Von Robotik und autonomen Systemen bis hin zu synthetischer Biologie und Pionier-KI.
Geleitet von unseren fünf Werten Innovation, Ergebnisse, Menschen, Wirkung und Unternehmertum ist Kultur unser Wettbewerbsvorteil. Wir leben vom Experimentieren; Wir bauen, wir testen, wir lernen, wir iterieren.
Gestalten Sie gemeinsam mit uns die Zukunft der Technologie auf globaler Ebene.
Wen wir suchen
Wir suchen einen Senior Machine Learning Engineer, der domänenspezifische Sprachmodelle trainiert und dem Team die technische Führung übernimmt. Sie sind Eigentümer wichtiger Teile unserer Schulungsinfrastruktur, betreuen Ingenieure und treiben technische Entscheidungen von der Datenvorbereitung bis zur Produktionsbereitstellung voran. Sie verfügen über umfangreiche praktische Erfahrung im Training von Sprachmodellen in großem Maßstab, gehen durch rigoroses Experimentieren und hochwertigen Code mit gutem Beispiel voran und sind motiviert, wenn Sie sehen, wie Ihre Arbeit Millionen von Benutzern bereitgestellt wird. Sie gedeihen in schnelllebigen Umgebungen, in denen Sie technische Tiefe mit praktischen geschäftlichen Auswirkungen in Einklang bringen.
Was Sie tun werden

• Analysieren Sie Modellleistung und Trainingsdaten, formulieren Sie Hypothesen, entwerfen und führen Sie strenge Experimente durch, um die Modellqualität, Trainings- und Inferenzeffizienz sowie die Leistung nachgelagerter Aufgaben systematisch zu verbessern

• Fördern Sie die technische Entscheidungsfindung für Modellarchitektur, Trainingsstrategien und Infrastrukturentscheidungen

• Bieten Sie ML-Ingenieuren und Praktikanten technische Führung und Mentoring, führen Sie Codeüberprüfungen durch, teilen Sie Best Practices und beschleunigen Sie das Teamwachstum

• Trainieren Sie große Sprachmodelle durch kontinuierliches Vortraining und vollständige Parameter-Feinabstimmung an proprietären Datensätzen

• Erstellen und optimieren Sie eine verteilte Trainingsinfrastruktur über GPU-Cluster mit mehreren Knoten mithilfe von Frameworks wie DeepSpeed, FSDP, Megatron-LM oder Axolotl

• Eigene groß angelegte Datenaufbereitung: Filterung, Qualitätsbewertung, Deduplizierung und Datenmischungsstrategien für das Training von Korpora im Maßstab von 100 Mrd.+ Token

• Generieren und kuratieren Sie hochwertige synthetische Daten zur Feinabstimmung des Unterrichts und zur Verbesserung der Fähigkeiten

• Beheben Sie Stabilitätsprobleme beim Training, optimieren Sie den Trainings- und Inferenzdurchsatz (Quantisierung, Destillation, Bereitstellungsoptimierung) und überwachen Sie die Modellleistung bei verteilten Jobs mit langer Laufzeit

• Erstellen Sie robuste Bewertungsrahmen und etablieren Sie Metriken, um die Modellqualität zu messen und Entscheidungen zu leiten

• Schreiben Sie gut getesteten Code in Produktionsqualität und legen Sie technische Standards für das Team fest

Mindestqualifikationen

• Mehr als 7 Jahre Erfahrung im ML-Engineering

• Technische Führungserfahrung: Betreuung von Ingenieuren, Durchführung von Codeüberprüfungen, Treffen von Architekturentscheidungen und Bereitstellung von Projekten mit messbaren geschäftlichen Auswirkungen

• Nachgewiesene Erfahrung in der Schulung und Bereitstellung von Sprachmodellen für die Produktion (Einbetten von Modellen, Encoder-Modellen oder großen Sprachmodellen), einschließlich Vortraining, fortlaufendem Vortraining oder Feinabstimmung mit strenger Bewertung und Inferenzoptimierung

• Erfahrung in der Vorbereitung großer Trainingsdatensätze: Datenfilterung, Qualitätsbewertung, Deduplizierungsstrategien und Datenmischungsdesign

• Praktische Erfahrung mit verteilten Trainings-Frameworks (DeepSpeed, FSDP, Megatron-LM oder Axolotl), einschließlich der Orchestrierung von Multi-Node-Jobs, der Fehlerbehebung bei Fehlern und der Optimierung des Durchsatzes

• Ausgeprägtes Verständnis der Trainingsdynamik im großen Maßstab: Debuggen von Verlustinstabilitäten, Optimieren von Lernratenplänen, Verwalten der Trainingsstabilität über Langzeitjobs mit mehreren Knoten hinweg

• Experte für Python und PyTorch mit Produktionserfahrung unter Verwendung von Trainingsbibliotheken (Transformers, DeepSpeed, Accelerate)

Bevorzugte Qualifikationen

• Veröffentlichte Forschung auf ML-Konferenzen (NeurIPS, ICML, ICLR, ACL, EMNLP), veröffentlichte Modelle zu Hugging Face, erstellte öffentliche Benchmarks oder trug zu Open-Source-Projekten bei

• Erfahrung mit Post-Training-Methoden: RLHF, DPO, GRPO oder andere Reinforcement-Learning-Ansätze zur Ausrichtung und Befolgung von Anweisungen

• Erfahrung in der Optimierung von Modellen für Produktionsinferenz, einschließlich Quantisierung, Modellkomprimierung, Destillation und Bereitstellung von Frameworks (vLLM, TensorRT-LLM)

• Verständnis der Speicheroptimierung: Gradient Checkpointing, Mixed Precision Training (FP16, BF16, FP8), ZeRO-Optimierung

• Tiefe Kenntnisse der GPU-Architekturen (A100, H100, H200) und deren Auswirkungen auf Training und Inferenzoptimierung

• Erfolgsbilanz beim Aufbau synthetischer Datengenerierungspipelines zur Befehlsoptimierung oder Domänenanpassung

Was wir bieten

• Hochwirksame KI-Projekte, die für das Unternehmen von strategischer Bedeutung sind, mit direktem Engagement der obersten Führungsebene, einschließlich des CEO

• Hochmoderne Infrastruktur: H200-GPU-Flotte, riesige proprietäre Datensätze, Zugriff auf Grenzmodelle (OpenAI, Anthropic, Google, Together.ai) für Evaluierung und Baselines

• Expertenkollegen, die Top-Hugging-Face-Modelle veröffentlicht, Artikel bei NeurIPS verfasst, bekannte Benchmarks erstellt und mehrere Produktions-KI-Systeme entwickelt haben

• Erhebliche Autonomie und Freiheit, Ideen zu testen, mit neuen Ansätzen zu experimentieren und technische Entscheidungen voranzutreiben

• Moderne Tools: Neueste ML-Frameworks, Codierungsassistenten, erstklassige Entwicklungsumgebung …

Quelle: Arbeitnow (https://www.arbeitnow.nl/jobs/companies/prosus/senior-machine-learning-engineer-llms-amsterdam-22288)