Ingenieur für maschinelles Lernen – LLMs

Wer wir sind
Sie haben ein Abendessen über Just Eat Takeaway bestellt. Sie haben auf OLX gekauft und verkauft. Sie haben mit PayU bezahlt. Die Chancen stehen gut, dass Sie heute bereits mit einem Prosus-Unternehmen zusammengearbeitet haben.
Wir sind Prosus, ein globales Technologieunternehmen, das einige der weltweit führenden Lifestyle-E-Commerce-Unternehmen unterstützt. Jeden Tag nutzen Milliarden von Menschen in Indien, Lateinamerika, Europa und darüber hinaus unsere Produkte und Dienstleistungen zum Kaufen, Verkaufen, Bezahlen, Verbinden und Entdecken.
Unser KI-gesteuertes Ökosystem umfasst über 100 Unternehmen aus den Bereichen E-Commerce, Lebensmittellieferung, Fintech und Erlebnisse und bedient Milliarden von Verbrauchern weltweit. KI bestimmt unsere Arbeitsweise und Innovation. Mehr als 60.000 aktive KI-Agenten helfen unseren Teams dabei, schneller aufzubauen, zu skalieren und voranzukommen. Über unser Investmentteam unterstützen wir auch die Gründer und Technologien, die die Zukunft gestalten: Von Robotik und autonomen Systemen bis hin zu synthetischer Biologie und Pionier-KI.
Geleitet von unseren fünf Werten Innovation, Ergebnisse, Menschen, Wirkung und Unternehmertum ist Kultur unser Wettbewerbsvorteil. Wir leben vom Experimentieren; Wir bauen, wir testen, wir lernen, wir iterieren.
Gestalten Sie gemeinsam mit uns die Zukunft der Technologie auf globaler Ebene.
Werden Sie Teil unseres KI-Teams bei Prosus, dem größten Verbraucher-Internetunternehmen in Europa und einem der größten Technologieinvestoren der Welt. Sie arbeiten in dem Team, das Wachstum und Innovation im gesamten Unternehmen vorantreibt, wobei Ihre Arbeit direkten Einfluss darauf hat, wie Millionen von Menschen online einkaufen.

Wen wir suchen
Wir suchen einen erfahrenen Machine Learning Engineer für die Entwicklung unserer domänenspezifischen Sprachmodelle. Sie sind Eigentümer der gesamten Schulungspipeline – von der kontinuierlichen Vorschulung auf proprietären Daten über die Feinabstimmung bis hin zu fortgeschrittenen Techniken nach der Schulung. Sie verfügen über praktische Erfahrung im Training von Sprachmodellen im großen Maßstab (von Einbettungsmodellen bis hin zu spezialisierten LLMs), verfügen über ein tiefes Verständnis verteilter Systeme und sind hervorragend darin, Forschungskonzepte in robuste Produktionssysteme umzuwandeln. Es motiviert Sie, wenn Sie sehen, wie Ihre Arbeit von Millionen echter Benutzer eingesetzt und genutzt wird. Sie gedeihen in einem schnelllebigen Umfeld, in dem Sie Forschungserkenntnisse mit praktischen Auswirkungen auf das Geschäft in Einklang bringen.

Was du tun wirst

• Analysieren Sie Modellleistung und Trainingsdaten, um Verbesserungsmöglichkeiten zu identifizieren und Hypothesen für Verbesserungen zu formulieren

• Entwerfen, führen und evaluieren Sie Experimente gründlich, um die Modellqualität, die Trainingseffizienz und die Leistung nachgelagerter Aufgaben zu verbessern

• Trainieren Sie große Sprachmodelle für unsere Domäne durch fortlaufendes Vortraining und vollständige Parameter-Feinabstimmung an proprietären Datensätzen

• Entwerfen und implementieren Sie Post-Training-Pipelines unter Verwendung von RLHF, DPO, GRPO und anderen verstärkenden Lerntechniken

• Erstellen und optimieren Sie eine verteilte Trainingsinfrastruktur über GPU-Cluster mit mehreren Knoten mithilfe von Frameworks wie DeepSpeed, FSDP, Megatron-LM oder Axolotl

• Eigene groß angelegte Datenaufbereitung: Filterung, Qualitätsbewertung, Deduplizierung und Datenmischungsstrategien für das Training von Korpora im Maßstab von 100 Mrd.+ Token

• Generieren und kuratieren Sie hochwertige synthetische Daten zur Feinabstimmung des Unterrichts und zur Verbesserung der Fähigkeiten

• Beheben Sie Probleme mit der Trainingsstabilität, optimieren Sie den Trainingsdurchsatz und überwachen Sie die Modellleistung bei verteilten Jobs mit langer Laufzeit

• Implementieren Sie Techniken aus aktuellen Veröffentlichungen und passen Sie sie an unsere Anwendungsfälle an

• Erstellen Sie robuste Bewertungsrahmen, um die Modellqualität zu messen und Trainingsentscheidungen zu treffen

• Schreiben Sie produktionstauglichen, gut getesteten Code und tragen Sie zu Team-Engineering-Standards bei

Mindestqualifikationen

• Mehr als 3 Jahre Erfahrung im ML-Engineering

• Nachgewiesene Erfahrung in der Schulung und Bereitstellung von Sprachmodellen in der Produktion (Einbetten von Modellen, Encoder-Modellen oder großen Sprachmodellen), einschließlich Vorschulung, fortlaufender Vorschulung oder Feinabstimmung mit strenger Bewertung

• Erfahrung in der Vorbereitung umfangreicher Trainingsdatensätze: Datenfilterung, Qualitätsbewertung, Deduplizierungsstrategien und Datenmischungsdesign

• Praktische Erfahrung mit verteilten Trainings-Frameworks (DeepSpeed, FSDP, Megatron-LM oder Axolotl), einschließlich der Orchestrierung von Multi-Node-Jobs, der Fehlerbehebung bei Fehlern und der Optimierung des Durchsatzes

• Ausgeprägtes Verständnis der Trainingsdynamik im großen Maßstab: Debuggen von Verlustinstabilitäten, Optimieren von Lernratenplänen, Verwalten der Trainingsstabilität über Langzeitjobs mit mehreren Knoten hinweg

• Experte für Python und PyTorch mit Produktionserfahrung unter Verwendung von Trainingsbibliotheken (Transformers, DeepSpeed, Accelerate)

• Starke Software-Engineering-Praktiken: Versionskontrolle, Tests, CI/CD, Codeüberprüfung

Bevorzugte Qualifikationen

• Veröffentlichte Forschung auf ML-Konferenzen (NeurIPS, ICML, ICLR, ACL, EMNLP), veröffentlichte Modelle zu Hugging Face, erstellte öffentliche Benchmarks oder trug zu Open-Source-Projekten bei

• Erfahrung mit Post-Training-Methoden: RLHF, DPO, GRPO oder andere Reinforcement-Learning-Ansätze zur Ausrichtung und Befolgung von Anweisungen

• Erfahrung in der Optimierung von Modellen für Produktionsinferenz: Quantisierung, Modellkomprimierung, Destillation und Serving Frameworks (vLLM)

• Verständnis der Speicheroptimierung: Gradient Checkpointing, Mixed Precision Training (FP16, BF16, FP8), ZeRO-Optimierung

• Erfolgsbilanz beim Aufbau synthetischer Datengenerierungspipelines zur Befehlsoptimierung oder Domänenanpassung

• Forschungsbeiträge: veröffentlichte Artikel auf ML-Konferenzen, veröffentlichte Modelle auf Hugging Face oder erstellte Benchmarks, die von der Community verwendet werden

• Beiträge zu Open-Source-LLM-Schulungsprojekten oder -Tools

Was wir bieten

• Hochwirksame KI-Projekte, die für das Unternehmen von strategischer Bedeutung sind, mit direktem Engagement der obersten Führungsebene, einschließlich des CEO

• Hochmoderne Infrastruktur: H200-GPU-Flotte, riesige proprietäre Datensätze, Zugriff auf Grenzmodelle (OpenAI, Anthropic, Google, Together.ai) für Evaluierung und Baselines

• Expertenkollegen, die Top-Hugging-Face-Modelle veröffentlicht, Artikel bei NeurIPS verfasst, bekannte Benchmarks erstellt und mehrere Produktions-KI-Systeme entwickelt haben …

Quelle: Arbeitnow (https://www.arbeitnow.nl/jobs/companies/prosus/machine-learning-engineer-llms-amsterdam-244530)