Starszy inżynier uczenia maszynowego – LLM

Kim jesteśmy
Zamówiłeś obiad w Just Eat Takeaway. Kupowałeś i sprzedawałeś na OLX. Zapłaciłeś za pomocą PayU. Prawdopodobnie korzystałeś już dzisiaj z usług firmy Prosus.
Jesteśmy Prosus, globalną firmą technologiczną obsługującą niektóre z wiodących na świecie biznesów e-commerce związanych ze stylem życia. Każdego dnia miliardy ludzi w Indiach, Ameryce Łacińskiej, Europie i poza nią korzystają z naszych produktów i usług, aby kupować, sprzedawać, płacić, łączyć się i odkrywać.
Nasz ekosystem oparty na sztucznej inteligencji obejmuje ponad 100 firm zajmujących się handlem elektronicznym, dostawą żywności, technologią fintech i doświadczeniami, obsługując miliardy konsumentów na całym świecie. Sztuczna inteligencja wspomaga nasze działanie i innowacje, a ponad 60 000 aktywnych agentów AI pomaga naszym zespołom szybciej budować, skalować i działać. Za pośrednictwem naszego zespołu inwestycyjnego wspieramy także założycieli i technologie kształtujące przyszłość: od robotyki i systemów autonomicznych po biologię syntetyczną i pionierską sztuczną inteligencję.
Kierując się naszymi pięcioma wartościami: Innowacją, Wyniki, Ludzie, Wpływ i Przedsiębiorczość, kultura jest naszą przewagą konkurencyjną. Rozwijamy się dzięki eksperymentom; budujemy, testujemy, uczymy się, iterujemy.
Dołącz do nas w kształtowaniu przyszłości technologii w skali globalnej.
Kogo szukamy
Poszukujemy starszego inżyniera ds. uczenia maszynowego, który będzie szkolił modele językowe specyficzne dla domeny i zapewni zespołowi kierownictwo techniczne. Będziesz właścicielem kluczowych części naszej infrastruktury szkoleniowej, będziesz mentorem inżynierów i będziesz podejmować decyzje techniczne od przygotowania danych po wdrożenie produkcyjne. Masz głębokie, praktyczne doświadczenie w szkoleniu modeli językowych na dużą skalę, dajesz przykład poprzez rygorystyczne eksperymenty i wysokiej jakości kod, a motywację daje Ci widok wdrożenia Twojej pracy dla milionów użytkowników. Dobrze prosperujesz w dynamicznych środowiskach, w których równoważysz głębię techniczną z praktycznym wpływem na biznes.
Co zrobisz

• Analizuj wydajność modelu i dane szkoleniowe, formułuj hipotezy, projektuj i przeprowadzaj rygorystyczne eksperymenty, aby systematycznie poprawiać jakość modelu, efektywność uczenia i wnioskowania oraz wydajność dalszych zadań

• Wspieraj podejmowanie decyzji technicznych dotyczących architektury modelu, strategii szkoleniowych i wyborów dotyczących infrastruktury

• Zapewnianie przywództwa technicznego i mentoringu inżynierom i stażystom ML, przeprowadzanie przeglądów kodu, dzielenie się najlepszymi praktykami i przyspieszanie rozwoju zespołu

• Trenuj duże modele językowe poprzez ciągłe szkolenie wstępne i pełne dostrajanie parametrów na zastrzeżonych zbiorach danych

• Buduj i optymalizuj rozproszoną infrastrukturę szkoleniową w wielowęzłowych klastrach GPU, korzystając z platform takich jak DeepSpeed, FSDP, Megatron-LM lub Axolotl

• Własne przygotowanie danych na dużą skalę: filtrowanie, ocena jakości, deduplikacja i strategie miksowania danych dla korpusów szkoleniowych w skali tokenów 100B+

• Generowanie i selekcjonowanie wysokiej jakości danych syntetycznych w celu udoskonalenia instrukcji i zwiększenia możliwości

• Debuguj problemy ze stabilnością uczenia, optymalizuj wydajność uczenia i wnioskowania (kwantyzacja, destylacja, optymalizacja serwowania) i monitoruj wydajność modelu podczas długotrwałych zadań rozproszonych

• Twórz solidne ramy oceny i ustalaj metryki do pomiaru jakości modelu i podejmowania decyzji

• Napisz dobrze przetestowany kod klasy produkcyjnej i ustal standardy inżynieryjne dla zespołu

Minimalne kwalifikacje

• Ponad 7 lat doświadczenia w inżynierii ML

• Doświadczenie w zakresie przywództwa technicznego: mentoring dla inżynierów, przeprowadzanie przeglądów kodu, podejmowanie decyzji dotyczących architektury i dostarczanie projektów o wymiernym wpływie biznesowym

• Udokumentowane doświadczenie w szkoleniu i wdrażaniu modeli językowych w środowisku produkcyjnym (modele osadzania, modele koderów lub duże modele językowe), w tym szkolenie wstępne, ciągłe szkolenie wstępne lub dostrajanie z rygorystyczną oceną i optymalizacją wnioskowania

• Doświadczenie w przygotowywaniu szkoleniowych zbiorów danych na dużą skalę: filtrowanie danych, ocena jakości, strategie deduplikacji i projektowanie mieszanin danych

• Praktyczne doświadczenie z rozproszonymi platformami szkoleniowymi (DeepSpeed, FSDP, Megatron-LM lub Axolotl), w tym koordynowanie zadań wielowęzłowych, debugowanie błędów i optymalizacja przepustowości

• Silne zrozumienie dynamiki uczenia na dużą skalę: debugowanie niestabilności strat, dostrajanie harmonogramów szybkości uczenia się, zarządzanie stabilnością uczenia się w długotrwałych zadaniach wielowęzłowych

• Ekspert w Pythonie i PyTorch z doświadczeniem produkcyjnym korzystającym z bibliotek szkoleniowych (Transformers, DeepSpeed, Accelerate)

Preferowane kwalifikacje

• Publikował badania na konferencjach ML (NeurIPS, ICML, ICLR, ACL, EMNLP), publikował modele na Hugging Face, tworzył publiczne benchmarki lub brał udział w projektach open source

• Doświadczenie z metodami poszkoleniowymi: RLHF, DPO, GRPO lub innymi metodami uczenia się przez wzmacnianie w celu dostosowania się i przestrzegania instrukcji

• Doświadczenie w optymalizacji modeli pod kątem wnioskowania produkcyjnego, w tym kwantyzacji, kompresji modelu, destylacji i struktur obsługi (vLLM, TensorRT-LLM)

• Zrozumienie optymalizacji pamięci: gradientowe punkty kontrolne, trening mieszanej precyzji (FP16, BF16, FP8), optymalizacja ZeRO

• Dogłębna wiedza na temat architektur GPU (A100, H100, H200) i ich konsekwencji dla optymalizacji uczenia i wnioskowania

• Doświadczenia w budowaniu potoków generowania danych syntetycznych w celu dostrajania instrukcji lub adaptacji domeny

Co oferujemy

• Projekty AI o dużym wpływie, które są strategicznie istotne dla firmy, przy bezpośrednim zaangażowaniu kierownictwa wyższego szczebla, w tym dyrektora generalnego

• Najnowocześniejsza infrastruktura: flota procesorów graficznych H200, ogromne, zastrzeżone zbiory danych, dostęp do modeli pionierskich (OpenAI, Anthropic, Google, Together.ai) w celu oceny i punktów bazowych

• Koledzy-eksperci, którzy opublikowali najlepsze modele Hugging Face, są autorami artykułów w NeurIPS, stworzyli dobrze znane testy porównawcze i zbudowali wiele produkcyjnych systemów AI

• Znaczna autonomia i swoboda testowania pomysłów, eksperymentowania z nowymi podejściami i podejmowania decyzji technicznych

• Nowoczesne narzędzia: najnowsze frameworki ML, asystenci kodowania, najlepsze w swojej klasie środowisko programistyczne…

Źródło: Arbeitnow (https://www.arbeitnow.nl/jobs/companies/prosus/senior-machine-learning-engineer-llms-amsterdam-22288)