Inżynier uczenia maszynowego — LLM

Kim jesteśmy
Zamówiłeś obiad w Just Eat Takeaway. Kupowałeś i sprzedawałeś na OLX. Zapłaciłeś za pomocą PayU. Prawdopodobnie korzystałeś już dzisiaj z usług firmy Prosus.
Jesteśmy Prosus, globalną firmą technologiczną obsługującą niektóre z wiodących na świecie biznesów e-commerce związanych ze stylem życia. Każdego dnia miliardy ludzi w Indiach, Ameryce Łacińskiej, Europie i poza nią korzystają z naszych produktów i usług, aby kupować, sprzedawać, płacić, łączyć się i odkrywać.
Nasz ekosystem oparty na sztucznej inteligencji obejmuje ponad 100 firm zajmujących się handlem elektronicznym, dostawą żywności, technologią fintech i doświadczeniami, obsługując miliardy konsumentów na całym świecie. Sztuczna inteligencja wspomaga nasze działanie i innowacje, a ponad 60 000 aktywnych agentów AI pomaga naszym zespołom szybciej budować, skalować i działać. Za pośrednictwem naszego zespołu inwestycyjnego wspieramy także założycieli i technologie kształtujące przyszłość: od robotyki i systemów autonomicznych po biologię syntetyczną i pionierską sztuczną inteligencję.
Kierując się naszymi pięcioma wartościami: Innowacją, Wyniki, Ludzie, Wpływ i Przedsiębiorczość, kultura jest naszą przewagą konkurencyjną. Rozwijamy się dzięki eksperymentom; budujemy, testujemy, uczymy się, iterujemy.
Dołącz do nas w kształtowaniu przyszłości technologii w skali globalnej.
Dołącz do naszego zespołu AI w Prosus, największej konsumenckiej firmie internetowej w Europie i jednym z największych inwestorów technologicznych na świecie. Będziesz pracować w zespole, który napędza rozwój i innowacje w całej firmie, a Twoja praca będzie miała bezpośredni wpływ na sposób, w jaki miliony ludzi robią zakupy online.

Kogo szukamy
Poszukujemy doświadczonego inżyniera uczenia maszynowego, który opracuje nasze modele językowe specyficzne dla domeny. Będziesz właścicielem pełnego zestawu szkoleń – od ciągłego szkolenia wstępnego na zastrzeżonych danych, poprzez dostrajanie, aż po zaawansowane techniki poszkoleniowe. Masz praktyczne doświadczenie w szkoleniu modeli językowych na dużą skalę (od modeli osadzania po wyspecjalizowane LLM), dogłębną wiedzę na temat systemów rozproszonych i specjalizujesz się w przekształcaniu koncepcji badawczych w solidne systemy produkcyjne. Motywuje Cię to, że Twoja praca jest wdrażana i używana przez miliony prawdziwych użytkowników. Dobrze prosperujesz w dynamicznych środowiskach, w których równoważysz spostrzeżenia badawcze z praktycznym wpływem na biznes.

Co zrobisz

• Analizuj wydajność modelu i dane szkoleniowe, aby zidentyfikować możliwości ulepszeń i sformułować hipotezy dotyczące ulepszeń

• Projektuj, wykonuj i rygorystycznie oceniaj eksperymenty, aby poprawić jakość modelu, efektywność uczenia i wydajność dalszych zadań

• Trenuj duże modele językowe dla naszej domeny poprzez ciągłe szkolenie wstępne i pełne dostrajanie parametrów na zastrzeżonych zbiorach danych

• Projektowanie i wdrażanie rurociągów poszkoleniowych przy użyciu RLHF, DPO, GRPO i innych technik uczenia się przez wzmacnianie

• Buduj i optymalizuj rozproszoną infrastrukturę szkoleniową w wielowęzłowych klastrach GPU, korzystając z platform takich jak DeepSpeed, FSDP, Megatron-LM lub Axolotl

• Własne przygotowanie danych na dużą skalę: filtrowanie, ocena jakości, deduplikacja i strategie miksowania danych dla korpusów szkoleniowych w skali tokenów 100B+

• Generowanie i selekcjonowanie wysokiej jakości danych syntetycznych w celu udoskonalenia instrukcji i zwiększenia możliwości

• Debuguj problemy ze stabilnością uczenia, optymalizuj przepustowość uczenia i monitoruj wydajność modelu podczas długotrwałych zadań rozproszonych

• Wdrażaj techniki z najnowszych artykułów i dostosowuj je do naszych przypadków użycia

• Zbuduj solidne ramy oceny, aby mierzyć jakość modelu i kierować decyzjami szkoleniowymi

• Napisz dobrze przetestowany kod klasy produkcyjnej i współtwórz standardy inżynieryjne zespołu

Minimalne kwalifikacje

• Ponad 3 lata doświadczenia w inżynierii ML

• Udokumentowane doświadczenie w szkoleniu i wdrażaniu modeli językowych w środowisku produkcyjnym (modele osadzania, modele koderów lub duże modele językowe), w tym szkolenie wstępne, ciągłe szkolenie wstępne lub dostrajanie z rygorystyczną oceną

• Doświadczenie w przygotowywaniu szkoleniowych zbiorów danych na dużą skalę: filtrowanie danych, ocena jakości, strategie deduplikacji i projektowanie mieszanin danych

• Praktyczne doświadczenie z rozproszonymi platformami szkoleniowymi (DeepSpeed, FSDP, Megatron-LM lub Axolotl), w tym koordynowanie zadań wielowęzłowych, debugowanie błędów i optymalizacja przepustowości

• Silne zrozumienie dynamiki uczenia na dużą skalę: debugowanie niestabilności strat, dostrajanie harmonogramów szybkości uczenia się, zarządzanie stabilnością uczenia się w długotrwałych zadaniach wielowęzłowych

• Ekspert w Pythonie i PyTorch z doświadczeniem produkcyjnym korzystającym z bibliotek szkoleniowych (Transformers, DeepSpeed, Accelerate)

• Solidne praktyki inżynierii oprogramowania: kontrola wersji, testowanie, CI/CD, przegląd kodu

Preferowane kwalifikacje

• Publikował badania na konferencjach ML (NeurIPS, ICML, ICLR, ACL, EMNLP), publikował modele na Hugging Face, tworzył publiczne benchmarki lub brał udział w projektach open source

• Doświadczenie z metodami poszkoleniowymi: RLHF, DPO, GRPO lub innymi metodami uczenia się przez wzmacnianie w celu dostosowania się i przestrzegania instrukcji

• Doświadczenie w optymalizacji modeli pod kątem wnioskowania produkcyjnego: kwantyzacja, kompresja modelu, destylacja i struktury obsługujące (vLLM)

• Zrozumienie optymalizacji pamięci: gradientowe punkty kontrolne, trening mieszanej precyzji (FP16, BF16, FP8), optymalizacja ZeRO

• Doświadczenia w budowaniu potoków generowania danych syntetycznych w celu dostrajania instrukcji lub adaptacji domeny

• Wkład badawczy: publikowane artykuły na konferencjach ML, publikowane modele na temat Hugging Face lub tworzone punkty odniesienia wykorzystywane przez społeczność

• Wkład w projekty lub narzędzia szkoleniowe LLM typu open source

Co oferujemy

• Projekty AI o dużym wpływie, które są strategicznie istotne dla firmy, przy bezpośrednim zaangażowaniu kierownictwa wyższego szczebla, w tym dyrektora generalnego

• Najnowocześniejsza infrastruktura: flota procesorów graficznych H200, ogromne, zastrzeżone zbiory danych, dostęp do modeli pionierskich (OpenAI, Anthropic, Google, Together.ai) w celu oceny i punktów bazowych

• Koledzy-eksperci, którzy opublikowali najlepsze modele Hugging Face, są autorami artykułów w NeurIPS, stworzyli dobrze znane testy porównawcze i zbudowali wiele produkcyjnych systemów AI…

Źródło: Arbeitnow (https://www.arbeitnow.nl/jobs/companies/prosus/machine-learning-engineer-llms-amsterdam-244530)