Inżynier ds. badań, Forge

O Mistralu
Mistral zapewnia kompleksowe rozwiązania AI: od modeli pionierskich po narzędzia programistyczne, aplikacje i obliczenia. Współpracujemy z przedsiębiorstwami zmagającymi się z najtrudniejszymi problemami w branżach wymagających wysokich stawek, takich jak finanse, produkcja, obrona, opieka zdrowotna i sektor publiczny, współtworząc dostosowane do potrzeb systemy sztucznej inteligencji, które mogą uruchamiać na ich warunkach.
Jesteśmy dynamicznym, współpracującym zespołem pasjonującym się sztuczną inteligencją i jej potencjałem do przekształcania społeczeństwa. Nasza zróżnicowana kadra świetnie radzi sobie w konkurencyjnym środowisku i jest zaangażowana we wprowadzanie innowacji. Nasze zespoły są rozmieszczone w Europie, Ameryce Północnej, Azji i na Bliskim Wschodzie. Jesteśmy kreatywni, mamy niskie ego i jesteśmy duchem zespołowym.

Podsumowanie roli
Jako inżynier ds. badań w Forge zamienisz rzeczywiste wymagania klientów w niezawodne procesy szkoleniowe i wdrożeniowe. Będziesz pracować kompleksowo nad adaptacją modelu i szkoleniem poszkoleniowym (CPT/SFT/RL/destylacja), oceną, danymi i infrastrukturą. Rola ta łączy eksperymenty badawcze i ograniczenia produkcyjne.
Ta rola jest związana z naukami stosowanymi i ma bezpośredni wpływ na wyniki klientów. Będziesz ściśle współpracować z naukowcami, inżynierami, zespołami zajmującymi się produktami i klientami, aby mieć pewność, że projekty Forge zostaną zrealizowane, łatwe w utrzymaniu i że inni będą mogli im zaufać.
Temat wywiadu może być różny (algorytmy, infrastruktura, oceny lub dane). Aby złożyć wniosek, nie musisz pasować do każdego punktu poniżej.

Co zrobisz

• Twórz i ulepszaj przepływy pracy po szkoleniu i ocenie (CPT/SFT/RL/destylacja), przekształcając prototypy w powtarzalne „przepisy” Forge.

• Opracuj narzędzia i potoki generowania danych syntetycznych, ich przechowywania, szkolenia, oceny i wdrażania.

• Debugowanie i wzmacnianie wielkoskalowych systemów uczenia maszynowego: rozproszone szkolenie, planowanie/wykonanie, punkty kontrolne, obserwowalność i odtwarzalność.

• Ulepsz bazę kodu Forge poprzez przejrzyste interfejsy API, testy, dokumentację i łatwe w utrzymaniu abstrakcje.

• Przesuwaj granice naszego stosu szkoleniowego RL (np. wysokoprzepustowe wdrażanie asynchroniczne i skalowalne systemy po szkoleniu w skali pionierskiego modelu)

• Upewnij się, że wdrożenie Forge przebiega bezproblemowo i można je dostosować do różnorodnych klientów (dostęp do sprzętu, stos oprogramowania, chmura i lokalnie,…)

• Współpracuj z badaczami i inżynierami infrastruktury, aby przełożyć wąskie gardła na konkretne ulepszenia systemu.

O tobie

• Silne umiejętności inżynieryjne w języku Python i doświadczenie w pracy z dużymi bazami kodu (testowanie, przegląd kodu, CI, własność operacyjna).

• Praktyczne doświadczenie z PyTorch, JAX lub podobnym.

• Solidne podstawy systemów i infrastruktury.

• Doświadczenie w szkoleniu LLM lub szkoleniu poszkoleniowym: dostrajanie, RL, destylacja, ocena i/lub potoki danych.

• Doskonałe umiejętności debugowania w niejednoznacznych systemach (rozproszone zadania, problemy z danymi, regresja jakości, awarie infrastruktury).

• Jasna komunikacja z interesariuszami technicznymi i nietechnicznymi.

• Wysoka sprawczość, niskie ego i komfort w szybko zmieniających się, niedookreślonych środowiskach.

Miło mieć

• Rozproszone doświadczenie szkoleniowe (FSDP, DeepSpeed, Megatron itp.).

• Doświadczenie w klastrach/orkiestracji (SLURM, Ray, Kubernetes, Kueue, Karpenter, Skypilot itp.).

• Doświadczenie w budowaniu niezawodnej infrastruktury uczenia maszynowego, systemów oceny lub potoków przetwarzania danych na dużą skalę.

• Doświadczenie badawcze w zakresie LLM, agentów, modeli multimodalnych, rozumowania, kodu lub adaptacji domeny.

• Wkłady, publikacje lub szeroko stosowane narzędzia wewnętrzne typu open source.

• Doświadczenie w szkoleniu modeli wielomiliardowych parametrów (trening wstępny lub RL). Doświadczenie w szkoleniu na temat zbiorów danych w skali petabajtów i eksabajtów.

• Umiejętność identyfikowania wąskich gardeł w stosie i wprowadzania ulepszeń w oparciu o podstawowe zasady.

Co oferujemy
Oferujemy kompleksowy pakiet świadczeń zaprojektowany z myślą o wspieraniu Twojego dobrego samopoczucia, rozwoju i równowagi między życiem zawodowym a prywatnym. Świadczenia różnią się w zależności od kraju i mogą obejmować opiekę zdrowotną, urlop rodzicielski, plany emerytalne, wsparcie w przeprowadzce, programy odnowy biologicznej, dodatki na posiłki i transport oraz inne dodatki zależne od lokalizacji.
Najbardziej aktualne informacje na temat świadczeń dostępnych w Twojej lokalizacji można znaleźć na naszej stronie Korzyści .

Polityka prywatności
Twoja prywatność jest dla nas ważna. Możesz dowiedzieć się więcej o tym, jak postępujemy z Twoimi danymi osobowymi w naszej Polityce prywatności kandydatów.
Znajdź oferty pracy we Francji na Arbeitnow

Źródło: Arbeitnow (https://www.arbeitnow.fr/jobs/companies/mistralai/research-engineer-forge-paris-155448)