Praca
Z kanału partnera
Inżynier oprogramowania, wnioskowanie
Cena na życzenie
Szczegóły
- Typ zatrudnienia
- Pełny etat
- Zdalnie
- Nie
- Firma
- Lumaai
Opis
Automatyczne tłumaczenie z języka English. Oryginał jest wiążący. Tłumaczenie maszynowe — trwają prace nad dokładniejszą wersją.
Będziesz właścicielem sposobu, w jaki modele Lumy będą obsługiwane — integrując nowe architektury z silnikiem wnioskowania, skalując wdrożenia na tysiącach maszyn i zajmując drogie floty procesorów graficznych, jednocześnie spełniając wewnętrzne poziomy SLO.
Jest to praca z systemami wnioskowania na dużą skalę: planowanie, zarządzanie flotą, potoki wdrożeń i niezawodność w klastrach i dostawcach sprzętu. Pasuje do silnego inżyniera systemów, który zna się na obsłudze modeli i Kubernetesie na dużą skalę. Jeśli chcesz czystego modelowania, a nie systemów, na których działają modele, jest to zdecydowanie strona systemowa.
Co będziesz posiadać
• Dostarczaj nowe architektury modeli, integrując je z silnikiem wnioskowania.
• Współpraca w zakresie badań, inżynierii i infrastruktury w celu optymalizacji wydajności modeli i wdrożeń.
• Twórz wewnętrzne narzędzia do pomiaru, profilowania i śledzenia czasu życia zadań wnioskowania i przepływów pracy.
• Automatyzuj, testuj i utrzymuj usługi wnioskowania w celu uzyskania maksymalnego czasu pracy i niezawodności.
• Zarządzaj obciążeniami wnioskowania i optymalizuj je w klastrach i dostawcach sprzętu, a także skaluj wdrożenia na tysiącach maszyn.
• Twórz systemy planowania, które optymalnie wykorzystują drogie zasoby GPU, spełniając SLO, i utrzymują CI/CD dla punktów kontrolnych modelu i zestawów SDK.
Pierwsze 90 dni
Jednym ze sposobów, w jaki mogłoby rozwinąć się pierwsze 90.
• Dni 1–30 — Zanurz się i diagnozuj: poznaj stos wniosków, floty i miejsca, w których następuje przerwa w niezawodności lub wykorzystaniu.
• Dni 30–60 — Wysyłka i weryfikacja: Zintegruj model lub oprzyrządowanie/harmonogram wysyłki, które poprawią czas pracy lub wykorzystanie procesora graficznego.
• Dni 60–90 — Skalowanie i systematyzowanie: Ulepszanie potoków wdrażania i harmonogramów w klastrach i dostawcach.
Co przynosisz
• Dobra znajomość języka Python i architektury systemu.
• Doświadczenie we wdrażaniu modeli za pomocą PyTorch, Hugging Face, vLLM, SGLang, TensorRT-LLM lub podobnego.
• Doświadczenie w zakresie kolejek, planowania, kontroli ruchu i zarządzania flotą na dużą skalę.
• Doświadczenie z systemami Linux, Docker i Kubernetes oraz z orkiestracją, wdrażaniem i planowaniem.
• Znajomość pamięci masowej kompatybilnej z Redis i S3.
Miło mieć
• Nowoczesne stosy sieciowe, w tym RDMA (RoCE, InfiniBand, NVLink).
• Wysokowydajne, wielkoskalowe systemy uczenia maszynowego (ponad 100 procesorów graficznych).
• CUDA i FFmpeg lub przetwarzanie multimediów.
O Lumie: Misją Lumy jest budowanie jednolitej ogólnej inteligencji, która może generować, rozumieć i działać w świecie fizycznym. Wierzymy, że multimodalność ma kluczowe znaczenie dla inteligencji — kolejnym krokiem poza modelami językowymi jest wizja. Luma jest pracodawcą zapewniającym równe szanse.
Znajdź oferty pracy w Wielkiej Brytanii na Arbeitnow
Źródło: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/lumaai/software-engineer-inference-london-107112)
Jest to praca z systemami wnioskowania na dużą skalę: planowanie, zarządzanie flotą, potoki wdrożeń i niezawodność w klastrach i dostawcach sprzętu. Pasuje do silnego inżyniera systemów, który zna się na obsłudze modeli i Kubernetesie na dużą skalę. Jeśli chcesz czystego modelowania, a nie systemów, na których działają modele, jest to zdecydowanie strona systemowa.
Co będziesz posiadać
• Dostarczaj nowe architektury modeli, integrując je z silnikiem wnioskowania.
• Współpraca w zakresie badań, inżynierii i infrastruktury w celu optymalizacji wydajności modeli i wdrożeń.
• Twórz wewnętrzne narzędzia do pomiaru, profilowania i śledzenia czasu życia zadań wnioskowania i przepływów pracy.
• Automatyzuj, testuj i utrzymuj usługi wnioskowania w celu uzyskania maksymalnego czasu pracy i niezawodności.
• Zarządzaj obciążeniami wnioskowania i optymalizuj je w klastrach i dostawcach sprzętu, a także skaluj wdrożenia na tysiącach maszyn.
• Twórz systemy planowania, które optymalnie wykorzystują drogie zasoby GPU, spełniając SLO, i utrzymują CI/CD dla punktów kontrolnych modelu i zestawów SDK.
Pierwsze 90 dni
Jednym ze sposobów, w jaki mogłoby rozwinąć się pierwsze 90.
• Dni 1–30 — Zanurz się i diagnozuj: poznaj stos wniosków, floty i miejsca, w których następuje przerwa w niezawodności lub wykorzystaniu.
• Dni 30–60 — Wysyłka i weryfikacja: Zintegruj model lub oprzyrządowanie/harmonogram wysyłki, które poprawią czas pracy lub wykorzystanie procesora graficznego.
• Dni 60–90 — Skalowanie i systematyzowanie: Ulepszanie potoków wdrażania i harmonogramów w klastrach i dostawcach.
Co przynosisz
• Dobra znajomość języka Python i architektury systemu.
• Doświadczenie we wdrażaniu modeli za pomocą PyTorch, Hugging Face, vLLM, SGLang, TensorRT-LLM lub podobnego.
• Doświadczenie w zakresie kolejek, planowania, kontroli ruchu i zarządzania flotą na dużą skalę.
• Doświadczenie z systemami Linux, Docker i Kubernetes oraz z orkiestracją, wdrażaniem i planowaniem.
• Znajomość pamięci masowej kompatybilnej z Redis i S3.
Miło mieć
• Nowoczesne stosy sieciowe, w tym RDMA (RoCE, InfiniBand, NVLink).
• Wysokowydajne, wielkoskalowe systemy uczenia maszynowego (ponad 100 procesorów graficznych).
• CUDA i FFmpeg lub przetwarzanie multimediów.
O Lumie: Misją Lumy jest budowanie jednolitej ogólnej inteligencji, która może generować, rozumieć i działać w świecie fizycznym. Wierzymy, że multimodalność ma kluczowe znaczenie dla inteligencji — kolejnym krokiem poza modelami językowymi jest wizja. Luma jest pracodawcą zapewniającym równe szanse.
Znajdź oferty pracy w Wielkiej Brytanii na Arbeitnow
Źródło: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/lumaai/software-engineer-inference-london-107112)
To ogłoszenie pochodzi z feedu partnera. Aplikuj na stronie źródłowej.
Źródło: Lumaai
Lokalizacja
Londyn, Wielka Brytania
Ogłoszenie pochodzi od Lumaai.
