Inżynier platformy uczenia maszynowego

O ActAI
Obecnie ponad 5 miliardów użytkowników korzysta z podstawowych aplikacji, takich jak poczta e-mail, notatki, zadania, kalendarz i nie są one natywne dla sztucznej inteligencji. Naszą misją jest budowanie proaktywnych aplikacji dla każdego na świecie, kto nie jest przyzwyczajony do skomplikowanych podpowiedzi. Naszym celem jest zapewnienie inteligencji rozmowom, sprawom, organizowaniu i przepływom pracy, przy minimalnym wsparciu lub bez podpowiedzi.
Nasz produkt koncentruje się na osiągnięciu wysokiej niezawodności w przypadku długotrwałych przepływów pracy, trwałego kontekstu i realizacji zadań w świecie rzeczywistym. Wierzymy, że produkty znacznie zmniejszą halucynacje.
Naszym celem jest takie uporządkowanie życia każdego człowieka, aby każdy mógł spędzać czas na rzeczach wartościowych i znaczących.
O roli
Jako inżynier platformy ML będziesz budować infrastrukturę i systemy obsługujące możliwości sztucznej inteligencji ActAI.
Będziesz projektować i obsługiwać systemy stojące za stosem sztucznej inteligencji, od szkolenia i oceny modeli po wdrożenie, wnioskowanie, obserwowalność i ciągłe doskonalenie.
Będziesz ściśle współpracować z inżynierami, badaczami i inżynierami produktów zajmującymi się sztuczną inteligencją, aby przekształcić modele w niezawodne, skalowalne i opłacalne systemy produkcyjne. Zbudujesz platformy, narzędzia i infrastrukturę, które umożliwią zespołowi szybkie eksperymentowanie i pewne wprowadzanie możliwości sztucznej inteligencji do produkcji.
Skup się

• Buduj i obsługuj infrastrukturę i platformy ML obsługujące produkty AI firmy A1

• Projektowanie systemów do szkolenia modeli, oceny, wdrażania, wnioskowania i eksperymentowania

• Twórz i optymalizuj infrastrukturę do obsługi modeli i wnioskowania dla obciążeń o dużej przepustowości i małych opóźnieniach

• Popraw niezawodność, skalowalność, opóźnienia i efektywność kosztową systemów AI

• Opracuj niezawodne potoki przygotowania danych, szkolenia, oceny, wydawania modeli i ciągłego doskonalenia

• Twórz platformy i narzędzia, które umożliwią inżynierom i badaczom AI szybsze eksperymentowanie, ocenę i wysyłanie modeli

• Opracuj infrastrukturę oceny i porównań w celu pomiaru jakości, wydajności i regresji modelu

• Twórz możliwości obserwowania produkcji, monitorowania, śledzenia i powiadamiania o obciążeniach AI/ML

• Ulepszaj systemy AI pod względem niezawodności, skalowalności, opóźnień, przepustowości i kosztów

• Identyfikuj wąskie gardła w stosie ML i stale poprawiaj wydajność systemu

• Ściśle współpracuj z inżynierami AI, badaczami i zespołami ds. produktów, aby przekształcić zmieniające się wymagania modeli w infrastrukturę gotową do produkcji

Stos technologii

• Pythona

• PyTorch/JAX

• Infrastruktura obsługująca LLM i ML, taka jak vLLM, SGLang lub TensorRT-LLM

• Infrastruktura chmurowa

• Systemy rozproszone

• ML/potoki danych i orkiestracja przepływu pracy

• Infrastruktura GPU i narzędzia zwiększające wydajność

• Wektorowe bazy danych i infrastruktura wyszukiwania

Idealne doświadczenie

• Solidne podstawy inżynierii oprogramowania i doświadczenie w budowaniu systemów produkcyjnych

• Doświadczenie w budowaniu infrastruktury, platform ML lub produkcyjnych systemów uczenia maszynowego

• Doświadczenie we wdrażaniu modeli, wnioskowaniu, ocenie lub potokach danych

• Silne zrozumienie systemów rozproszonych i niezawodności systemów

• Umiejętność pisania czystego, łatwego w utrzymaniu kodu o jakości produkcyjnej

• Wygodna praca w niejednoznacznym, szybko zmieniającym się środowisku

• Skłonność do własności, eksperymentowania i ciągłego doskonalenia

Wyniki

• Infrastruktura AI niezawodnie obsługuje obciążenia produkcyjne na dużą skalę

• Modele można efektywnie szkolić, oceniać, wdrażać i ulepszać

• Systemy wnioskowania zapewniają duże opóźnienia, przepustowość, niezawodność i efektywność kosztową

• Potoki ML są odtwarzalne, obserwowalne, łatwe w utrzymaniu i solidne

• Regresje modelu i infrastruktury są szybko wykrywane i skutecznie diagnozowane

• Wspólne możliwości infrastruktury ML stają się prymitywami platformy wielokrotnego użytku, a nie przebudowywanymi dla każdego produktu AI

• Stos sztucznej inteligencji może szybko ewoluować w miarę pojawiania się nowych modeli, architektur i technik wnioskowania

Znajdź oferty pracy w Niemczech na Arbeitnow

Źródło: Arbeitnow (https://www.arbeitnow.com/jobs/companies/bjak/machine-learning-platform-engineer-germany-452758)