Inżynier oprogramowania, wdrażanie modeli — inżynieria ChatGPT

O zespole
ChatGPT opiera się na dużej i rosnącej flocie procesorów graficznych, aby niezawodnie i wydajnie obsługiwać obciążenia wnioskowania. Rozwijamy systemy i narzędzia, które pozwalają na wprowadzanie nowych modeli, zarządzanie wdrożeniami produkcyjnymi, reagowanie na problemy operacyjne i efektywne wykorzystanie infrastruktury na dużą skalę.
Nasza praca obejmuje systemy rozproszone, inżynierię platform, automatyzację infrastruktury i doświadczenie programistów. Ściśle współpracujemy z zespołami badawczymi, infrastrukturalnymi i produktowymi, aby wdrażanie modeli było bardziej niezawodne, wydajne i łatwiejsze w zarządzaniu.

O roli
Poszukujemy inżyniera oprogramowania z doświadczeniem w budowaniu lub obsłudze dużych systemów produkcyjnych.
Będziesz projektować i rozwijać systemy wspierające cykl życia modelu w środowisku produkcyjnym, w tym orkiestrację wdrażania, zarządzanie konfiguracją, automatyzację operacyjną, niezawodność i zarządzanie wydajnością. Pomożesz przekształcić złożone procesy operacyjne w skalowalne możliwości platformy, które umożliwią zespołom w ramach OpenAI wdrażanie modeli i zarządzanie nimi z większą pewnością i przy mniejszym wysiłku ręcznym.
Ta rola jest odpowiednia dla inżynierów, którzy lubią rozwiązywać złożone problemy operacyjne i tworzyć oprogramowanie, które ułatwia funkcjonowanie infrastruktury produkcyjnej na dużą skalę.
W tej roli Ci się to uda

• Buduj i rozwijaj platformę używaną do wdrażania, konfigurowania i zarządzania modelami w ChatGPT.

• Opracowywanie systemów orkiestracji wdrożeń, wdrażania modeli, widoczności operacyjnej i gotowości produkcyjnej.

• Twórz abstrakcje i narzędzia, które upraszczają złożoną infrastrukturę i poprawiają doświadczenie programistów.

• Automatyzuj przepływy pracy operacyjnej, w tym wykrywanie incydentów, diagnozowanie, łagodzenie skutków i odzyskiwanie.

• Popraw niezawodność, skalowalność i wydajność wdrożeń modeli oraz infrastruktury, która je obsługuje.

• Twórz systemy wspierające planowanie wydajności, alokację zasobów i wykorzystanie infrastruktury.

• Współpracuj z zespołami badawczymi, infrastrukturalnymi i inżynieryjnymi produktów, aby identyfikować typowe wyzwania i zapewniać możliwości platformy wielokrotnego użytku.

• Kształtuj techniczny kierunek platformy zarządzania modelami w miarę ciągłego rozwoju ChatGPT i jego systemów bazowych.

Jeśli Ci się uda, możesz odnieść sukces w tej roli

• Zbudowałeś lub obsługiwałeś platformy wewnętrzne, systemy rozproszone lub infrastrukturę produkcyjną na dużą skalę.

• Ciesz się przekształcaniem złożonych problemów operacyjnych w niezawodne oprogramowanie i abstrakcje wielokrotnego użytku.

• Mieć doświadczenie z systemami wdrażania, orkiestracją, zarządzaniem konfiguracją lub automatyzacją infrastruktury.

• Zrozumienie niezawodności produkcji, obserwowalności, planowania wydajności i reagowania na incydenty.

• Dbaj o doświadczenie programistów i budowanie narzędzi, które podnoszą efektywność innych zespołów inżynierskich.

• Czują się komfortowo pracując ponad granicami organizacyjnymi i przejmując odpowiedzialność od projektu systemu po operacje produkcyjne.

• Rozwijaj się w szybko zmieniającym się środowisku, w którym występują znaczne niejasności techniczne.

• Są zainteresowani infrastrukturą do obsługi modeli lub ML, ale nie potrzebują specjalistycznego doświadczenia z procesorami graficznymi lub sprzętem niskiego poziomu.

Kwalifikacje

• Pięć lub więcej lat doświadczenia w inżynierii oprogramowania w budowaniu infrastruktury produkcyjnej.

• Dobra umiejętność programowania w Go, Python, C++, Rust lub porównywalnym języku.

• Doświadczenie w projektowaniu lub obsłudze systemów rozproszonych o wysokiej dostępności.

• Doświadczenie w inżynierii platform, inżynierii infrastruktury, inżynierii produkcji, inżynierii niezawodności obiektu lub podobnych dziedzinach.

• Silne umiejętności projektowania systemów, debugowania i rozwiązywania problemów operacyjnych.

• Silne umiejętności komunikacyjne i doświadczenie we współpracy między zespołami inżynierskimi.…

Źródło: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/openai/software-engineer-model-deployment-chatgpt-engineering-london-371397)