Inżynier infrastruktury (GPU i obliczenia)

Kim jesteśmy

Lightning AI to firma stojąca za PyTorch Lightning. Założona w 2019 roku, budujemy kompleksową platformę do opracowywania, szkolenia i wdrażania systemów AI, zaprojektowaną tak, aby przenosić pomysły z badań do produkcji przy mniejszym tarciu.

Dzięki naszej fuzji zvoltage Park, neocloud i AI Factory, Lightning AI łączy oprogramowanie przeznaczone dla programistów z ekonomicznymi obliczeniami na dużą skalę. Zespoły otrzymują narzędzia potrzebne do eksperymentowania, szkolenia i wnioskowania produkcyjnego, z wbudowanymi zabezpieczeniami, obserwowalnością i kontrolą.

Obsługujemy indywidualnych badaczy, startupy i duże przedsiębiorstwa. Lightning AI działa na całym świecie z biurami w Nowym Jorku, San Francisco, Seattle i Londynie i jest wspierana przez Coatue, Index Ventures, Bain Capital Ventures i Firstminut.

Sposób, w jaki pracujemy

Ludzie, którzy tutaj prosperują, to budowniczowie, którzy działają szybko, komunikują się otwarcie, przejmują odpowiedzialność i stale doskonalą siebie, swoje zespoły i naszą firmę. Oto jak to wygląda w praktyce:

• Działaj pilnie: działamy szybko, podejmujemy przemyślane decyzje i utrzymujemy dynamikę. Przedkładamy działanie nad perfekcję i uczymy się poprzez wysyłkę.

• Przejmij odpowiedzialność: Jesteśmy właścicielami wyników, a nie tylko naszej indywidualnej pracy. Podejmujemy decyzje, które popychają firmę do przodu i które realizujemy.

• Komunikuj się otwarcie: Komunikujemy się bezpośrednio, staramy się zrozumieć i zapewnić jasność innym. Szczere rozmowy pomagają nam działać szybciej.

• Buduj świetne zespoły: Dajemy przykład, wzmacniamy innych i tworzymy zdrowe zespoły, w których ludzie mogą wykonywać swoją pracę najlepiej, jak potrafią.

• Podnieś poprzeczkę: Zawsze się doskonalimy. Uczymy się na podstawie informacji zwrotnych, konsekwentnie stawiamy sobie wyzwania, aby się rozwijać i koncentrujemy się na pracy, która jest najważniejsza.

• Myśl długoterminowo: projektujemy z myślą o przyszłości. Tworzymy skalowalne systemy, upraszczamy złożoność i wykorzystujemy sztuczną inteligencję i automatyzację, aby zwiększyć nasz wpływ.

Czego szukamy

Lightning AI poszukuje doświadczonego starszego inżyniera infrastruktury graficznej i obliczeniowej, który dołączy do naszego zespołu inżynierii infrastruktury.

Na tym stanowisku będziesz pomagać w tworzeniu, sprawdzaniu poprawności i obsłudze wielkoskalowej infrastruktury obliczeniowej typu bare-metal, ze szczególnym uwzględnieniem systemów obsługujących procesory graficzne. Będziesz pracować na styku sprzętu, systemów i oprogramowania, zajmując się diagnostyką i walidacją systemów, rozwijając automatyzację, poprawiając niezawodność i zapewniając gotowość klastrów do obsługi wymagających obciążeń AI/ML i HPC.

Będziesz odgrywać kluczową rolę w kwalifikacji na poziomie procesora graficznego i systemu, prowadzeniu środowisk walidacyjnych i klastrów testowych oraz ulepszaniu narzędzi i przepływów pracy wspierających rozwój infrastruktury na dużą skalę. Obejmuje to posiadanie i rozwijanie naszego potoku obrazów, a także systemy udostępniania i sprawdzania poprawności, aby zapewnić, że nasza infrastruktura będzie spójna, wydajna i niezawodna od pierwszego dnia.

Stanowisko to może być całkowicie zdalne w USA lub hybrydowe z jednym z naszych centrów biurowych (Nowy Jork, SF, Seattle lub Londyn), z okazjonalnymi wyjazdami zespołu i firmy. W tej chwili nie jesteśmy w stanie zapewnić sponsoringu wizowego dla tego stanowiska.

Co zrobisz

Wprowadzanie i walidacja systemów

• Posiadanie i rozwijanie systemów zarządzania obrazami, wdrażania i sprawdzania poprawności w infrastrukturze typu bare-metal

• Uruchamianie i utrzymywanie klastrów testowych używanych do sprawdzania poprawności systemu, diagnostyki i uruchamiania

• Sprawdź oprogramowanie sprzętowe, sterowniki i obrazy systemu operacyjnego w systemach obliczeniowych i obsługujących procesor graficzny

• Wspieranie wysiłków w zakresie kwalifikacji sprzętu dla platform nowej generacji

Diagnostyka i wydajność GPU

• Własne przepływy pracy związane z diagnostyką i walidacją procesora graficznego w infrastrukturze o dużej skali

• Diagnozuj i rozwiązuj złożone problemy dotyczące procesorów graficznych, sterowników, systemu operacyjnego i warstw sprzętowych

• Analizuj wydajność systemu i procesora graficznego za pomocą narzędzi takich jak NVIDIA DCGM

• Identyfikuj wzorce awarii i wprowadzaj ulepszenia w zakresie stabilności systemu i zasięgu walidacji

Automatyka i oprzyrządowanie

• Twórz i utrzymuj automatyzację udostępniania, sprawdzania poprawności i uruchamiania systemu

• Opracuj narzędzia i przepływy pracy oparte na języku Python, aby poprawić wydajność i zmniejszyć koszty operacyjne związane z ręczną obsługą

• Poprawa niezawodności, powtarzalności i skalowalności potoków obrazów i systemów walidacji

Systemy i operacje

• Zarządzanie i obsługa systemów opartych na systemie Linux w środowiskach produkcyjnych i walidacyjnych

• Zarządzaj technologią wirtualizacji

• Obsługa przepływów pracy opartych na bare-metal, w tym systemów PXE i opartych na obrazach

• Interfejs z systemami zarządzania sprzętem (np. IPMI, Redfish) do monitorowania i debugowania

Współpraca międzyfunkcyjna

• Współpracuj z zespołami ds. infrastruktury, sprzętu i centrów danych w zakresie wdrażania i sprawdzania systemu

• Współpraca z zespołami ds. platform i uczenia maszynowego, aby upewnić się, że systemy spełniają wymagania dotyczące obciążenia

• Wkład w najlepsze praktyki w zakresie udostępniania, diagnostyki i zarządzania cyklem życia infrastruktury

Czego będziesz potrzebować

Wymagane kwalifikacje

• Ponad 5 lat doświadczenia w inżynierii infrastruktury, inżynierii systemów lub na stanowiskach pokrewnych

• Duże doświadczenie w systemach Linux w środowiskach produkcyjnych

• Praktyczne doświadczenie z systemami i narzędziami obsługującymi procesory graficzne, takimi jak NVIDIA DCGM

• Znajomość procesów dostarczania systemu typu bare-metal i uruchamiania systemu

• Biegła znajomość Pythona lub podobnych języków skryptowych/programowania na potrzeby automatyzacji

• Możliwość debugowania złożonych problemów ze sprzętem, systemem operacyjnym, procesorami graficznymi i oprogramowaniem systemowym

Idealne doświadczenie

• Doświadczenie z wysokowydajnymi interkonektami (np. InfiniBand, NVLink)

• Doświadczenie ze środowiskami rozruchowymi PXE, systemami LiveCD lub przepływami pracy opartymi na obrazach

• Doświadczenie z interfejsami zarządzania sprzętem, takimi jak iDRAC, IPMI lub Redfish

• Doświadczenie w obsłudze centrum danych, w tym w pracy ze sprzętem fizycznym

• Doświadczenie we wspieraniu obciążeń AI/ML lub HPC na dużą skalę

• Doświadczenie w zakresie ram walidacji GPU lub procesów kwalifikacji sprzętu na dużą skalę

Wynagrodzenia i świadczenia…

Źródło: Jobspresso (https://jobspresso.co/job/infrastructure-engineer-gpu-compute/)