Inżynier wydajności

O CuspAI
CuspAI to wiodąca firma zajmująca się sztuczną inteligencją, której misją jest znalezienie przełomowych materiałów potrzebnych do napędzania postępu ludzkości. Podczas gdy natura potrzebowała miliardów lat na udoskonalenie cząsteczek, my wykorzystujemy sztuczną inteligencję, aby odblokować przełomowe materiały warte biliony dolarów w ciągu miesięcy, a nie tysiącleci. Nasz zespół założycielski jest najczęściej cytowany na świecie i składa się ze światowej klasy badaczy zajmujących się sztuczną inteligencją, chemią i inżynierią.

Pracujemy nad niektórymi z najtrudniejszych i najważniejszych wyzwań, w tym energią, czystą wodą, przyszłością obliczeń i wychwytywaniem dwutlenku węgla, a to dopiero początek możliwości, jakie odblokuje nasza „wyszukiwarka” materiałów nowej generacji.

Zapraszamy Cię do bycia częścią zróżnicowanego, innowacyjnego zespołu na styku sztucznej inteligencji i inżynierii materiałowej, pracującego nad tworzeniem wpływowych partnerstw, które napędzają innowacje, skalowalność i współpracę branżową. Ta praca ma znaczenie. Twoja praca ma znaczenie.

Jesteśmy u progu ery materiałów na żądanie. Dołącz do nas.

Rola
Ze względu na szybkie skalowanie naszych wymagań obliczeniowych poszukujemy inżyniera ds. wydajności, który będzie stanowić istotny pomost między naszymi pionierskimi modelami sztucznej inteligencji a naszą wysokowydajną infrastrukturą obliczeniową.

Twój wpływ
Na tym stanowisku będziesz budować warstwy optymalizacyjne i infrastrukturę profilowania, która maksymalizuje wydajność naszych wielkoskalowych obciążeń szkoleniowych i wnioskowania, co ma kluczowe znaczenie dla przyspieszenia procesu odkrywania materiałów i zapewnienia naszym badaczom możliwości iteracji z szybkością myślenia.

W CuspAI obliczenia są naszym najcenniejszym zasobem. Początkowo Twoim głównym celem będzie profilowanie naszych bieżących przebiegów szkoleniowych w celu zidentyfikowania wąskich gardeł w wykorzystaniu modelu FLOP (MFU). Z biegiem czasu prawdopodobnie zaangażujesz się w projektowanie niestandardowych jąder i optymalizacji niskiego poziomu, które pozwolą nam trenować większe, bardziej złożone modele z zakresu chemii i fizyki, które wcześniej były zaporowe obliczeniowo.

Co zrobisz
Optymalizacja szkoleń i wnioskowania

• Analizuj architektury modeli, aby zoptymalizować sposób, w jaki operacje matematyczne są odwzorowywane na sprzęcie, ze szczególnym uwzględnieniem jąder procesorów graficznych NVIDIA i zbiorczych warstw komunikacyjnych (NCCL).

• Wdrażaj najnowocześniejsze techniki wydajności, takie jak kwantyzacja, przycinanie modelu i destylacja, aby zmniejszyć opóźnienia dla naszych interfejsów API „wyszukiwarek” materiałów.

• Usprawnij potoki danych, aby mieć pewność, że wysokowydajne akceleratory nigdy nie zostaną „pozbawione” danych podczas masowych przebiegów szkoleniowych.

Profilowanie, obserwowalność i zarządzanie kosztami

• Korzystaj z zaawansowanych narzędzi umożliwiających obserwację, aby śledzić kompleksowe wykonanie zadań szkoleniowych, wskazując dokładne lokalizacje zatorów przetwarzania lub rywalizacji między sobą.

• Twórz i utrzymuj pulpity nawigacyjne w czasie rzeczywistym śledzące najważniejsze wskaźniki systemu, w tym MFU, wykorzystanie przepustowości pamięci i czas pracy klastra.

• Monitoruj i uzasadniaj wykorzystanie naszych akceleratorów AI (np. klastrów H100), zapobiegając przestojom i wyciekom pamięci, aby mieć pewność, że każdy dolar wydany na obliczenia przełoży się na postęp naukowy.

• Opracuj prawa skalowania i narzędzia wewnętrzne do przewidywania zachowania systemu w zakresie obliczeń, pamięci i sieci w miarę wzrostu liczby parametrów w naszych modelach.

Współpraca interdyscyplinarna

• Ściśle współpracuj z badaczami sztucznej inteligencji, aby dostosować architektury modeli w celu uzyskania lepszej kompatybilności sprzętowej bez utraty naukowej dokładności.

• Współpracuj z zespołem ds. infrastruktury, aby mieć wpływ na projekt naszych przyszłych klastrów obliczeniowych w oparciu o dane dotyczące wydajności i wyniki profilowania.

Wymagane umiejętności i kwalifikacje:

• Jesteś osobą, która jest podekscytowana możliwością umożliwienia naukowcom pracy nad wyzwaniami zmieniającymi świat w tej dziedzinie i osobiście interesujesz się potencjalnymi zastosowaniami technologii opracowywanej przez Cusp.

• Masz ponad 3-letnie doświadczenie w inżynierii wydajności, inżynierii niezawodności witryn lub tworzeniu oprogramowania niskiego poziomu, szczególnie skupionego na obciążeniach związanych z obliczeniami o wysokiej wydajności (HPC) lub sztuczną inteligencją.

• Ekspercka wiedza na temat architektury GPU i doświadczenie w optymalizacji jąder CUDA lub korzystaniu z bibliotek takich jak Triton.

• Dogłębne zrozumienie rozproszonych struktur szkoleniowych (np. PyTorch Distributed, DeepSpeed ​​lub Megatron-LM) i protokołów sieciowych.

• Biegłość w narzędziach do profilowania, takich jak Nsight Systems, Nsight Compute lub Weights & Biases do śledzenia wydajności.

• Nastawienie „konstruktora” z możliwością samodzielnej pracy na wczesnym etapie, w dynamicznym środowisku startupowym.

Punkty dodatkowe (ale nie krytyczne):

• Doświadczenie w pracy ze specjalistycznym sprzętem AI, takim jak TPU lub alternatywne akceleratory.

• Wykształcenie akademickie lub osobiste zainteresowania nauką o materiałach, chemią lub fizyką.

• Znajomość praktyk MLOps, szczególnie w zakresie wdrażania modeli na dużą skalę w środowiskach chmurowych (AWS/GCP/Azure).

• Wkład w optymalizację wydajności typu open source lub biblioteki uczenia maszynowego.

Dodatkowe uwagi
Stanowisko to mogłoby odbywać się w naszych biurach w Cambridge, Londynie, Amsterdamie lub Berlinie, przy założeniu, że będziesz w biurze trzy dni w tygodniu. Ponadto mogą być wymagane regularne podróże do innych lokalizacji w celu współpracy i pracy nad projektem.
W ramach wdrożenia oczekujemy od Ciebie spędzenia co najmniej kilku tygodni w naszym biurze w Cambridge/Londyn, aby poznać naszą platformę i poznać nas osobiście.

Ponadto mogą być wymagane regularne podróże do Europy i innych lokalizacji regionalnych i globalnych w celu współpracy i pracy nad projektami.

Co oferujemy

• Konkurencyjne wynagrodzenie: cenimy i nagradzamy wpływ i rozwój

• Kapitał własny w CuspAI: Masz udział w sukcesie firmy

• Czas wolny, aby zachować świeżość: 28 dni urlopu (DE, NL, UK) lub 21 dni urlopu (JP, SG, USA), oprócz lokalnych świąt państwowych

• Urlop rodzicielski „Złoty Standard”: 26 tygodni (opiekun główny) i 12 tygodni (opiekun dodatkowy) przy pełnym wynagrodzeniu – opiekujemy się Tobą i Twoją rodziną, jednocześnie pracując nad najważniejszymi problemami związanymi z odkrywaniem materiałów…

Źródło: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/cuspai/ Performance-engineer-london-237596)