Inżynier ds. modelowania i symulacji AI

Szansa
Lumai przechodzi od przełomowych badań optyczno-obliczeniowych do produkcyjnych systemów sztucznej inteligencji. Potrzebujemy inżyniera, który stworzy możliwości modelowania wydajności i mocy, które będą kierować decyzjami dotyczącymi architektury i kompilatora, zanim powstanie krzem, pomagając nam przekształcić działający system w konkurencyjny produkt.

Rola
Będziesz właścicielem platformy do modelowania wydajności i mocy, która przewiduje, jak fotoniczny sprzęt AI Lumai będzie działał w porównaniu z rzeczywistymi obciążeniami wnioskowania. Twoje modele zapewnią zespołom zajmującym się architekturą i kompilatorami wspólne źródło informacji na temat opóźnień, przepustowości i mocy w konfiguracjach sprzętowych.
Najtrudniejszą częścią jest zrównoważenie szybkości, wierności i użyteczności: będziesz modelować współbieżność, zachowanie sterowane zdarzeniami i opóźnienia bloków obliczeniowych z wystarczającą szczegółowością, aby ułatwić podejmowanie decyzji, jednocześnie utrzymując symulacje na tyle szybko, aby porównać konfiguracje w ciągu kilku minut. Scharakteryzujesz obciążenia na poziomie operatora względem wyników sprzętu, RTL lub emulacji, dzięki czemu model pozostanie oparty na dowodach.
Do szóstego miesiąca opracujesz niezawodny przepływ modelowania dla priorytetowych obciążeń i konfiguracji urządzeń, zademonstrujesz jasną ścieżkę zamykania luk między modelem a sprzętem oraz uczynisz symulator narzędziem używanym przez zespoły architektów i kompilatorów do podejmowania decyzji. Będziesz podlegać kierownikowi ds. architektury lub wiceprezesowi ds. inżynierii i możesz zbudować mały zespół zajmujący się tą funkcją i kierować nim.

Co zrobisz

• Projektuj, buduj i utrzymuj środowisko oparte na języku Python, które modeluje opóźnienia sprzętu i oprogramowania, współbieżność sprzętu i relacje sterowane zdarzeniami.

• Modeluj silniki obliczeniowe, strukturę połączeń i synchronizacji, interfejsy pamięci i mostów oraz bloki akceleratorów w różnych konfiguracjach urządzeń.

• Scharakteryzuj splot, splot głęboki, łączenie, uwagę i inne obciążenia operatora w porównaniu ze sprzętem, RTL lub wynikami emulacji.

• Twórz interfejsy niezależne od kompilatora, które pobierają skompilowane modele i MLIR z wielu wewnętrznych przepływów kompilatora.

• Analizuj ślady symulacji we współpracy z zespołami zajmującymi się architekturą i kompilatorami, aby ulepszyć mapowania warstw na sprzęt i rozwiązać rozbieżności w wydajności.

• Przeprowadzaj testy porównawcze i reprezentatywne modele branżowe, w tym UL Procyon, Geekbench AI, Stable Diffusion i współczesne LLM, aby opracować KPI gotowe do podjęcia decyzji.

• Opracuj modele zasilania na poziomie bloków i zweryfikuj najgorsze scenariusze zasilania z zespołami zajmującymi się mikroarchitekturą, weryfikacją i projektowaniem fizycznym.

• Posiadaj potoki CI/CD i przepływy symulacji, które zapewniają wiarygodność i powtarzalność wyników w zależności od skali wykorzystania.

• Przekładaj wnioski z modelowania na decyzje dotyczące architektury i kompilatora, jednocześnie wyznaczając kierunek techniczny i rozwijając inżynierów lub stażystów w miarę powiększania się zespołu.

Czego szukamy
Niezbędne

• Udokumentowane doświadczenie w budowaniu lub znacznym rozszerzaniu platformy do modelowania wydajności sprzętu/oprogramowania lub platformy symulacyjnej dla akceleratorów AI/ML, najlepiej w języku Python.

• Dobra znajomość współbieżności sprzętu, modelowania sterowanego zdarzeniami i mikroarchitektury akceleratora wnioskowania AI, w tym obliczeń, hierarchii pamięci, wzajemnych połączeń i przepływu danych.

• Praktyczne doświadczenie w charakteryzowaniu operatorów AI i korelowaniu przewidywań modeli z rzeczywistym sprzętem lub dokładnymi danymi referencyjnymi.

• Znajomość wewnętrznych elementów kompilatora i reprezentacji pośrednich, takich jak MLIR, w tym narzędzi wykorzystujących dane wyjściowe kompilatora do przeprowadzenia symulacji.

• Silna praktyka w zakresie inżynierii oprogramowania i przywództwa technicznego, w tym projektowanie ram, posiadanie CI/CD oraz kierowanie lub przeglądanie pracy młodszych inżynierów lub stażystów.

Silna preferencja dla

• Bezpośrednie doświadczenie z NPU, GPU lub innymi architekturami akceleratorów wnioskowania AI na krawędzi lub kliencie.

• Doświadczenie w pracy z wieloma zestawami narzędzi kompilatora i godzeniu zachowań kompilatora na poziomie architektury i środowiska produkcyjnego.

• Ekspozycja na modelowanie mocy, RTL, emulację, prototypowanie FPGA, obliczenia fotoniczne lub inną nietradycyjną architekturę obliczeniową.…

Źródło: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/lumai/ai-modelling-and-simulation-engineer-headington-oxford-32177)