Główny inżynier, oprogramowanie AI Cloud

Firmus Technologies

Firmus Technologies to światowy lider pionierski w rozwoju i obsłudze wydajnej infrastruktury AI w regionie Azji i Pacyfiku.

Założona w Australii w 2019 roku, naszą misją jest tworzenie najbardziej wydajnej infrastruktury AI poprzez połączenie najnowocześniejszej technologii z niezłomnym zaangażowaniem w zrównoważony rozwój.

W Firmus jesteśmy wyjątkowi w swoim podejściu. Projektujemy, budujemy i obsługujemy nową klasę infrastruktury cyfrowej – AI Factory. Dzięki naszemu podejściu do technologii „model-to-grid” przesunęliśmy granice wielopokoleniowych systemów chłodzenia cieczą, zarządzania energią, orkiestracji oprogramowania AI i konstrukcji. W przypadku naszych klientów takie podejście pozwala nam wykorzystać każdy wat i dostarczać tanie tokeny AI na całym świecie.

Firmus AI Cloud

Nasza wielkoskalowa platforma chmurowa oparta na procesorach graficznych, Firmus AI Cloud, została stworzona specjalnie z myślą o dostarczaniu klientom energooszczędnych obliczeń AI na dużą skalę.

Umożliwia programistom, przedsiębiorstwom, instytucjom edukacyjnym i użytkownikom rządowym szkolenie i wdrażanie modeli sztucznej inteligencji z niezrównaną wydajnością i oszczędnością kosztów. Dzięki stale rosnącemu pakietowi usług i aplikacji dążymy do dostarczania rozwiązań w chmurze, które są wiodące na rynku, zastrzeżone i budowane z myślą o skalowaniu.

PODSUMOWANIE ROLI

Firmus Technologies poszukuje głównego inżyniera ds. oprogramowania AI Cloud, który będzie właścicielem interfejsu API Firmus AI Cloud i stojącej za nim płaszczyzny sterującej. Klienci, platformy partnerskie i agenci AI korzystają z naszego interfejsu API do udostępniania i uruchamiania obliczeń na GPU, a nasze konsole, zestawy SDK, CLI i dostawca Terraform są na nim zbudowane. Ty wyznaczysz kierunek techniczny temu wszystkiemu. Wszystko, co projektujesz, musi działać w różnych lokalizacjach i skalować się do setek tysięcy procesorów graficznych w fabrykach sztucznej inteligencji o mocy gigawatów.

KLUCZOWE OBOWIĄZKI

Architektura i decyzje

• Posiadaj ogólny projekt publicznego interfejsu API: model zasobów, umowy, wersjonowanie i obietnicę zgodności, na podstawie której korzystają klienci i platformy partnerskie. Ustaw jeden styl kontraktu, jeden model tożsamości i jedną politykę wersjonowania, której będzie przestrzegać każdy zespół domeny.

• Posiadaj stojącą za nim architekturę oprogramowania: granice usług i model płaszczyzny sterowania. Ustal docelową architekturę na dwa do trzech lat do przodu i zaplanuj kroki od dzisiejszego systemu do niej.

• Zaprojektuj płaszczyznę kontroli tak, aby każdy region mógł działać w przypadku awarii innego, chroń go pod obciążeniem za pomocą limitów stawek na dzierżawcę i sprawiedliwego kolejkowania, a także usuń ograniczenia, które blokowałyby wzrost liczby najemców, typów zasobów, witryn i liczby żądań.

• Przeprowadzanie przeglądów projektów pod kątem znaczących zmian w zespołach, podpisywanie zapisów decyzji dotyczących architektury i rozstrzyganie sporów technicznych eskalowanych przez inżynierów. Podejmij decyzję na podstawie niekompletnych informacji, zapisz założenia i powróć do decyzji, gdy zmienią się dowody.

Buduj i rozwijaj się

• Napisz kod produkcyjny dla najtrudniejszych części API i płaszczyzny kontrolnej.

• Udostępnij pełny cykl życia zasobów obliczeniowych, sieci wirtualnych, pamięci masowej i Kubernetes za pośrednictwem interfejsu API, oprócz infrastruktury, sieci i kontrolerów pamięci masowej, którymi dysponują inne zespoły. Nadaj każdemu zasobowi stabilny identyfikator, śledź realizację wieloetapowych żądań i oferuj działania naprawcze, takie jak ponowne uruchomienie, resetowanie i powiadomienia o konserwacji.

• Wbuduj tożsamość i dzierżawę w interfejs API: organizacje i projekty, stowarzyszone logowanie za pomocą usługi MFA, automatyczne przydzielanie użytkowników, role oparte na grupach i konta usług.

• Zapewnij klientom, platformom partnerskim, zespołom operacyjnym Firmus i agentom AI działającym na rzecz klienta bezpieczny dostęp za pośrednictwem tego samego interfejsu API, z określonymi danymi uwierzytelniającymi, zatwierdzeniem destrukcyjnych działań i pełną ścieżką audytu.

• Zapewnij spójność konsoli, zestawów SDK, interfejsu CLI i dostawcy Terraform z interfejsem API utworzonym w ramach jednego kontraktu. Dostarczaj każdą funkcję jako obsługiwaną funkcję, a nie jednorazową usługę dla pojedynczego klienta.

Niezawodność, bezpieczeństwo i koszt

• Ustaw SLO i budżety błędów dla interfejsu API i płaszczyzny kontrolnej oraz wykorzystaj budżet, aby zdecydować, kiedy najważniejsza będzie praca nad niezawodnością.

• Kieruj reakcją techniczną na poważne incydenty w interfejsie API i na płaszczyźnie kontrolnej oraz dopilnuj, aby każda sekcja zwłok zakończyła się rozwiązaniem, które zapobiegnie takim sytuacjom w przyszłości.

• Projektuj zapisy użytkowania wystarczająco dokładne, aby umożliwić klientom wystawianie rachunków i weryfikację, z przydziałami i dziennikami audytu, do których klienci mogą wysyłać zapytania za pośrednictwem interfejsu API i eksportować.

• Projektuj każdą usługę tak, aby przetrwała wymianę węzła bez wpływu na klienta, a także poprawiaj zależności i obrazy zgodnie z zasadami.

• Należy przestrzegać kontroli SOC 2 typu 2 i ISO 27001 firmy Firmus w każdym nowym zakładzie.

• Koszty własne na poziomie projektu i zgłaszanie wszelkich zmian w projekcie, które wpływają na to, czego konsumują klienci.

Przywództwo techniczne

• Rozwijaj inżynierów poprzez opiekę mentorską, przegląd projektu i przegląd kodu. Rekrutacja i ocena wyników odbywa się w gestii Menedżera ds. Inżynierii.

• Ustal standardy inżynierii oprogramowania, według których budują inne zespoły, obejmujące projektowanie API, testowanie, przeglądanie kodu i szablony usług. Dyrektor każdego zespołu nadal jest właścicielem architektury swojej domeny.

• Ustal, w jaki sposób zespół wykorzystuje sztuczną inteligencję do skutecznego i bezpiecznego tworzenia oprogramowania, korzystając z bramek kontrolnych i automatycznych kontroli architektury, które utrzymują kod wygenerowany przez sztuczną inteligencję w ramach uzgodnionego projektu.

• Organizuj wywiady techniczne i oceny dla inżynierów oprogramowania i trzymaj każdego kandydata na swoim poziomie.

Partnerstwo i komunikacja

• Kształtuj plan techniczny za pomocą produktu i dostarczaj prace nad API i architekturą przed funkcjami od nich zależnymi.

• Uzgodnij pisemnie własność na każdej granicy z zespołami zajmującymi się platformą, danymi, obserwowalnością, bezpieczeństwem, obliczeniami, pamięcią masową i siecią oraz bezpośrednio rozstrzygaj spory.

• Reprezentuj swój zespół podczas odpraw dla klientów i partnerów na temat projektowania oprogramowania w chmurze AI, dzierżawy, niezawodności lub zmiany umowy i przenieś zdobytą wiedzę z powrotem do produktu.

UMIEJĘTNOŚCI I DOŚWIADCZENIE

• Licencjat z informatyki lub pokrewnej dziedziny technicznej lub równoważne doświadczenie praktyczne.…

Źródło: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/firmus/principal-engineer-ai-cloud-software-sydney-australia-443327)