Główny inżynier, Platforma

Firmus Technologies

Firmus Technologies to światowy lider pionierski w rozwoju i obsłudze wydajnej infrastruktury AI w regionie Azji i Pacyfiku.

Założona w Australii w 2019 roku, naszą misją jest tworzenie najbardziej wydajnej infrastruktury AI poprzez połączenie najnowocześniejszej technologii z niezłomnym zaangażowaniem w zrównoważony rozwój.

W Firmus jesteśmy wyjątkowi w naszym podejściu. Projektujemy, budujemy i obsługujemy nową klasę infrastruktury cyfrowej – AI Factory. Dzięki naszemu podejściu do technologii „model-to-grid” przesunęliśmy granice wielopokoleniowych systemów chłodzenia cieczą, zarządzania energią, orkiestracji oprogramowania AI i konstrukcji. W przypadku naszych klientów takie podejście pozwala nam wykorzystać każdy wat i dostarczać tanie tokeny AI na całym świecie.

Firmus AI Cloud

Nasza wielkoskalowa platforma chmurowa oparta na procesorach graficznych, Firmus AI Cloud, została stworzona specjalnie z myślą o dostarczaniu klientom energooszczędnych obliczeń AI na dużą skalę.

Umożliwia programistom, przedsiębiorstwom, instytucjom edukacyjnym i użytkownikom rządowym szkolenie i wdrażanie modeli sztucznej inteligencji z niezrównaną wydajnością i oszczędnością kosztów. Dzięki stale rosnącemu pakietowi usług i aplikacji dążymy do dostarczania rozwiązań w chmurze, które są wiodące na rynku, zastrzeżone i budowane z myślą o skalowaniu.

PODSUMOWANIE ROLI

Firmus Technologies poszukuje głównego inżyniera, platformy, która będzie właścicielem platformy, na której inżynierowie Firmus budują i udostępniają, w chmurze publicznej i w naszych własnych centrach danych. Samoobsługa i bezpieczeństwo są na pierwszym miejscu: jedną złotą ścieżką inżynier powinien być w stanie stworzyć usługę, uzyskać środowisko i bezpiecznie dostarczyć produkty do produkcji przy minimalnym wsparciu. Wszystko, co projektujesz, musi działać w różnych lokalizacjach i skalować się do setek tysięcy procesorów graficznych w fabrykach sztucznej inteligencji o mocy gigawatów.

KLUCZOWE OBOWIĄZKI

Architektura i decyzje

• Posiadaj architekturę platformy inżynieryjnej i jej płaszczyznę zarządzania obejmującą wiele lokalizacji, w chmurze publicznej i lokalnie. Ustal docelową architekturę na dwa do trzech lat do przodu i zaplanuj kroki od dzisiejszego systemu do niej.

• Zaprojektuj platformę wokół powtarzalnej jednostki skalowania. Wydajność rośnie w identycznych jednostkach, awaria pozostaje w jednej jednostce lub ośrodku, a każda placówka spełnia określony standard, zanim zostanie uruchomiona platforma.

• Zdecyduj, w jaki sposób wewnętrzne klastry Kubernetes i hypervisor będą budowane, łączone w sieć, aktualizowane i odzyskiwane. Zachowaj zgodność Kubernetes z wersjami zbliżonymi do wcześniejszych wersji, dzięki aktualizacjom, które nie wymagają przestojów. Na podstawie kodu i zestawu do wdrażania witryn powstają nowe witryny, a ich odzyskiwanie jest regularnie testowane.

• Zdecyduj, w jaki sposób usługi są pakowane, udostępniane i promowane w ramach stopniowego wdrażania oraz w jaki sposób nieudane wydanie jest wycofywane i umieszczane w różnych witrynach.

• Przeprowadzanie przeglądów projektów pod kątem znaczących zmian w zespołach, podpisywanie zapisów decyzji dotyczących architektury i rozstrzyganie sporów technicznych eskalowanych przez inżynierów. Podejmij decyzję na podstawie niekompletnych informacji, zapisz założenia i powróć do decyzji, gdy zmienią się dowody.

Buduj i rozwijaj się

• Samoobsługa własnego inżyniera z projektem opartym na API. Interfejs wiersza polecenia, automatyzacja i dowolny portal dla programistów korzystają z tego samego interfejsu API platformy. Traktuj każde zgłoszenie do zespołu platformy jako lukę w samoobsłudze i zamykaj w pierwszej kolejności te najczęściej spotykane.

• Prowadź kodowany katalog usług z właścicielem każdej usługi i kartami wyników pokazującymi każdemu zespołowi, jak jego usługi wypadają na tle złotej ścieżki, gotowości produkcyjnej i standardów bezpieczeństwa.

• Zapewnij wdrożenie wieloklastrowe dla wewnętrznych zespołów i produktu klienta: jeden potok do każdego regionu i centrum danych, produkt klienta odizolowany od wewnętrznych obciążeń oraz witryny, które działają, gdy koordynator jest nieosiągalny.

• Pozwól agentom AI pracować na ścieżce dostaw pod taką samą kontrolą jak inżynierowie, z własną tożsamością, najniższymi uprawnieniami, piaskownicą i osobą zatwierdzającą każdą zmianę w produkcji.

Niezawodność, bezpieczeństwo i koszt

• Ustaw SLO i budżety błędów dla platformy i wykorzystaj budżet, aby zdecydować, kiedy najważniejsza jest praca nad niezawodnością.

• Kieruj reakcją techniczną na poważne incydenty na platformie i upewnij się, że każda sekcja zwłok zakończy się rozwiązaniem, które zapobiegnie takim sytuacjom w przyszłości.

• Ustal standardy, jakie spełnia każda zmiana, zanim zostanie ona wdrożona: przegląd kodu, testy akceptacyjne, kompilacje umożliwiające śledzenie od źródła do wdrożenia oraz domyślne kontrole zespołu ds. bezpieczeństwa aplikacji w każdym potoku.

• Udostępniaj klucze tajne, certyfikaty i jednokrotne logowanie jako usługi platformy, zbudowane zgodnie ze standardem tożsamości i kluczy tajnych zespołu ds. bezpieczeństwa, z wzajemnym TLS między usługami i poświadczeniami wydawanymi z kodu, krótkotrwałymi i automatycznie zmienianymi.

• Wbuduj w platformę ciągłą zgodność z SOC 2 typu 2 i ISO 27001, z mechanizmami kontrolnymi zapisanymi w kodzie jako zasady, dowodami gromadzonymi automatycznie oraz wykrywanymi i korygowanymi odchyleniami.

• Automatyzuj instalowanie poprawek bez zakłóceń i dostarczaj pilne i objęte embargiem poprawki bezpieczeństwa w określonych ramach czasowych. Węzły są zastępowane strona po witrynie z przebudowanych obrazów, w ramach limitów zakłóceń każdej usługi i z automatycznym wycofywaniem.

• Koszt własny na poziomie projektu, w tym wydatki na chmurę, z jedną wspólną ścieżką dla każdego zespołu i witryny.

Przywództwo techniczne

• Rozwijaj inżynierów poprzez opiekę mentorską, przegląd projektu i przegląd kodu. Rekrutacja i ocena wyników odbywa się w gestii Menedżera ds. Inżynierii.

• Ustal, w jaki sposób zespół wykorzystuje sztuczną inteligencję do skutecznego i bezpiecznego tworzenia oprogramowania, korzystając z bramek kontrolnych i automatycznych kontroli architektury, które utrzymują kod wygenerowany przez sztuczną inteligencję w ramach uzgodnionego projektu.

• Organizuj wywiady techniczne i oceny dla inżynierów platform i trzymaj każdego kandydata na swoim poziomie.

Partnerstwo i komunikacja

• Ukształtuj plan działania platformy wraz z liderami ds. produktów, infrastruktury, sieci i dostaw do lokalizacji oraz przygotuj platformę przed uruchomieniem każdego nowego regionu lub centrum danych.

• Uzgodnij na piśmie własność na każdej granicy z infrastrukturą, siecią, bezpieczeństwem, oprogramowaniem, danymi i obserwowalnością oraz bezpośrednio rozstrzygaj spory…

Źródło: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/firmus/principal-engineer-platform-sydney-australia-409539)