Wnioskowanie o wysuniętym inżynierze AI

Rola
Będziesz właścicielem technicznej strony naszych największych i najbardziej złożonych transakcji wnioskowania, od pierwszej rozmowy telefonicznej do uruchomienia. Jesteś zaufanym technicznym odpowiednikiem dyrektorów technicznych i liderów ML naszych klientów, projektujesz konfiguracje obsługujące ich modele i współpracujesz ramię w ramię z naszym zespołem handlowym, aby finalizować transakcje.
Będziesz jednym z dwóch starszych właścicieli technicznych naszych umów wnioskowania. Wraz z naszym kierownikiem ds. inżynierii sprzedaży wnioskowania przekształcisz także to, czego nauczymy się w terenie, w powtarzalny podręcznik i produkt.

Co zrobisz

• Zadbaj o techniczną stronę naszych największych i najbardziej złożonych transakcji wnioskowania od początku do końca, od odkrycia po wdrożenie

• Być starszym odpowiednikiem technicznym dyrektorów technicznych i liderów ML klientów w zakresie architektury, rozmiaru, umów SLA, kompromisów w zakresie opóźnień/przepustowości i kosztów

• Projektowanie dedykowanych konfiguracji wnioskowania: wybór modelu, typ i liczba procesorów graficznych, równoległość, kwantyzacja, silnik wnioskowania i konfiguracja

• Prowadź testy porównawcze i weryfikacje koncepcji oraz przekształcaj wyniki w jasne rekomendacje

• Za pomocą naszego zespołu inżynierów określ zakres dostosowań klienta i zdecyduj, co stanie się produktem

• Zbuduj podręcznik i narzędzia do dopasowywania obciążeń do procesorów graficznych i wspieraj nasz plan działania tym, czego nauczysz się w terenie

• Współpracuj z naszym zespołem handlowym w zakresie cen, ofert i technicznych części umów

Czego szukamy

• Wykształcenie z informatyki, analityki danych lub pokrewnej dziedziny

• Ponad 4 lata na stanowisku technicznym związanym z klientem, np. rozwiązań lub inżynier sprzedaży, inżynier oddelegowany do przodu, inżynier ML współpracujący blisko z klientami lub konsultant techniczny

• Praktyczne doświadczenie z wnioskowaniem LLM i obsługą modeli (np. vLLM, SGLang, TensorRT-LLM, Triton) i rozmiarem GPU

• Doświadczenie w zajmowaniu się techniczną stroną złożonych transakcji B2B, najlepiej z klientami korporacyjnymi

• Jesteś wiarygodny zarówno w oczach dyrektorów technicznych, jak i inżynierów klientów i jasno wyjaśniasz kompromisy

• Przedsiębiorcze nastawienie: daj rezultat, a znajdziesz sposób, nie dając się zablokować

• Biegły angielski

Punkty bonusowe

• Doświadczenie u dostawcy wnioskowania, chmury GPU lub firmy zajmującej się infrastrukturą AI

• Benchmarking i optymalizacja wydajności: przepustowość, opóźnienia, koszt na token

• Doświadczenie z kwantyzacją, strategiami równoległości, pamięcią podręczną KV i przetwarzaniem wsadowym

• Doświadczenie w uruchamianiu

• Niemiecki

Dlaczego my?

• Znakomity zespół: Pracuj z najlepszymi inżynierami na świecie, wywodzącymi się z funduszy hedgingowych, dużych technologii, start-upów AI i najlepszych uniwersytetów

• Okazja spotykana raz w życiu: firma na wczesnym etapie rozwoju na najszybciej rozwijającym się rynku na świecie

• Własność: kształtuj sposób, w jaki europejskie firmy zajmujące się sztuczną inteligencją uzyskują dostęp do obliczeń GPU

• Misja europejska: Budowa suwerennej infrastruktury AI zgodnej z RODO dla nowej generacji zaawansowanych technologii

Znajdź oferty pracy w Niemczech na Arbeitnow

Źródło: Arbeitnow (https://www.arbeitnow.com/jobs/companies/lyceum/forward-deployed-engineer-ai-inference-berlin-47198)