Inżynier oprogramowania, platforma GenAI

Nasza globalna struktura

Deliveroo jest teraz częścią DoorDash, zrzeszającą zespoły o jeszcze większym zasięgu, skali i ambicjach. W zależności od Twojej roli możesz współpracować z członkami zespołu, systemami i liderami w DoorDash i Wolt. Razem odblokowujemy nowe możliwości jako jeden globalny zespół.

Inżynier oprogramowania, platforma GenAI

O zespole
Zespół platformy GenAI firmy Deliveroo działa w ramach platformy uczenia maszynowego i buduje wspólną infrastrukturę, która pomaga zespołom DoorDash, Wolt i Deliveroo bezpiecznie wprowadzać do produkcji produkty, agenty, automatyzację i personalizację oparte na GenAI. Naszą misją jest zwiększenie szybkości oddziaływania biznesowego z GenAI. Głównym filarem tej pracy jest samodzielne uruchamianie pionierskich, otwartych rozwiązań LLM i VLM (takich jak GLM, Qwen, Kimi i DeepSeek) — obsługa procesora graficznego w czasie rzeczywistym, wnioskowanie wsadowe o wysokiej przepustowości i dostrajanie autoskalowanych procesorów graficznych — zapewniając duże korzyści w zakresie kosztów i opóźnień (na przykład miliard osadzonych wygenerował około 20 razy taniej, a modele wizualne były dostępne około 72% taniej). Posiadamy również podstawowe powierzchnie platform, w tym LLM Gateway, Agent Gateway, infrastrukturę ewaluacyjną, poręcze i atrybucję kosztów.

O roli
Dołączysz do małego zespołu tworzącego infrastrukturę produkcyjną dla generatywnej sztucznej inteligencji w firmach Deliveroo i DoorDash, skupiając się przede wszystkim na naszej platformie modeli o otwartych wagach obejmującej wnioskowanie i dostrajanie: obsługę procesora graficznego w czasie rzeczywistym, wnioskowanie wsadowe o wysokiej przepustowości i dostrajanie modelu. Będziesz pracować z silnikami udostępniania i wnioskowania modeli, potokami dostrajania i uczenia, automatycznym skalowaniem i wykorzystaniem procesora graficznego, potokami wsadowymi, usługami zaplecza i obserwowalnością. Ta rola jest idealna dla inżyniera, który lubi przekraczać granicę kosztów i wydajności w zakresie wnioskowania i dostrajania procesorów graficznych w szybko zmieniającym się obszarze technicznym, w którym szybko zmieniają się potrzeby produktów, możliwości modeli, ekosystemy dostawców oraz kompromisy w zakresie kosztów i wydajności.

Cieszysz się z tej możliwości, ponieważ…

• Zbuduj infrastrukturę, która pomoże zespołom Deliveroo przenieść pomysły GenAI z prototypu do produkcji, zwiększając szybkość wpływu AI na biznes w całej firmie.

• Pracuj nad naszym stosem obsługującym otwarte wagi — punktami końcowymi GPU działającymi w czasie rzeczywistym, wnioskowaniem wsadowym o wysokiej przepustowości i dostrajaniem (SFT/DPO/LoRA) — wraz z bramami LLM, Agent Gateway, infrastrukturą ewaluacyjną, barierami ochronnymi i atrybucją kosztów.

• Projektuj skalowalne, wysokowydajne systemy do udostępniania modeli, wnioskowania wsadowego, automatycznego skalowania procesora graficznego i dostrajania, które wspierają rzeczywiste przypadki użycia przez klientów i automatyzację wewnętrzną

• Przesuń granicę kosztów i opóźnień w zakresie wnioskowania GPU — zamieniając zadania wsadowe zajmujące dni w godziny i wielokrotne obniżając koszty wnioskowania — zapewniając jednocześnie zespołom produktowym prosty wybór pomiędzy modelami o otwartym i zamkniętym kodzie źródłowym z wbudowaną niezawodnością, rezerwą, obserwowalnością i kontrolą kosztów.

• Twórz platformy obsługujące szybkie eksperymenty, spełniające jednocześnie standardy produkcyjne w zakresie opóźnień, skali, monitorowania, docelowych poziomów usług, podręczników i doskonałości operacyjnej.

• Ściśle współpracuj z inżynierami ML, inżynierami produktu, analitykami danych i zespołami platformowymi w DoorDash, Wolt i Deliveroo, aby przekształcić pojawiające się możliwości GenAI w trwałe prymitywne platformy.

• Kształtuj przyszłość scentralizowanej platformy GenAI — w tym nowe kierunki, takie jak uczenie się przez wzmacnianie (RLHF/RLVR), optymalizacja agentów oraz inne techniki poszkoleniowe i agentyczne — umożliwiając następną generację produktów, agentów, automatyzacji i personalizacji opartych na sztucznej inteligencji.

Cieszymy się z Ciebie, bo masz…

• BSc, MSc lub PhD w dziedzinie informatyki lub równoważny

• Ponad 3-letnie doświadczenie w branży w inżynierii oprogramowania

• Solidne podstawy inżynierii backendowej, szczególnie w Pythonie i systemach rozproszonych.

• Doświadczenie w tworzeniu usług produkcyjnych, interfejsów API, potoków danych lub infrastruktury uczenia maszynowego na dużą skalę.

• Doświadczenie w produkcji systemów operacyjnych, obejmujące obserwowalność, debugowanie, niezawodność, reakcję na incydenty i optymalizację wydajności/kosztów.

• Praktyczne doświadczenie w wnioskowaniu LLM i/lub dostrajaniu modeli o otwartej wadze w środowisku produkcyjnym — obsługa (opóźnienie, przepustowość, przetwarzanie wsadowe, automatyczne skalowanie, wykorzystanie procesora graficznego) i/lub dostrajanie (SFT/DPO/LoRA).

• Możliwość pracy w niejednoznacznych, szybko zmieniających się obszarach technicznych i przekształcania przypadków użycia klientów w możliwości platformy wielokrotnego użytku

• Biegłość w korzystaniu z narzędzi kodujących AI (np. Claude Code, Codex, Cursor) w pełnym cyklu życia oprogramowania, w tym projektowania, generowania kodu, testowania, monitorowania i wydawania oprogramowania

Miło mieć

• Doświadczenie z silnikami wnioskowania LLM i frameworkami obsługującymi (np. vLLM, SGLang, TensorRT-LLM) w środowisku produkcyjnym

• Doświadczenie w zakresie rozproszonego/wielowęzłowego dostrajania i potoków szkoleniowych (SFT, DPO/RLHF, LoRA), w tym przygotowanie i ocena danych

• Praca nad wydajnością procesora graficznego — wnioskowanie wielowęzłowe/rozproszone, optymalizacja pamięci podręcznej KV/pamięci, kwantyzacja (FP8/INT8/AWQ/GPTQ) lub dostrajanie zimnego startu/przepustowości

• Doświadczenie z Kubernetes, infrastrukturą chmurową (AWS/GCP), procesorami graficznymi, bezserwerowymi/elastycznymi platformami GPU (np. Modal) lub systemami wsadowymi o dużej przepustowości

• Doświadczenie z bramkami LLM, routingiem modeli, abstrakcją dostawców lub atrybucją kosztów

• Doświadczenie w budowaniu platform programistycznych, platform wewnętrznych lub infrastruktury samoobsługowej

• Doświadczenie w budowaniu i wdrażaniu agentów AI lub serwerów MCP w środowisku produkcyjnym

• Doświadczenie z systemami eval, obserwowalnością LLM, śledzeniem, RAG, wyszukiwaniem lub wektorowymi bazami danych…

Źródło: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/deliveroo/software-engineer-genai-platform-london-481615)