Інженер-програміст, платформа GenAI

Наша глобальна структура

Deliveroo тепер є частиною DoorDash, об’єднуючи команди з ще більшим охопленням, масштабом і амбіціями. Залежно від вашої ролі ви можете співпрацювати з товаришами по команді, системами та лідерами в DoorDash і Wolt. Разом ми відкриваємо нові можливості як одна глобальна команда.

Інженер-програміст, платформа GenAI

Про команду
Команда GenAI Platform Deliveroo працює в рамках Machine Learning Platform і створює спільну інфраструктуру, яка допомагає командам DoorDash, Wolt і Deliveroo безпечно передавати продукти, агенти, автоматизацію та персоналізацію на базі GenAI у виробництво. Наша місія — збільшити швидкість впливу GenAI на бізнес. Основною основою цієї роботи є запуск передових відкритих LLM і VLM (таких як GLM, Qwen, Kimi та DeepSeek) — обслуговування графічних процесорів у реальному часі, високопродуктивний пакетний висновок і точне налаштування графічних процесорів з автомасштабуванням — що забезпечує значні виграші у витратах і затримці (наприклад, мільярд вбудовувань створив приблизно в 20 разів дешевші та візуальні моделі). обслуговується приблизно на 72% дешевше). Ми також володіємо основними поверхнями платформи, включаючи LLM Gateway, Agent Gateway, інфраструктуру evals, огородження та розподіл витрат.

Про роль
Ви приєднаєтесь до невеликої високоефективної виробничої інфраструктури створення команди для Generative AI у Deliveroo та DoorDash, зосередившись на нашій платформі відкритих моделей, що охоплює висновок і точне налаштування: обслуговування графічного процесора в реальному часі, високопродуктивний пакетний аналіз і точне налаштування моделі. Ви працюватимете над механізмами обслуговування моделей і висновків, конвеєрами тонкого налаштування та навчання, автомасштабуванням і використанням GPU, пакетними конвеєрами, серверними службами та можливістю спостереження. Ця посада ідеальна для інженера, який любить розширювати межі ціни та продуктивності висновків і тонкого налаштування графічного процесора в технічній сфері, що швидко розвивається, де швидко розвиваються потреби в продуктах, можливості моделей, екосистеми постачальників і компроміси між ціною і продуктивністю.

Ви в захваті від цієї можливості, тому що ви...

• Створіть інфраструктуру, яка допоможе командам Deliveroo перенести ідеї GenAI від прототипу до виробництва, збільшуючи швидкість впливу ШІ на бізнес у всій компанії.

• Працюйте над нашим стеком обслуговування відкритих ваг — кінцевими точками графічного процесора в реальному часі, високопродуктивним пакетним висновком і тонким налаштуванням (SFT/DPO/LoRA) — разом із шлюзом LLM, шлюзом агентів, інфраструктурою evals, огородженнями та розподілом витрат.

• Розробляйте масштабовані, високопродуктивні системи для обслуговування моделей, пакетного висновку, автомасштабування графічного процесора та точного налаштування, які забезпечують реалізацію сценаріїв використання реальних клієнтів і внутрішньої автоматизації

• Розширюйте межі вартості та затримки висновків графічного процесора — перетворюйте пакетні завдання, які тривали днями, на години, і багаторазово скорочуйте вартість висновків — водночас надаючи командам продуктів чіткий вибір між моделями з відкритим і закритим вихідним кодом із вбудованими засобами надійності, резервного використання, спостережливості та контролю витрат.

• Створюйте платформи, які підтримують швидке експериментування, дотримуючись стандартів виробництва щодо затримки, масштабу, моніторингу, SLO, посібників і операційної досконалості.

• Тісно співпрацюйте з інженерами ML, розробниками продуктів, дослідниками даних і командами платформ у DoorDash, Wolt і Deliveroo, щоб перетворити нові можливості GenAI на довговічні примітиви платформи.

• Сформуйте майбутнє централізованої платформи GenAI — включаючи нові напрямки, такі як навчання з підкріпленням (RLHF/RLVR), оптимізація агентів та інші методи після навчання й агентування — забезпечуючи наступне покоління продуктів, агентів, автоматизації та персоналізації на основі ШІ.

Ми в захваті від вас, тому що у вас є...

• Бакалавр, магістр або доктор філософії в галузі комп’ютерних наук або еквівалент

• 3+ роки досвіду в галузі розробки програмного забезпечення

• Сильні базові основи інженерії, особливо в Python і розподілених системах.

• Досвід створення виробничих сервісів, API, конвеєрів даних або інфраструктури машинного навчання в масштабі.

• Досвід операційних систем у виробництві, включаючи можливість спостереження, налагодження, надійність, реагування на інциденти та оптимізацію продуктивності та витрат.

• Практичний досвід роботи з висновками LLM та/або тонким налаштуванням відкритих моделей у виробництві — обслуговуванням (затримка, пропускна здатність, пакетування, автомасштабування, використання GPU) та/або тонким налаштуванням (SFT/DPO/LoRA).

• Можливість працювати в неоднозначних технічних сферах, що швидко змінюються, і перетворювати випадки використання клієнтів у можливості платформи для багаторазового використання

• Вміння використовувати інструменти кодування ШІ (наприклад, Claude Code, Codex, Cursor) у повному життєвому циклі розробки програмного забезпечення, включаючи проектування, генерацію коду, тестування, моніторинг і випуск програмного забезпечення.

Nice To Haves

• Досвід роботи з механізмами виводу LLM і фреймворками обслуговування (наприклад, vLLM, SGLang, TensorRT-LLM) у виробництві

• Досвід роботи з розподіленим/багатовузловим тонким налаштуванням і навчальними конвеєрами (SFT, DPO/RLHF, LoRA), включаючи підготовку та оцінку даних

• Робота над продуктивністю GPU — багатовузловий/розподілений висновок, KV-кеш/оптимізація пам’яті, квантування (FP8/INT8/AWQ/GPTQ) або холодний запуск/налаштування пропускної здатності

• Досвід роботи з Kubernetes, хмарною інфраструктурою (AWS/GCP), графічними процесорами, безсерверними/еластичними платформами GPU (наприклад, Modal) або пакетними системами високої пропускної здатності

• Досвід роботи зі шлюзами LLM, моделюванням маршрутизації, абстракцією постачальника або віднесенням вартості

• Досвід створення платформ для розробників, внутрішніх платформ або інфраструктури самообслуговування

• Досвід створення та розгортання агентів AI або серверів MCP у виробництві

• Досвід роботи з системами оцінювання, спостереженням LLM, трасуванням, RAG, пошуком або векторними базами даних…

Джерело: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/deliveroo/software-engineer-genai-platform-london-481615)