Μηχανικός Λογισμικού, Πλατφόρμα GenAI

Η Παγκόσμια Δομή μας

Το Deliveroo είναι πλέον μέρος του DoorDash, συγκεντρώνοντας ομάδες με ακόμη μεγαλύτερη εμβέλεια, κλίμακα και φιλοδοξίες. Ανάλογα με τον ρόλο σας, μπορείτε να συνεργαστείτε με συμπαίκτες, συστήματα και ηγέτες σε όλα τα DoorDash και Wolt. Μαζί, ξεκλειδώνουμε νέες δυνατότητες ως μια παγκόσμια ομάδα.

Μηχανικός Λογισμικού, Πλατφόρμα GenAI

Σχετικά με την Ομάδα
Η ομάδα GenAI Platform της Deliveroo βρίσκεται στην Πλατφόρμα Μηχανικής Εκμάθησης και δημιουργεί την κοινή υποδομή που βοηθά τις ομάδες DoorDash, Wolt και Deliveroo να φέρουν με ασφάλεια προϊόντα, πράκτορες, αυτοματισμούς και εξατομίκευση που υποστηρίζονται από GenAI στην παραγωγή. Η αποστολή μας είναι να αυξήσουμε την ταχύτητα του επιχειρηματικού αντίκτυπου από το GenAI. Ένας κεντρικός πυλώνας αυτής της δουλειάς είναι η εκτέλεση ανοιχτού βάρους LLM και VLM (όπως GLM, Qwen, Kimi και DeepSeek) - εξυπηρέτηση GPU σε πραγματικό χρόνο, συμπέρασμα παρτίδας υψηλής απόδοσης και λεπτομέρεια σε αυτόματες GPU - προσφέροντας μεγάλο κόστος και κέρδη λανθάνοντος χρόνου (για παράδειγμα, φθηνότερα μοντέλα 200 δισεκατομμύρια). σερβίρεται περίπου 72% φθηνότερα). Διαθέτουμε επίσης βασικές επιφάνειες πλατφόρμας, συμπεριλαμβανομένων των LLM Gateway, Agent Gateway, υποδομών αξιολόγησης, προστατευτικών κιγκλιδωμάτων και απόδοσης κόστους.

Σχετικά με το Ρόλο
Θα συμμετάσχετε σε μια μικρή υποδομή παραγωγής ομάδας υψηλής μόχλευσης για Generative AI στο Deliveroo και στο DoorDash, με κύρια εστίαση στην πλατφόρμα μοντέλων ανοιχτών βαρών που καλύπτει την εξαγωγή συμπερασμάτων και τη λεπτομέρεια: εξυπηρέτηση GPU σε πραγματικό χρόνο, συμπέρασμα παρτίδας υψηλής απόδοσης και τελειοποίηση μοντέλου. Θα εργαστείτε σε μηχανές εξυπηρέτησης μοντέλων και συμπερασμάτων, σωλήνες βελτιστοποίησης και εκπαίδευσης, αυτόματης κλιμάκωσης και χρήσης GPU, σωλήνων παρτίδας, υπηρεσιών υποστήριξης και παρατηρησιμότητας. Αυτός ο ρόλος είναι ιδανικός για έναν μηχανικό που του αρέσει να πιέζει τα όρια κόστους/απόδοσης των συμπερασμάτων GPU και της λεπτομέρειας σε έναν ταχέως εξελισσόμενο τεχνικό τομέα όπου οι ανάγκες προϊόντων, οι δυνατότητες μοντέλων, τα οικοσυστήματα προμηθευτών και οι ανταλλαγές κόστους/απόδοσης εξελίσσονται γρήγορα.

Είστε ενθουσιασμένοι με αυτή την ευκαιρία γιατί θα…

• Δημιουργήστε την υποδομή που βοηθά τις ομάδες της Deliveroo να μεταφέρουν τις ιδέες GenAI από το πρωτότυπο στην παραγωγή, αυξάνοντας την ταχύτητα του επιχειρηματικού αντίκτυπου από την τεχνητή νοημοσύνη σε όλη την εταιρεία.

• Εργαστείτε στη στοίβα εξυπηρετήσεων ανοιχτού βάρους — τελικά σημεία GPU σε πραγματικό χρόνο, συμπέρασμα παρτίδας υψηλής απόδοσης και τελειοποίηση (SFT/DPO/LoRA) — παράλληλα με την πύλη LLM, την πύλη πράκτορα, την υποδομή, τα προστατευτικά κιγκλιδώματα και την απόδοση κόστους.

• Σχεδιάστε επεκτάσιμα, υψηλής απόδοσης συστήματα για εξυπηρέτηση μοντέλων, συμπέρασμα παρτίδας, αυτόματη κλιμάκωση GPU και λεπτομέρεια που τροφοδοτούν περιπτώσεις χρήσης πραγματικών πελατών και εσωτερικού αυτοματισμού

• Αυξήστε το όριο κόστους και καθυστέρησης του συμπερασμάτων GPU — μετατρέποντας τις εργασίες παρτίδας που χρειάζονταν μέρες σε ώρες και μειώνοντας το κόστος συμπερασμάτων κατά πολλαπλάσια — δίνοντας παράλληλα στις ομάδες προϊόντων μια καθαρή επιλογή μεταξύ μοντέλων ανοιχτού βάρους και κλειστού κώδικα με ενσωματωμένα στοιχεία ελέγχου αξιοπιστίας, εναλλακτικής δυνατότητας, παρατηρησιμότητας και κόστους.

• Δημιουργήστε πλατφόρμες που υποστηρίζουν γρήγορο πειραματισμό, ενώ πληρούν τα πρότυπα παραγωγής για λανθάνοντα χρόνο, κλίμακα, παρακολούθηση, SLO, βιβλία παιχνιδιού και λειτουργική αριστεία.

• Συνεργαστείτε στενά με μηχανικούς ML, μηχανικούς προϊόντων, επιστήμονες δεδομένων και ομάδες πλατφόρμας σε όλα τα DoorDash, Wolt και Deliveroo για να μετατρέψετε τις αναδυόμενες δυνατότητες GenAI σε ανθεκτικές πρωτόγονες πλατφόρμες.

• Διαμορφώστε το μέλλον της κεντρικής πλατφόρμας GenAI — συμπεριλαμβανομένων των αναδυόμενων κατευθύνσεων όπως η ενισχυτική μάθηση (RLHF/RLVR), η βελτιστοποίηση πρακτόρων και άλλες τεχνικές μετά την εκπαίδευση και πρακτορεία — επιτρέποντας την επόμενη γενιά προϊόντων, πρακτόρων, αυτοματισμού και εξατομίκευσης με τεχνητή νοημοσύνη.

Είμαστε ενθουσιασμένοι για εσάς γιατί έχετε…

• Πτυχίο, MSc ή PhD στην Επιστήμη των Υπολογιστών ή ισοδύναμο

• 3+ χρόνια εμπειρία στον κλάδο στη μηχανική λογισμικού

• Ισχυρές βασικές αρχές μηχανικής υποστήριξης, ειδικά σε Python και κατανεμημένα συστήματα.

• Απολαύστε την εμπειρία κατασκευής υπηρεσιών παραγωγής, API, αγωγών δεδομένων ή υποδομής ML σε κλίμακα.

• Απολαύστε λειτουργικά συστήματα στην παραγωγή, συμπεριλαμβανομένης της παρατηρησιμότητας, του εντοπισμού σφαλμάτων, της αξιοπιστίας, της απόκρισης περιστατικού και της βελτιστοποίησης απόδοσης/κόστους.

• Πρακτική εμπειρία με το συμπέρασμα LLM ή/και τη λεπτομέρεια μοντέλων ανοιχτού βάρους στην παραγωγή — εξυπηρέτηση (λανθάνουσα κατάσταση, απόδοση, παρτίδες, αυτόματη κλιμάκωση, χρήση GPU) ή/και μικροσυντονισμός (SFT/DPO/LoRA).

• Δυνατότητα εργασίας σε διφορούμενους, ταχέως κινούμενους τεχνικούς τομείς και μετατροπή περιπτώσεων χρήσης πελατών σε επαναχρησιμοποιήσιμες δυνατότητες πλατφόρμας

• Ικανότητα στη χρήση εργαλείων κωδικοποίησης AI (π.χ. Claude Code, Codex, Cursor) στον πλήρη κύκλο ζωής ανάπτυξης λογισμικού, συμπεριλαμβανομένου του σχεδιασμού, της δημιουργίας κώδικα, της δοκιμής, της παρακολούθησης και της κυκλοφορίας λογισμικού

Nice To Haves

• Εμπειρία με μηχανές συμπερασμάτων LLM και πλαίσια εξυπηρέτησης (π.χ. vLLM, SGLang, TensorRT-LLM) στην παραγωγή

• Εμπειρία με διανεμημένους/πολυκομβικούς αγωγούς μικρορύθμισης και εκπαίδευσης (SFT, DPO/RLHF, LoRA), συμπεριλαμβανομένης της προετοιμασίας και αξιολόγησης δεδομένων

• Εργασία απόδοσης GPU — συμπέρασμα πολλαπλών κόμβων/κατανεμημένων συμπερασμάτων, βελτιστοποίηση κρυφής μνήμης KV/μνήμης, κβαντοποίηση (FP8/INT8/AWQ/GPTQ) ή συντονισμός ψυχρής εκκίνησης/απόδοσης

• Εμπειρία με Kubernetes, υποδομές cloud (AWS/GCP), GPU, πλατφόρμες GPU χωρίς διακομιστή/ελαστική (π.χ. Modal) ή συστήματα δέσμης υψηλής απόδοσης

• Εμπειρία με πύλες LLM, δρομολόγηση μοντέλων, αφαίρεση προμηθευτών ή απόδοση κόστους

• Απολαύστε τη δημιουργία πλατφορμών προγραμματιστών, εσωτερικών πλατφορμών ή υποδομών αυτοεξυπηρέτησης

• Απολαύστε τη δημιουργία και την ανάπτυξη πρακτόρων AI ή διακομιστών MCP στην παραγωγή

• Εμπειρία με συστήματα αξιολόγησης, παρατηρησιμότητα LLM, ανίχνευση, RAG, αναζήτηση ή διανυσματικές βάσεις δεδομένων…

Πηγή: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/deliveroo/software-engineer-genai-platform-london-481615)