Μηχανικός Λογισμικού, Inference

Θα γνωρίζετε πώς εξυπηρετούνται τα μοντέλα της Luma — ενσωματώνοντας νέες αρχιτεκτονικές στη μηχανή συμπερασμάτων, κλιμακώνοντας τις αναπτύξεις σε χιλιάδες μηχανήματα και κρατώντας απασχολημένους τους ακριβούς στόλους GPU ενώ συναντάτε εσωτερικά SLO.
Πρόκειται για εργασία συστημάτων συμπερασμάτων μεγάλης κλίμακας: προγραμματισμός, διαχείριση στόλου, αγωγοί ανάπτυξης και αξιοπιστία σε ομάδες και παρόχους υλικού. Ταιριάζει σε έναν ισχυρό μηχανικό συστημάτων που βολεύεται με το σέρβις μοντέλων και το Kubernetes σε κλίμακα. Αν θέλετε καθαρή μοντελοποίηση αντί για συστήματα που εκτελούν μοντέλα, αυτή είναι σταθερά η πλευρά του συστήματος.
Τι θα Κατέχετε

• Αποστολή νέων αρχιτεκτονικών μοντέλων ενσωματώνοντάς τες στη μηχανή συμπερασμάτων.

• Συνεργασία σε έρευνα, μηχανική και υποδομή για τη βελτιστοποίηση της απόδοσης και της ανάπτυξης του μοντέλου.

• Δημιουργήστε εσωτερικά εργαλεία για τη μέτρηση, το προφίλ και την παρακολούθηση της διάρκειας ζωής των εργασιών εξαγωγής συμπερασμάτων και των ροών εργασίας.

• Αυτοματοποιήστε, δοκιμάστε και διατηρήστε τις υπηρεσίες συμπερασμάτων για μέγιστο χρόνο λειτουργίας και αξιοπιστία.

• Διαχειριστείτε και βελτιστοποιήστε τους φόρτους εργασίας συμπερασμάτων σε συμπλέγματα και παρόχους υλικού και κλιμακώστε τις αναπτύξεις σε χιλιάδες μηχανήματα.

• Δημιουργήστε συστήματα προγραμματισμού που χρησιμοποιούν ακριβούς πόρους GPU με βέλτιστο τρόπο ενώ συναντάτε SLO και διατηρούν CI/CD για σημεία ελέγχου μοντέλων και SDK.

Πρώτες 90 ημέρες
Ένας τρόπος θα μπορούσαν να ξεδιπλωθούν τα πρώτα 90.

• Ημέρες 1–30 — Εμβάπτιση & Διάγνωση: Μάθετε τη στοίβα συμπερασμάτων, τους στόλους και τα σημεία διακοπής της αξιοπιστίας ή της χρήσης.

• Ημέρες 30–60 — Αποστολή και επικύρωση: Ενσωματώστε ένα μοντέλο ή ένα εργαλείο/προγραμματισμό αποστολής που βελτιώνει το χρόνο λειτουργίας ή τη χρήση της GPU.

• Ημέρες 60–90 — Κλίμακα και Συστημοποίηση: Σκληρύνετε τους αγωγούς ανάπτυξης και τον προγραμματισμό σε ομάδες και παρόχους.

Τι Φέρνεις

• Ισχυρές δεξιότητες Python και αρχιτεκτονικής συστήματος.

• Απολαύστε την ανάπτυξη μοντέλων με PyTorch, Hugging Face, vLLM, SGLang, TensorRT-LLM ή παρόμοια.

• Εμπειρία με ουρές, προγραμματισμό, έλεγχο κυκλοφορίας και διαχείριση στόλου σε κλίμακα.

• Εμπειρία με Linux, Docker και Kubernetes και με ενορχήστρωση, ανάπτυξη και προγραμματισμό.

• Εξοικείωση με τον χώρο αποθήκευσης συμβατός με Redis και S3.

Ωραίο να έχεις

• Σύγχρονες στοίβες δικτύωσης που περιλαμβάνουν RDMA (RoCE, InfiniBand, NVLink).

• Συστήματα ML μεγάλης κλίμακας υψηλής απόδοσης (100+ GPU).

• CUDA, και FFmpeg ή επεξεργασία πολυμέσων.

Σχετικά με τον Λούμα: Η αποστολή του Λούμα είναι να δημιουργήσει ενοποιημένη γενική νοημοσύνη που μπορεί να δημιουργήσει, να κατανοήσει και να λειτουργήσει στον φυσικό κόσμο. Πιστεύουμε ότι η πολυτροπικότητα είναι κρίσιμη για τη νοημοσύνη — το επόμενο βήμα πέρα ​​από τα γλωσσικά μοντέλα προέρχεται από την όραση. Η Λούμα είναι εργοδότης ίσων ευκαιριών.
Βρείτε θέσεις εργασίας στο Ηνωμένο Βασίλειο στο Arbeitnow

Πηγή: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/lumaai/software-engineer-inference-london-107112)