Staff Software Engineer, Inference

Το CoreWeave είναι το βασικό Cloud για AI™. Κατασκευασμένο για πρωτοπόρους από πρωτοπόρους, το CoreWeave προσφέρει μια πλατφόρμα τεχνολογίας, εργαλείων και ομάδων που επιτρέπει στους καινοτόμους να δημιουργήσουν και να κλιμακώσουν την τεχνητή νοημοσύνη με σιγουριά. Εμπιστευμένο από κορυφαία εργαστήρια τεχνητής νοημοσύνης, νεοφυείς επιχειρήσεις και παγκόσμιες επιχειρήσεις, το CoreWeave συνδυάζει ανώτερη απόδοση υποδομής με βαθιά τεχνική εξειδίκευση για να επιταχύνει τις ανακαλύψεις και να μετατρέψει τον υπολογιστή σε ικανότητα. Η CoreWeave, που ιδρύθηκε το 2017, έγινε δημόσια εισηγμένη εταιρεία (Nasdaq: CRWV) τον Μάρτιο του 2025. Μάθετε περισσότερα στη διεύθυνση www.coreweave.com .

Είμαστε περήφανοι που είμαστε διαπιστευμένος εργοδότης Living Wage.

Τι θα κάνετε:

Η ομάδα Inference του CoreWeave δημιουργεί και λειτουργεί την βασική πλατφόρμα cloud που τροφοδοτεί φόρτους εργασίας GPU μαζικής κλίμακας για AI/ML, VFX, απόδοση και εξαγωγή συμπερασμάτων σε πραγματικό χρόνο. Η στοίβα μας έχει σχεδιαστεί για ταχύτητα, κλίμακα και αποδοτικότητα κόστους—παρέχοντας μια ισχυρή εναλλακτική λύση στους παραδοσιακούς υπερκλιμάκωτους όπου η υποδομή είναι το βασικό μας προϊόν που λειτουργεί σε μαζική κλίμακα.

Σχετικά με τον ρόλο:

Ως Μηχανικός Λογισμικού Προσωπικού στην ομάδα Inference, θα λειτουργήσετε ως τεχνικός ηγέτης σε πολλές ομάδες και υπηρεσίες, οδηγώντας την αρχιτεκτονική, την απόδοση και την αξιοπιστία για την εγγενή πλατφόρμα συμπερασμάτων του CoreWeave του Kubernetes. Θα ορίσετε και θα καθοδηγήσετε πολύπλοκες, οριζόντιες πρωτοβουλίες σχεδίασης που καλύπτουν τη δρομολόγηση αιτημάτων, τον προσαρμοστικό προγραμματισμό, τη διαχείριση πόρων GPU και τη βελτιστοποίηση κόστους ανά διακριτικό στο πλαίσιο αυστηρών SLA P99. Σε αυτόν τον ρόλο υψηλού αντίκτυπου, θα εφαρμόσετε προηγμένες βελτιστοποιήσεις συμπερασμάτων—όπως η κερδοσκοπική αποκωδικοποίηση και η επαναχρησιμοποίηση της κρυφής μνήμης KV—καθορίζοντας πλαίσια συγκριτικής αξιολόγησης απόδοσης, καθοδηγώντας τη διαλειτουργική ευθυγράμμιση πέρα ​​από τα όρια της υποδομής και αυξάνοντας τον πήχη για την αυστηρότητα της μηχανικής και τις πρακτικές παρατηρητικότητας σε ολόκληρο τον οργανισμό.

Ποιος Είσαι:

• Πτυχίο Πληροφορικής, Μηχανικής Υπολογιστών ή σε συναφές τεχνικό πεδίο (ή αντίστοιχη πρακτική εμπειρία).

• 8+ χρόνια εμπειρίας στην κατασκευή μεγάλης κλίμακας κατανεμημένων συστημάτων ή πλατφορμών cloud, με αποδεδειγμένο ιστορικό κορυφαίων τεχνικών πρωτοβουλιών σε επίπεδο ομάδας ή οργανισμού σε κλίμακα.

• Ισχυρή ικανότητα κωδικοποίησης σε Go, Python ή C++.

• Βαθιά εξειδίκευση στο Kubernetes σε κλίμακα παραγωγής, συμπεριλαμβανομένης της ενορχήστρωσης, του προγραμματισμού και του σχεδιασμού υπηρεσιών.

• Ισχυρή κατανόηση δικτυωμένων συστημάτων, βελτιστοποίησης απόδοσης και σχεδίασης κατανεμημένων συστημάτων.

• Πρακτική εμπειρία μηχανικής με συστήματα συμπερασμάτων, συμπεριλαμβανομένων στρατηγικών δέσμης/μικρο-batching, προσωρινής αποθήκευσης, βελτιστοποίησης μνήμης, μικτής ακρίβειας (BF16/FP8) και παράδοσης διακριτικών ροής.

• Αποδεδειγμένη ικανότητα συστηματικής βελτίωσης του λανθάνοντος χρόνου (P95/P99) και της αξιοπιστίας της πλατφόρμας μέσω της μηχανικής που βασίζεται σε μετρήσεις.

• Αποδεδειγμένη εμπειρία στην κατοχή SLI/SLO σε όλο το σύστημα, σχεδιασμό χωρητικότητας, στρατηγικές αυτόματης κλιμάκωσης και καθοδήγηση μηχανικών ανώτερων και μεσαίων επιπέδων.

Προτιμάται:

• Απευθείας συνεισφορές ανοιχτού κώδικα ή παραγωγής σε σύγχρονα πλαίσια συμπερασμάτων (π.χ. vLLM, Triton, TensorRT-LLM, Ray Serve ή TorchServe).

• Βαθιά εμπειρία με τη μηχανική συστημάτων GPU και τη βελτιστοποίηση απόδοσης υλικού (π.χ. διασυνδέσεις CUDA, NCCL, RDMA, NUMA ή GPU).

• Άμεση έκθεση σε μεγάλης κλίμακας υποδομή AI/ML ή περιβάλλοντα cloud υπερκλίμακας.

Αναρωτιέσαι αν ταίριαζε καλά;

Πιστεύουμε στην επένδυση στους ανθρώπους μας και εκτιμούμε τους υποψηφίους που μπορούν να φέρουν τις δικές τους διαφοροποιημένες εμπειρίες στις ομάδες μας—ακόμα κι αν δεν είστε 100% ταιριαστής δεξιοτήτων ή εμπειρίας.

• Σας αρέσει να: Κλιμακώνετε πολύ περίπλοκες κατανεμημένες αρχιτεκτονικές και κοόρτες μηχανικής καθοδήγησης για να αναβαθμίσετε τα τεχνικά πρότυπα σε έναν οργανισμό.

• Είστε περίεργοι: Πρωτοποριακές βελτιστοποιήσεις συμπερασμάτων χαμηλής καθυστέρησης και εύρεση καινοτόμων συντομεύσεων για τη βελτιστοποίηση της απόδοσης κόστους ανά διακριτικό.

• Είστε ειδικός σε: Μηχανική βάσει μετρήσεων, αντιμετώπιση προβλημάτων μικροσυμφορήσεων και παροχή σταθερών πλατφορμών cloud υπό αυστηρούς περιορισμούς πολλών ενοικιαστών.

Γιατί CoreWeave;

Στο CoreWeave, εργαζόμαστε σκληρά, διασκεδάζουμε και προχωράμε γρήγορα! Βρισκόμαστε σε ένα συναρπαστικό στάδιο υπερ-ανάπτυξης που δεν θα θέλετε να χάσετε. Δεν φοβόμαστε το μικρό χάος και συνεχώς μαθαίνουμε. Η ομάδα μας ενδιαφέρεται βαθιά για το πώς χτίζουμε το προϊόν μας και πώς συνεργαζόμαστε, το οποίο αντιπροσωπεύεται μέσω των βασικών μας αξιών:

• Να είστε περίεργοι στον πυρήνα σας

• Ενεργήστε σαν ιδιοκτήτης

• Ενδυνάμωση των εργαζομένων

• Παρέχετε τις καλύτερες εμπειρίες πελατών στην κατηγορία

• Πετύχετε περισσότερα Μαζί

Υποστηρίζουμε και ενθαρρύνουμε την επιχειρηματική προοπτική και την ανεξάρτητη σκέψη. Καλλιεργούμε ένα περιβάλλον που ενθαρρύνει τη συνεργασία και επιτρέπει την ανάπτυξη καινοτόμων λύσεων σε πολύπλοκα προβλήματα. Καθώς ετοιμαζόμαστε για την απογείωση, οι ευκαιρίες ανάπτυξης του οργανισμού διευρύνονται συνεχώς. Θα περιτριγυριστείτε από μερικά από τα καλύτερα ταλέντα στον κλάδο, τα οποία θα θέλουν να μάθουν και από εσάς. Ελάτε μαζί μας!

Ο αρχικός μισθός θα καθοριστεί από τις γνώσεις, τις δεξιότητες, την εμπειρία και την τοποθεσία της αγοράς που σχετίζονται με την εργασία. Προσπαθούμε τόσο για την ευθυγράμμιση της αγοράς όσο και για την εσωτερική δικαιοσύνη κατά τον καθορισμό της αποζημίωσης. Εκτός από τον βασικό μισθό, το συνολικό πακέτο ανταμοιβών μας περιλαμβάνει ένα διακριτικό μπόνους, βραβεία μετοχικού κεφαλαίου και ένα ολοκληρωμένο πρόγραμμα παροχών (όλα βασισμένα στην καταλληλότητα).
Για να εκπληρώσουμε την υποχρέωσή μας να προστατεύσουμε τα δεδομένα πελατών, οι επιτυχημένοι υποψήφιοι στους οποίους προσφέρεται απασχόληση με το CoreWeave θα πρέπει να ολοκληρώσουν έναν βασικό έλεγχο ποινικού μητρώου, ο οποίος θα διενεργείται σύμφωνα με τον GDPR. Οι προσφορές απασχόλησης εξαρτώνται από τη λήψη ικανοποιητικών αποτελεσμάτων ελέγχου.

Τι Προσφέρουμε

Εκτός από έναν ανταγωνιστικό μισθό, προσφέρουμε μια ποικιλία παροχών για την υποστήριξη των αναγκών σας, όπως:

• Ιατρική ασφάλιση σε επίπεδο οικογένειας

• Οδοντιατρική ασφάλιση οικογενειακού επιπέδου

• Γενναιόδωρη συνταξιοδοτική εισφορά

• Ασφάλιση Ζωής με 4x Μισθό

• Κάλυμμα κρίσιμων ασθενειών

• Πρόγραμμα Βοήθειας Εργαζομένων

• Αποζημίωση διδάκτρων

• Η εργασιακή κουλτούρα επικεντρώνεται στην καινοτόμο αναστάτωση

Τα οφέλη μπορεί να διαφέρουν ανάλογα με την τοποθεσία.

Ίσες Ευκαιρίες…

Πηγή: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/coreweaveu/staff-software-engineer-inference-london-292192)