AI Infrastructure Engineer, Serving Platform

Ως Μηχανικός Λογισμικού στην ομάδα ML Infrastructure, θα σχεδιάσετε και θα δημιουργήσετε πλατφόρμες για επεκτάσιμη, αξιόπιστη και αποτελεσματική εξυπηρέτηση των LLM. Η πλατφόρμα μας τροφοδοτεί συστήματα έρευνας και παραγωγής αιχμής, υποστηρίζοντας περιπτώσεις εσωτερικής και εξωτερικής χρήσης σε διάφορα περιβάλλοντα.

Ο ιδανικός υποψήφιος συνδυάζει ισχυρές βασικές αρχές ML με βαθιά εξειδίκευση στο σχεδιασμό συστημάτων υποστήριξης. Θα εργαστείτε σε ένα άκρως συνεργατικό περιβάλλον, γεφυρώνοντας την έρευνα και τη μηχανική για να προσφέρετε απρόσκοπτες εμπειρίες στους πελάτες μας και να επιταχύνετε την καινοτομία σε ολόκληρη την εταιρεία.

Θα:

• Κατασκευάστε και συντηρήστε συστήματα υψηλής απόδοσης με ανοχή σε σφάλματα για την εξυπηρέτηση LLM και άλλων μοντέλων σε κλίμακα.

• Δημιουργήστε μια εσωτερική πλατφόρμα για να ενδυναμώσετε την ανακάλυψη δυνατοτήτων LLM.

• Συνεργασία με ερευνητές και μηχανικούς για την ενοποίηση και τη βελτιστοποίηση μοντέλων για περιπτώσεις παραγωγής και έρευνας.

• Διεξαγωγή ανασκοπήσεων αρχιτεκτονικής και σχεδίασης για τη διατήρηση των βέλτιστων πρακτικών στο σχεδιασμό και την επεκτασιμότητα του συστήματος.

• Ανάπτυξη λύσεων παρακολούθησης και παρατηρησιμότητας για τη διασφάλιση της υγείας και της απόδοσης του συστήματος.

• Καθοδηγήστε έργα από άκρο σε άκρο, από τη συλλογή απαιτήσεων έως την υλοποίηση, σε ένα διαλειτουργικό περιβάλλον.

Ιδανικά θα είχατε:

• 4+ χρόνια εμπειρίας στην κατασκευή συστημάτων backend μεγάλης κλίμακας, υψηλής απόδοσης.

• Ισχυρές δεξιότητες προγραμματισμού σε μία ή περισσότερες γλώσσες (π.χ. Python, Go, Rust, C++).

• Εμπειρία με τα βασικά στοιχεία της υπηρεσίας LLM και της δρομολόγησης (π.χ. περιορισμός τιμών, ροή διακριτικών, εξισορρόπηση φορτίου, προϋπολογισμοί κ.λπ.)

• Εμπειρία με δυνατότητες και έννοιες LLM όπως συλλογιστική, κλήση εργαλείων, πρότυπα προτροπών κ.λπ.

• Εμπειρία με κοντέινερ και εργαλεία ενορχήστρωσης (π.χ. Docker, Kubernetes).

• Εξοικείωση με την υποδομή cloud (AWS, GCP) και την υποδομή ως κώδικα (π.χ. Terraform).

• Αποδεδειγμένη ικανότητα επίλυσης σύνθετων προβλημάτων και ανεξάρτητης εργασίας σε περιβάλλοντα που κινούνται γρήγορα.

Ωραίο να έχεις:

• Εμπειρία με σύγχρονα πλαίσια εξυπηρέτησης LLM όπως το vLLM, το SGLang, το TensorRT-LLM ή το text-generation-inference.

ΠΑΡΑΚΑΛΩ ΣΗΜΕΙΩΣΤΕ: Η πολιτική μας απαιτεί περίοδο αναμονής 90 ημερών πριν επανεξεταστούν οι υποψήφιοι για τον ίδιο ρόλο. Αυτό μας επιτρέπει να διασφαλίσουμε μια δίκαιη και ενδελεχή αξιολόγηση όλων των αιτούντων.

Σχετικά με εμάς:

Στην Scale, αποστολή μας είναι να αναπτύξουμε αξιόπιστα συστήματα AI για τις πιο σημαντικές αποφάσεις στον κόσμο. Τα προϊόντα μας παρέχουν δεδομένα υψηλής ποιότητας και τεχνολογίες πλήρους στοίβας που τροφοδοτούν τα κορυφαία μοντέλα στον κόσμο και βοηθούν τις επιχειρήσεις και τις κυβερνήσεις να δημιουργήσουν, να αναπτύξουν και να επιβλέπουν εφαρμογές τεχνητής νοημοσύνης που προσφέρουν πραγματικό αντίκτυπο. Συνεργαζόμαστε στενά με ηγέτες του κλάδου όπως η Meta, η Ernst & Young, η Mayo Clinic, η Time Inc., η κυβέρνηση του Κατάρ και κυβερνητικές υπηρεσίες των ΗΠΑ, συμπεριλαμβανομένου του Στρατού και της Πολεμικής Αεροπορίας. Επεκτείνουμε την ομάδα μας για να επιταχύνουμε την ανάπτυξη εφαρμογών τεχνητής νοημοσύνης.

Πιστεύουμε ότι ο καθένας πρέπει να μπορεί να φέρει τον εαυτό του στη δουλειά, γι' αυτό είμαστε περήφανοι που είμαστε ένας χώρος εργασίας χωρίς αποκλεισμούς και ίσων ευκαιριών. Δεσμευόμαστε για ίσες ευκαιρίες απασχόλησης ανεξαρτήτως φυλής, χρώματος, καταγωγής, θρησκείας, φύλου, εθνικής καταγωγής, σεξουαλικού προσανατολισμού, ηλικίας, υπηκοότητας, οικογενειακής κατάστασης, κατάστασης αναπηρίας, ταυτότητας φύλου ή ιδιότητας βετεράνου.

Δεσμευόμαστε να συνεργαζόμαστε και να παρέχουμε εύλογες διευκολύνσεις σε αιτούντες με σωματικές και πνευματικές αναπηρίες. Εάν χρειάζεστε βοήθεια ή/και εύλογη διευθέτηση στη διαδικασία αίτησης ή πρόσληψης λόγω αναπηρίας, επικοινωνήστε μαζί μας στο ----- Ανατρέξτε στην αφίσα του Υπουργείου Εργασίας των Ηνωμένων Πολιτειών Know Your Rights για πρόσθετες πληροφορίες.

Συμμορφωνόμαστε με τη διάταξη του Υπουργείου Εργασίας των Ηνωμένων Πολιτειών για τη διαφάνεια των αμοιβών .

ΠΑΡΑΚΑΛΩ ΣΗΜΕΙΩΣΤΕ: Συλλέγουμε, διατηρούμε και χρησιμοποιούμε προσωπικά δεδομένα για επαγγελματικούς επιχειρηματικούς σκοπούς, συμπεριλαμβανομένης της ειδοποίησης σας για ευκαιρίες εργασίας που μπορεί να σας ενδιαφέρουν και την κοινή χρήση με τις θυγατρικές μας. Περιορίζουμε τα προσωπικά δεδομένα που συλλέγουμε σε αυτά που πιστεύουμε ότι είναι κατάλληλα και απαραίτητα για τη διαχείριση των αναγκών των αιτούντων, την παροχή των υπηρεσιών μας και τη συμμόρφωση με την ισχύουσα νομοθεσία. Οποιεσδήποτε πληροφορίες συλλέγουμε σε σχέση με την αίτησή σας θα αντιμετωπίζονται σύμφωνα με τις εσωτερικές πολιτικές και τα προγράμματά μας που έχουν σχεδιαστεί για την προστασία των προσωπικών δεδομένων. Ανατρέξτε στην πολιτική απορρήτου μας για πρόσθετες πληροφορίες.

Βρείτε θέσεις εργασίας στο Ηνωμένο Βασίλειο στο Arbeitnow

Πηγή: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/scaleai/ai-infrastructure-engineer-serving-platform-london-413534)