Μηχανικός Έρευνας AI (Βελτιστοποίηση πυρήνα & συμπερασμάτων)

Αυτή η θέση είναι καταχωρημένη για λογαριασμό συνεργαζόμενης εταιρείας, η οποία διαχειρίζεται όλες τις αιτήσεις και τα επόμενα βήματα. Ο συνεργάτης μας αναζητά Μηχανικό Έρευνας AI (Kernel & Inference Optimization) με έδρα τη Γαλλία.

Θα εργαστείτε στη διασταύρωση της έρευνας τεχνητής νοημοσύνης, της μηχανικής συστημάτων και της εξαγωγής μοντέλων υψηλής απόδοσης.
Η εστίασή σας θα είναι στην ανάπτυξη και τη βελτιστοποίηση αρχιτεκτονικών εξυπηρέτησης μοντέλων για προηγμένα συστήματα AI σε μια σειρά περιβαλλόντων υλικού.
Θα αντιμετωπίσετε προκλήσεις που αφορούν την καθυστέρηση, την απόδοση, την αποδοτικότητα της μνήμης και την επεκτασιμότητα, συμπεριλαμβανομένης της ανάπτυξης σε κινητές συσκευές και συσκευές αιχμής με περιορισμένους πόρους.
Ο ρόλος συνδυάζει την πρακτική έρευνα με τη μηχανική χαμηλού επιπέδου, δίνοντάς σας την ευκαιρία να αναπτύξετε νέες στρατηγικές συμπερασμάτων και πυρήνες GPU.
Θα εργαστείτε με πολύπλοκες αρχιτεκτονικές που καλύπτουν κείμενο, εικόνα, ήχο, μοντέλα διάχυσης και μετασχηματιστές όρασης.
Η εργασία σας θα περιλαμβάνει αυστηρή συγκριτική αξιολόγηση, δοκιμές παραγωγής και επαναληπτική βελτιστοποίηση για να μεταφραστεί η έρευνα σε μετρήσιμες βελτιώσεις απόδοσης.
Θα συνεργαστείτε με διαλειτουργικές ομάδες σε ένα εξαιρετικά τεχνικό, απομακρυσμένο περιβάλλον που επικεντρώνεται στην υπέρβαση των ορίων των αποτελεσματικών συστημάτων AI.

Ευθύνες

• Σχεδιάστε και αναπτύξτε προηγμένες αρχιτεκτονικές εξυπηρέτησης μοντέλων βελτιστοποιημένες για υψηλή απόδοση, χαμηλό λανθάνοντα χρόνο και αποτελεσματική χρήση μνήμης.

• Αναπτύξτε αγωγούς εξαγωγής συμπερασμάτων ικανών να λειτουργούν αποτελεσματικά σε διάφορα περιβάλλοντα, συμπεριλαμβανομένων κινητών συσκευών με περιορισμένους πόρους και πλατφορμών αιχμής.

• Καθορίστε σαφείς στόχους απόδοσης που καλύπτουν την καθυστέρηση απόκρισης, την ταχύτητα δημιουργίας διακριτικών, την απόδοση, το αποτύπωμα μνήμης και την αξιοπιστία.

• Δημιουργία και εκτέλεση ελεγχόμενων σημείων αναφοράς συμπερασμάτων σε περιβάλλοντα προσομοίωσης και παραγωγής, παρακολούθησης καθυστέρησης, απόδοσης, κατανάλωσης μνήμης και ποσοστών σφάλματος.

• Δημιουργία και διατήρηση αντιπροσωπευτικών συνόλων δεδομένων και σεναρίων προσομοίωσης για την αξιολόγηση της απόδοσης του μοντέλου υπό πραγματικές συνθήκες και συνθήκες περιορισμού πόρων.

• Προσδιορίστε τα σημεία συμφόρησης υπολογιστών και μνήμης σε αγωγούς συμπερασμάτων και εφαρμόστε λύσεις που περιλαμβάνουν ομαδοποίηση, δικτύωση, διαχείριση μνήμης και άλλες βελτιστοποιήσεις σε επίπεδο συστήματος.

• Αναπτύξτε προσαρμοσμένους πυρήνες GPU και υπολογιστές σκίαστρων για υλικό φορητών συσκευών, συμπεριλαμβανομένων λύσεων γραμμένων σε γλώσσα σκίασης μετάλλων (MSL).

• Εφαρμόστε προηγμένες τεχνικές βελτιστοποίησης συμπερασμάτων, όπως κλάδεμα, κβαντοποίηση, Flash Attention, προσωρινή αποθήκευση KV και κερδοσκοπική αποκωδικοποίηση.

• Σχεδιάστε και βελτιστοποιήστε κατανεμημένα συστήματα συμπερασμάτων χρησιμοποιώντας προσεγγίσεις όπως ο παραλληλισμός τανυστών, ο παραλληλισμός αγωγών και ο ειδικός παραλληλισμός για φόρτους εργασίας GPU μεγάλης κλίμακας.

• Συνεργαστείτε με διαλειτουργικές ομάδες μηχανικής και έρευνας για την ενσωμάτωση βελτιστοποιημένων πλαισίων συμπερασμάτων σε εφαρμογές παραγωγής και ακραίων συσκευών.

• Καθορίστε μεθοδολογίες αξιολόγησης, τεκμηριώστε πειραματικά αποτελέσματα, συγκρίνετε τις επιδόσεις με καθιερωμένα σημεία αναφοράς και βελτιώνετε συνεχώς τις στρατηγικές βελτιστοποίησης.

• Παρακολουθήστε την απόδοση της παραγωγής και χρησιμοποιήστε εμπειρική έρευνα για να εντοπίσετε ευκαιρίες για περαιτέρω βελτιώσεις στην επεκτασιμότητα, την αποτελεσματικότητα και την αξιοπιστία.

Απαιτήσεις:

• Πτυχίο Επιστήμης Υπολογιστών ή σχετικό τεχνικό πεδίο. ένα διδακτορικό στο NLP, τη Μηχανική Μάθηση ή έναν σχετικό κλάδο είναι πολύ σχετικό, ιδιαίτερα με ισχυρό ιστορικό ερευνητικής πορείας στην τεχνητή νοημοσύνη και δημοσιεύσεις σε κορυφαία συνέδρια.

• Αποδεδειγμένη τεχνογνωσία στη γλώσσα σκίασης μετάλλων (MSL), συμπεριλαμβανομένης της δυνατότητας εγγραφής προσαρμοσμένων υπολογιστικών shaders από την αρχή.

• Αποδεδειγμένη εμπειρία με βελτιστοποίηση πυρήνα χαμηλού επιπέδου και βελτιστοποίηση συμπερασμάτων σε κινητές συσκευές ή άλλες συσκευές με περιορισμούς πόρων.

• Παρακολούθηση παρακολούθησης της παροχής μετρήσιμων βελτιώσεων στον λανθάνοντα χρόνο συμπερασμάτων, την απόδοση και το αποτύπωμα μνήμης για εφαρμογές που αφορούν συγκεκριμένους τομείς.

• Βαθιά κατανόηση των σύγχρονων αρχιτεκτονικών που εξυπηρετούν μοντέλα, των μηχανών συμπερασμάτων και των τεχνικών βελτιστοποίησης για ανάπτυξη τεχνητής νοημοσύνης υψηλής απόδοσης.

• Ισχυρή εμπειρία συγγραφής πυρήνων GPU για φορητές συσκευές όπως smartphone.

• Πρακτική εμπειρία στην ανάπτυξη και ανάπτυξη αγωγών συμπερασμάτων από άκρο σε άκρο, από τη βελτιστοποίηση μοντέλων έως την ενσωμάτωση παραγωγής σε περιορισμένο υλικό.

• Ισχυρή ικανότητα εφαρμογής εμπειρικής έρευνας και συστηματικού πειραματισμού για την επίλυση προκλήσεων καθυστέρησης, υπολογισμού και μνήμης.

• Εμπειρία στο σχεδιασμό ισχυρών πλαισίων αξιολόγησης και συγκριτικής αξιολόγησης για συστήματα συμπερασμάτων.

• Γνώση τεχνικών κατανεμημένων συμπερασμάτων, συμπεριλαμβανομένου του παραλληλισμού τανυστών, του παραλληλισμού αγωγών και του ειδικού παραλληλισμού για συμπλέγματα GPU μεγάλης κλίμακας.

• Βαθιά κατανόηση των μαθηματικών θεμελίων και της αρχιτεκτονικής των μοντέλων διάχυσης και των Vision Transformers.

• Εξοικείωση με τις σύγχρονες τεχνικές βελτιστοποίησης συμπερασμάτων, όπως κλάδεμα, κβαντοποίηση, Flash Attention, KV Cache βελτιστοποίηση και κερδοσκοπική αποκωδικοποίηση όπως το EAGLE.

• Ισχυρές αναλυτικές ικανότητες και ικανότητες επίλυσης προβλημάτων, με ικανότητα διερεύνησης σύνθετων σημείων συμφόρησης του συστήματος και μετατροπής των ερευνητικών ευρημάτων σε πρακτικές λύσεις μηχανικής.

• Άριστες επικοινωνιακές δεξιότητες αγγλικών και ικανότητα αποτελεσματικής συνεργασίας με κατανεμημένες, διαλειτουργικές τεχνικές ομάδες.

Οφέλη:

• Ευκαιρία να εργαστείτε σε προηγμένα συστήματα τεχνητής νοημοσύνης που εκτείνονται σε υπηρεσίες μοντέλων, βελτιστοποίηση συμπερασμάτων, φορητούς υπολογιστές, ανάπτυξη αιχμής και κατανεμημένα συμπεράσματα μεγάλης κλίμακας.

• Περιβάλλον εργασίας εξ αποστάσεως με διεθνή ομάδα.

• Έκθεση σε προκλήσεις έρευνας τεχνητής νοημοσύνης αιχμής και πρακτικών μηχανικών συστημάτων.

• Ευκαιρία να συνεισφέρετε σε υποδομές ζωτικής σημασίας για την απόδοση, όπου οι βελτιώσεις μπορούν να έχουν μετρήσιμο αντίκτυπο σε εφαρμογές τεχνητής νοημοσύνης του πραγματικού κόσμου.

• Συνεργατικό περιβάλλον που συνδυάζει πειραματισμό με γνώμονα την έρευνα με πρακτική μηχανική.

• Ευκαιρία να εργαστείτε με προηγμένες αρχιτεκτονικές μοντέλων, συμπεριλαμβανομένων μοντέλων διάχυσης, Vision Transformers και πολυτροπικών συστημάτων.…

Πηγή: Arbeitnow (https://www.arbeitnow.fr/jobs/companies/jobgether/ai-research-engineer-kernel-inference-optimization-france-4730)