Μηχανικός GPU

Σχετικά με το Kog
Στην Kog, δημιουργούμε συμπεράσματα LLM σε πραγματικό χρόνο για πράκτορες AI.
Οι πράκτορες κωδικοποίησης εκτελούν ακολουθίες εργασιών όπου κάθε βήμα εξαρτάται από την προηγούμενη απόκριση του μοντέλου. Όσο πιο γρήγορα το μοντέλο δημιουργεί διακριτικά, τόσο πιο γρήγορα αυτοί οι πράκτορες μπορούν να αιτιολογήσουν, να κωδικοποιήσουν και να ενεργήσουν.
Η προσέγγισή μας είναι να συν-σχεδιάζουμε την αρχιτεκτονική μοντέλων, τη μηχανή συμπερασμάτων και τους πυρήνες GPU χαμηλού επιπέδου για την ελαχιστοποίηση του λανθάνοντος χρόνου παραγωγής σε τυπικές GPU κέντρων δεδομένων NVIDIA και AMD.
Έχουμε αναπτύξει διάφορες τεχνολογίες για να το κάνουμε αυτό δυνατό:

• Monokernel: ένα μόνιμο πρόγραμμα GPU που διατηρεί ολόκληρο τον βρόχο δημιουργίας διακριτικών στη GPU, αποφεύγοντας τις μεταβιβάσεις CPU.

• KCCL: το προσαρμοσμένο μας επίπεδο επικοινωνίας μεταξύ GPU, σχεδιασμένο να ελαχιστοποιεί τον λανθάνοντα χρόνο.

• Καθυστερημένος παραλληλισμός τανυστή (DTP): μια αρχιτεκτονική μοντέλου που επικαλύπτει την επικοινωνία με τον υπολογισμό και τη φόρτωση βάρους.

• Laneformer 2B: το μοντέλο παραγωγής κώδικα που επιδεικνύει αυτή την προσέγγιση συν-σχεδιασμού.

Οι μηχανικοί μας εργάζονται απευθείας με το υλικό GPU, χρησιμοποιώντας CUDA, PTX, HIP και CDNA ISA για τη βελτιστοποίηση της εκτέλεσης.
Η εφαρμογή και η βελτιστοποίηση ενός νέου μοντέλου τεχνητής νοημοσύνης για μια συγκεκριμένη αρχιτεκτονική GPU μπορεί να χρειαστούν μήνες χειροκίνητης μηχανικής. Εν τω μεταξύ, κυκλοφορούν συνεχώς νέα μοντέλα.
Στόχος μας είναι να χρησιμοποιήσουμε πράκτορες AI για την υλοποίηση και τη βελτιστοποίηση των μοντέλων που επιλέγουμε στις GPU που επιλέγουμε, σε ένα κλάσμα του χρόνου που απαιτείται σήμερα.
Αυτοί οι πράκτορες θα βασιστούν στις βελτιστοποιήσεις GPU και στις πληροφορίες υλικού που έχει αναπτύξει η ομάδα μας. Θα εξερευνήσουν στρατηγικές βελτιστοποίησης, θα δημιουργήσουν και θα τροποποιήσουν πυρήνες, θα επαληθεύσουν την ορθότητα, θα αξιολογήσουν την απόδοση σε πραγματικό υλικό και θα επαναλάβουν με βάση τα αποτελέσματα.
Θέλουμε να κάνουμε τη μεταφορά μοντέλων και τη βελτιστοποίηση GPU πολύ πιο γρήγορη και επαναλαμβανόμενη, επιτρέποντας στον Kog να συμβαδίζει με τα πιο πρόσφατα μοντέλα AI αντί να ξοδεύει μήνες προσαρμόζοντας το καθένα χειροκίνητα.
Αυτή είναι μια σημαντική κατεύθυνση μηχανικής που αναπτύσσουμε τώρα και θα βοηθήσετε να τη διαμορφώσετε.
Μάθετε περισσότερα στο https://blog.kog.ai.

Αυτό που θα δουλέψεις
Θα γίνετε μέλος της ομάδας μηχανικής μας GPU για να αντιμετωπίσετε δύσκολα προβλήματα απόδοσης και να βοηθήσετε στη δημιουργία των εσωτερικών πρακτόρων που θα επιταχύνουν αυτό το έργο.

• Αναπτύξτε και βελτιστοποιήστε πυρήνες GPU χρησιμοποιώντας οδηγίες C++, CUDA, HIP και χαμηλού επιπέδου.

• Διερευνήστε την αρχιτεκτονική GPU, την πρόσβαση στη μνήμη, τον συγχρονισμό και τα σημεία συμφόρησης στην εκτέλεση.

• Προφίλ και συγκριτική αξιολόγηση του φόρτου εργασίας για τον εντοπισμό και την επικύρωση βελτιώσεων απόδοσης.

• Βελτιστοποιήστε τις λειτουργίες συμπερασμάτων και την επικοινωνία σε πολλές GPU.

• Εφαρμογή και βελτιστοποίηση νέων μοντέλων AI σε NVIDIA και AMD GPU.

• Βοηθήστε στη δημιουργία πρακτόρων τεχνητής νοημοσύνης για μηχανική GPU , επιτρέποντας την αυτοματοποιημένη βελτιστοποίηση κώδικα, τη δοκιμή ορθότητας, τη συγκριτική αξιολόγηση και τις επαναληπτικές βελτιώσεις.

• Ανάληψη ευθύνης των τεχνικών αποφάσεων και της εφαρμογής τους.

Αυτό που ψάχνουμε
Αναζητούμε έναν έμπειρο Μηχανικό GPU που μπορεί να συμβάλει γρήγορα και ανεξάρτητα σε πολύπλοκα προβλήματα απόδοσης.

• Ισχυρή πρακτική εμπειρία ανάπτυξης και βελτιστοποίησης πυρήνων GPU, ιδανικά χρησιμοποιώντας CUDA C++ ή HIP/ROCm.

• Βαθιά κατανόηση της αρχιτεκτονικής GPU, της ιεραρχίας της μνήμης, της παράλληλης εκτέλεσης και των σημείων συμφόρησης απόδοσης.

• Ισχυρές δεξιότητες C++ και εμπειρία δημιουργίας προφίλ και συγκριτικής αξιολόγησης φόρτου εργασίας GPU.

• Αποδεδειγμένη ιδιοκτησία απαιτητικών τεχνικών έργων, από την υλοποίηση έως τα μετρημένα αποτελέσματα.

• Ενδιαφέρον για την ανάπτυξη πρακτόρων και εργαλείων AI για την επιτάχυνση της μηχανικής GPU.

Η εμπειρία με PTX, CDNA ISA, συστήματα πολλαπλών GPU, συμπέρασμα χαμηλής καθυστέρησης ή φορητότητα απόδοσης GPU είναι ιδιαίτερα πολύτιμη.
Ένα διδακτορικό στο HPC, στην επιστήμη των υπολογιστών ή σε σχετικό τομέα είναι ένα πλεονέκτημα όταν υποστηρίζεται από σημαντική εργασία μηχανικής. Δεν απαιτείται προηγούμενη εμπειρία στη δημιουργία πρακτόρων AI.

Τοποθεσία και διαθεσιμότητα
Οι υποψήφιοι πρέπει να έχουν ήδη την έδρα τους στο Παρίσι ή αλλού στο Île-de-France.
Δεν εξετάζουμε το ενδεχόμενο μετεγκατάστασης από άλλες περιοχές ή χώρες για αυτή τη θέση.
Αναζητούμε κάποιον που μπορεί να ενταχθεί γρήγορα στην ομάδα.
Βρείτε περισσότερες αγγλόφωνες θέσεις εργασίας στη Γαλλία στο Arbeitnow

Πηγή: Arbeitnow (https://www.arbeitnow.fr/jobs/companies/kog/gpu-engineer-paris-476374)