Εργασία
Από ροή συνεργάτη
Μηχανικός Μηχανικής Εκμάθησης, Επ
Τιμή κατόπιν αιτήματος
Λεπτομέρειες
- Τύπος απασχόλησης
- Πλήρης απασχόληση
- Απομακρυσμένα
- Ναι
- Εταιρεία
- Cantina Labs
- Επίπεδο
- Any
Περιγραφή
Μεταφρασμένο αυτόματα από English. Το πρωτότυπο κείμενο είναι το επίσημο. Μηχανική μετάφραση — ετοιμάζεται μια πιο ακριβής έκδοση.
Σχετικά με την Cantina:
Η Cantina Labs είναι μια εταιρεία κοινωνικής τεχνητής νοημοσύνης, που αναπτύσσει μια σουίτα προηγμένων μοντέλων σε πραγματικό χρόνο που ξεπερνούν τα όρια έκφρασης, προσωπικότητας και ρεαλισμού. Δίνουμε ζωή σε χαρακτήρες, μεταμορφώνοντας τον τρόπο με τον οποίο οι άνθρωποι λένε ιστορίες, συνδέονται και δημιουργούν. Κατασκευάζουμε και τροφοδοτούμε οικοσυστήματα. Η Cantina, η ναυαρχίδα μας κοινωνική πλατφόρμα AI, είναι μόνο η αρχή.
Εάν είστε ενθουσιασμένοι με τις δυνατότητες που έχει η τεχνητή νοημοσύνη να διαμορφώσει την ανθρώπινη δημιουργικότητα και τις κοινωνικές αλληλεπιδράσεις, ελάτε μαζί μας στην οικοδόμηση του μέλλοντος!
Σχετικά με το ρόλο:
Αναζητούμε έναν Μηχανικό ML για τον ιδιοκτήτη της στοίβας συμπερασμάτων παραγωγής για τα μοντέλα μας μετατροπής κειμένου σε ομιλία (TTS) και αναγνώρισης ομιλίας (ASR), από άκρο σε άκρο. Η ερευνητική μας ομάδα παρέχει εκπαιδευμένα μοντέλα ελέγχου. θα τις παραγάγετε ως υπηρεσίες ροής χαμηλής καθυστέρησης σε πραγματικό χρόνο που λειτουργούν οικονομικά σε GPU. Ο ρόλος καλύπτει τις μηχανές συμπερασμάτων, την υποδομή Kubernetes στην οποία λειτουργούν και τη συγκριτική αξιολόγηση απόδοσης και την επικύρωση ακρίβειας που μας επιτρέπουν να αποστέλλουμε τις αλλαγές με ασφάλεια. Θα γεφυρώσετε την έρευνα και την παραγωγή και θα κατέχετε την καθυστέρηση, την απόδοση, το κόστος και την ακρίβεια καθώς κλιμακώνουμε.
Τι θα κάνετε:
•
Δημιουργήστε και βελτιστοποιήστε μηχανές συμπερασμάτων ροής για μοντέλα TTS και ASR, συμπεριλαμβανομένων αγωγών μοντέλων πολλαπλών σταδίων.
•
Βελτιστοποιήστε τον λανθάνοντα χρόνο (χρόνος έως το πρώτο κομμάτι, p50/p99) και την απόδοση χρησιμοποιώντας συνεχή ομαδοποίηση, γραφήματα CUDA, torch.compile και μικτή ακρίβεια.
•
Διατηρήστε την αριθμητική ισοτιμία με την υλοποίηση αναφοράς μέσω αυτοματοποιημένων δοκιμών παλινδρόμησης ακρίβειας, ανά στάδιο και από άκρο σε άκρο.
•
Ανάπτυξη και λειτουργία υπηρεσιών συμπερασμάτων GPU στο Kubernetes: αυτόματη κλιμάκωση, κοντέινερ και υποδομή ως κώδικας.
•
Δημιουργήστε CI/CD για τεχνουργήματα μοντέλων, με έκδοση μοντέλων και αναπαραγώγιμες εκδόσεις.
•
Ιδιαίτερη παρατηρησιμότητα και συγκριτική αξιολόγηση απόδοσης: καθυστέρηση p50/p99, παράγοντας σε πραγματικό χρόνο (RTF), χρήση GPU και κόστος ανά αίτημα.
•
Συνεργαστείτε με την έρευνα για την παραγωγή νέων μοντέλων.
Τι θα φέρετε:
•
Πρακτική εμπειρία στην ανάπτυξη, την κλιμάκωση και τη βελτιστοποίηση μοντέλων ML στην παραγωγή, πέρα από την κατανάλωση API μοντέλων.
•
Γνώση εργασίας της πλήρους στοίβας συμπερασμάτων, από πυρήνες CUDA έως πλαίσια εξυπηρέτησης, με βάθος σε ορισμένα επίπεδα. δεν αναμένεται εμπειρογνωμοσύνη σε όλους.
•
Βελτιστοποίηση απόδοσης GPU: δημιουργία προφίλ (Nsight Systems, PyTorch Profiler), εύρος ζώνης μνήμης, συγχρονισμός CPU-GPU.
•
Στέρεη κατανόηση της υπηρεσίας μοντέλων: συνεχής παρτίδα, διαχείριση κρυφής μνήμης KV, προγραμματισμός αιτημάτων.
•
Εμπειρία παραγωγής με Kubernetes, CI/CD και υποδομές cloud.
•
Ισχυρά Python και PyTorch, και μια αυστηρή προσέγγιση για τη συγκριτική αξιολόγηση απόδοσης.
•
Εμπειρία με μοντέλα ομιλίας ή ήχου (TTS, ASR, μετατροπή φωνής).
•
Εμπειρία με πλαίσια συμπερασμάτων όπως vLLM (vLLM-Omni), SGLang, TensorRT-LLM, TensorRT ή Triton Inference Server.
Αποζημίωση:
Κατά τον καθορισμό της αποζημίωσης, θα ληφθούν υπόψη ορισμένοι παράγοντες, συμπεριλαμβανομένων των δεξιοτήτων, της εμπειρίας, του πεδίου εργασίας, της τοποθεσίας και των δεδομένων της αγοράς ανταγωνιστικών αποδοχών.
Οφέλη για ρόλους με έδρα τις ΗΠΑ:
•
Ανταγωνιστικός μισθός και γενναιόδωρα εταιρικά ίδια κεφάλαια
•
Ιατρικές, οδοντιατρικές και ασφάλειες όρασης – 99,99% των ασφαλίστρων που καλύπτονται από την Cantina
•
42 ημέρες άδειας μετ' αποδοχών, συμπεριλαμβανομένων:
•
15 ημέρες PTO
•
10 μέρες ασθενείας
•
15 εταιρικές διακοπές
•
2 πλωτές διακοπές
•
Γενναιόδωρη γονική άδεια και υποστήριξη γονιμότητας
•
401(k) συνταξιοδοτικό πρόγραμμα αποταμίευσης
•
Λογαριασμός δαπανών τρόπου ζωής – 500 $/μήνα για χρήση όπως θέλετε
•
Δωρεάν μεσημεριανό γεύμα και σνακ για τους υπαλλήλους στο γραφείο
•
Μία ιατρική συνδρομή και πολλά άλλα!
Πηγή: Jobicy (https://jobicy.com/jobs/160996-machine-learning-engineer-ops)
Η Cantina Labs είναι μια εταιρεία κοινωνικής τεχνητής νοημοσύνης, που αναπτύσσει μια σουίτα προηγμένων μοντέλων σε πραγματικό χρόνο που ξεπερνούν τα όρια έκφρασης, προσωπικότητας και ρεαλισμού. Δίνουμε ζωή σε χαρακτήρες, μεταμορφώνοντας τον τρόπο με τον οποίο οι άνθρωποι λένε ιστορίες, συνδέονται και δημιουργούν. Κατασκευάζουμε και τροφοδοτούμε οικοσυστήματα. Η Cantina, η ναυαρχίδα μας κοινωνική πλατφόρμα AI, είναι μόνο η αρχή.
Εάν είστε ενθουσιασμένοι με τις δυνατότητες που έχει η τεχνητή νοημοσύνη να διαμορφώσει την ανθρώπινη δημιουργικότητα και τις κοινωνικές αλληλεπιδράσεις, ελάτε μαζί μας στην οικοδόμηση του μέλλοντος!
Σχετικά με το ρόλο:
Αναζητούμε έναν Μηχανικό ML για τον ιδιοκτήτη της στοίβας συμπερασμάτων παραγωγής για τα μοντέλα μας μετατροπής κειμένου σε ομιλία (TTS) και αναγνώρισης ομιλίας (ASR), από άκρο σε άκρο. Η ερευνητική μας ομάδα παρέχει εκπαιδευμένα μοντέλα ελέγχου. θα τις παραγάγετε ως υπηρεσίες ροής χαμηλής καθυστέρησης σε πραγματικό χρόνο που λειτουργούν οικονομικά σε GPU. Ο ρόλος καλύπτει τις μηχανές συμπερασμάτων, την υποδομή Kubernetes στην οποία λειτουργούν και τη συγκριτική αξιολόγηση απόδοσης και την επικύρωση ακρίβειας που μας επιτρέπουν να αποστέλλουμε τις αλλαγές με ασφάλεια. Θα γεφυρώσετε την έρευνα και την παραγωγή και θα κατέχετε την καθυστέρηση, την απόδοση, το κόστος και την ακρίβεια καθώς κλιμακώνουμε.
Τι θα κάνετε:
•
Δημιουργήστε και βελτιστοποιήστε μηχανές συμπερασμάτων ροής για μοντέλα TTS και ASR, συμπεριλαμβανομένων αγωγών μοντέλων πολλαπλών σταδίων.
•
Βελτιστοποιήστε τον λανθάνοντα χρόνο (χρόνος έως το πρώτο κομμάτι, p50/p99) και την απόδοση χρησιμοποιώντας συνεχή ομαδοποίηση, γραφήματα CUDA, torch.compile και μικτή ακρίβεια.
•
Διατηρήστε την αριθμητική ισοτιμία με την υλοποίηση αναφοράς μέσω αυτοματοποιημένων δοκιμών παλινδρόμησης ακρίβειας, ανά στάδιο και από άκρο σε άκρο.
•
Ανάπτυξη και λειτουργία υπηρεσιών συμπερασμάτων GPU στο Kubernetes: αυτόματη κλιμάκωση, κοντέινερ και υποδομή ως κώδικας.
•
Δημιουργήστε CI/CD για τεχνουργήματα μοντέλων, με έκδοση μοντέλων και αναπαραγώγιμες εκδόσεις.
•
Ιδιαίτερη παρατηρησιμότητα και συγκριτική αξιολόγηση απόδοσης: καθυστέρηση p50/p99, παράγοντας σε πραγματικό χρόνο (RTF), χρήση GPU και κόστος ανά αίτημα.
•
Συνεργαστείτε με την έρευνα για την παραγωγή νέων μοντέλων.
Τι θα φέρετε:
•
Πρακτική εμπειρία στην ανάπτυξη, την κλιμάκωση και τη βελτιστοποίηση μοντέλων ML στην παραγωγή, πέρα από την κατανάλωση API μοντέλων.
•
Γνώση εργασίας της πλήρους στοίβας συμπερασμάτων, από πυρήνες CUDA έως πλαίσια εξυπηρέτησης, με βάθος σε ορισμένα επίπεδα. δεν αναμένεται εμπειρογνωμοσύνη σε όλους.
•
Βελτιστοποίηση απόδοσης GPU: δημιουργία προφίλ (Nsight Systems, PyTorch Profiler), εύρος ζώνης μνήμης, συγχρονισμός CPU-GPU.
•
Στέρεη κατανόηση της υπηρεσίας μοντέλων: συνεχής παρτίδα, διαχείριση κρυφής μνήμης KV, προγραμματισμός αιτημάτων.
•
Εμπειρία παραγωγής με Kubernetes, CI/CD και υποδομές cloud.
•
Ισχυρά Python και PyTorch, και μια αυστηρή προσέγγιση για τη συγκριτική αξιολόγηση απόδοσης.
•
Εμπειρία με μοντέλα ομιλίας ή ήχου (TTS, ASR, μετατροπή φωνής).
•
Εμπειρία με πλαίσια συμπερασμάτων όπως vLLM (vLLM-Omni), SGLang, TensorRT-LLM, TensorRT ή Triton Inference Server.
Αποζημίωση:
Κατά τον καθορισμό της αποζημίωσης, θα ληφθούν υπόψη ορισμένοι παράγοντες, συμπεριλαμβανομένων των δεξιοτήτων, της εμπειρίας, του πεδίου εργασίας, της τοποθεσίας και των δεδομένων της αγοράς ανταγωνιστικών αποδοχών.
Οφέλη για ρόλους με έδρα τις ΗΠΑ:
•
Ανταγωνιστικός μισθός και γενναιόδωρα εταιρικά ίδια κεφάλαια
•
Ιατρικές, οδοντιατρικές και ασφάλειες όρασης – 99,99% των ασφαλίστρων που καλύπτονται από την Cantina
•
42 ημέρες άδειας μετ' αποδοχών, συμπεριλαμβανομένων:
•
15 ημέρες PTO
•
10 μέρες ασθενείας
•
15 εταιρικές διακοπές
•
2 πλωτές διακοπές
•
Γενναιόδωρη γονική άδεια και υποστήριξη γονιμότητας
•
401(k) συνταξιοδοτικό πρόγραμμα αποταμίευσης
•
Λογαριασμός δαπανών τρόπου ζωής – 500 $/μήνα για χρήση όπως θέλετε
•
Δωρεάν μεσημεριανό γεύμα και σνακ για τους υπαλλήλους στο γραφείο
•
Μία ιατρική συνδρομή και πολλά άλλα!
Πηγή: Jobicy (https://jobicy.com/jobs/160996-machine-learning-engineer-ops)
Αυτή η αγγελία προέρχεται από ροή συνεργάτη. Εφαρμόστε την στη ιστοσελίδα προέλευσης.
Πηγή: Cantina Labs
Καταχώριση από Cantina Labs.