Forward Deployed Inference Engineer

Σχετικά με τον Tensordyne

Η Tensordyne κατασκευάζει μια νέα κατηγορία συστήματος συμπερασμάτων τεχνητής νοημοσύνης σχεδιασμένο για ανάπτυξη υψηλής απόδοσης, αποδοτικής ισχύος των πιο απαιτητικών φόρτων εργασίας τεχνητής νοημοσύνης στον κόσμο.

Η πλατφόρμα μας συνδυάζει ειδικά κατασκευασμένο πυρίτιο, νέα μαθηματικά τεχνητής νοημοσύνης, βελτιστοποιημένη δικτύωση κλιμάκωσης και αρχιτεκτονική μνήμης σε έναν αυστηρά ενσωματωμένο σκοπό συστήματος που έχει σχεδιαστεί για συμπεράσματα τεχνητής νοημοσύνης μεγάλης κλίμακας. Συνεργαζόμαστε με hyperscalers, Neoclouds, προγραμματιστές μοντέλων συνόρων, επιχειρήσεις και συνεργάτες υποδομής που λειτουργούν στην αιχμή της τεχνητής νοημοσύνης.

Καθώς η Tensordyne προχωρά από την ανάπτυξη συστήματος στην εμφάνιση πυριτίου, την επικύρωση πελατών, την ανάπτυξη beta και την ανάπτυξη παραγωγής, χτίζουμε την τεχνική οργάνωση πελατών που θα βρίσκεται απευθείας μεταξύ των ομάδων μηχανικών μας και των εταιρειών που αναπτύσσουν την πλατφόρμα.

Περίληψη ρόλου

Αναζητούμε έναν Forward Deployed Inference Engineer που συνδυάζει βαθιά τεχνογνωσία συστημάτων AI με ισχυρά ένστικτα πελατών. Αυτό το άτομο θα κατέχει τη διαδρομή από ένα φόρτο εργασίας πελάτη ή αίτημα μοντέλου σε ένα τεχνικό αποτέλεσμα και, όπου χρειάζεται, σε ένα βελτιστοποιημένο μοντέλο που εκτελείται με επιτυχία σε υλικό και λογισμικό Tensordyne.

Ο ρόλος βρίσκεται στη διασταύρωση της αρχιτεκτονικής μοντέλων, της απόδοσης συμπερασμάτων, της βελτιστοποίησης συστημάτων, των εργαλείων προγραμματιστή και της ανάπτυξης πελατών. Θα εργαστείτε πρακτικά με τη μηχανική, ενώ θα ενεργείτε και ως τεχνική γέφυρα προς το προϊόν, το BizDev, τις πωλήσεις και τους πελάτες.

Τι θα κάνεις

• Μετατρέψτε τον φόρτο εργασίας των πελατών σε γρήγορες, αξιόπιστες απαντήσεις απόδοσης μέσω δημιουργίας προφίλ και συγκριτικής αξιολόγησης. Καθορίστε τους σχετικούς KPI, συγκρίνετε με ανταγωνιστικές βασικές γραμμές και διατηρήστε τη μεθοδολογία αξιολόγησής μας ενημερωμένη με εξωτερικά σημεία αναφοράς.

• Ενεργοποίηση και βελτιστοποίηση μοντέλων: μετατρέψτε και εμφανίστε μοντέλα πελατών στη στοίβα Tensordyne, επικυρώστε την αριθμητική ποιότητα, εντοπίστε σημεία συμφόρησης απόδοσης και εργαστείτε με ομάδες μεταγλωττιστή, χρόνου εκτέλεσης, πυρήνα και συστήματος για τη βελτίωση των αποτελεσμάτων.

• Deployment/forward engineering: εργαστείτε απευθείας με πελάτες και συνεργάτες σε τεχνικά PoC, ενοποίηση, ανάπτυξη και εντοπισμό σφαλμάτων. μεταφράζουν τις απαιτήσεις σε μετρήσιμα κριτήρια αποδοχής για την ποιότητα, την καθυστέρηση, την απόδοση και άλλους σχετικούς KPI.

• Παρακολούθηση της ακρίβειας προφίλ προς υλικό συγκρίνοντας συνεχώς τα αποτελέσματα δημιουργίας προφίλ/προσομοίωσης με πραγματικές αναπτύξεις υλικού, εξηγήστε τα κενά υλικού και τις δυνατότητες που λείπουν στον μεταγλωττιστή, το SDK, τον διακομιστή συμπερασμάτων, τη διαχείριση κρυφής μνήμης KV ή γειτονικά συστήματα με τις ιδιοκτήτριες ομάδες.

• Μετατρέψτε τις επαναλαμβανόμενες γνώσεις για συγκεκριμένους πελάτες σε επαναχρησιμοποιήσιμα εργαλεία, τεκμηρίωση, σημεία αναφοράς ή βελτιώσεις προϊόντων.

Βασικά προσόντα

• Ισχυρή πρακτική εμπειρία με μοντέλα τεχνητής νοημοσύνης και συστήματα εξαγωγής συμπερασμάτων , ιδιαίτερα πυκνά και MoE LLM (Llama, DeepSeek, Qwen, GPT-OSS, Kimi, GLM) και VLM, μοντέλα ομιλίας και διάχυσης.

• Ισχυρές δεξιότητες Python και PyTorch και ικανότητα κατανόησης και τροποποίησης του κώδικα μοντέλου.

• Απολαύστε τη δημιουργία προφίλ, τη συγκριτική αξιολόγηση ή τη βελτιστοποίηση των συμπερασμάτων και του συλλογισμού του μοντέλου σχετικά με την καθυστέρηση, την απόδοση, τη μνήμη και τη χρήση.

• Ισχυρές δεξιότητες επίλυσης προβλημάτων και επικοινωνίας, με ικανότητα να οδηγείτε διφορούμενα τεχνικά προβλήματα πέρα ​​από τα όρια της ομάδας.

• Ικανότητα στη χρήση εργαλείων προγραμματιστών που υποστηρίζονται από AI (π.χ. Claude Code, Cursor).

Δυνατά συν

• Εμπειρία με στοίβες εξυπηρέτησης και ανάπτυξης LLM όπως vLLM, SGLang ή παρόμοια συστήματα.

• Εμπειρία απευθείας συνεργασίας με πελάτες ή εξωτερικούς τεχνικούς συνεργάτες.

• Απολαύστε την παρουσίαση μοντέλων σε νέους επιταχυντές ή μη τυπικό υλικό, συμπεριλαμβανομένου του εντοπισμού σφαλμάτων απόδοσης σε όρια πλαισίου/χρόνου εκτέλεσης/υλισμικού.

• Πρακτική εμπειρία με τεχνικές ή περιβάλλοντα εξαγωγής συμπερασμάτων παραγωγής όπως η κβαντοποίηση, η κατανεμημένη συμπέρασμα ή το Kubernetes.

• Απολαύστε την πλοήγηση και τη συμβολή στις βάσεις κωδικών Rust.

Η κουλτούρα του Tensordyne χτίστηκε στις ακόλουθες αξίες

• Βάλτε τους ανθρώπους πρώτα. Πετυχαίνουμε μόνο όταν πετυχαίνουν οι άνθρωποί μας.

• Ηθική και ακεραιότητα πάντα. Να είσαι ανοιχτός, ειλικρινής και να σέβεσαι όλους.

• Think Big. Να είστε φιλόδοξοι και να έχετε τολμηρούς στόχους.

• Στοχεύστε στην αριστεία. Η ποιότητα και η αριστεία μετράνε σε ό,τι κάνουμε.

• Κατέχετε το και ολοκληρώστε το. Σημασία έχουν τα αποτελέσματα!

• Κάντε κάθε άτομο καλύτερο μαζί, απ' ό,τι θα ήταν ως άτομο.

• Αγκαλιάστε ο ένας τις διαφορές του άλλου και αποδεχτείτε ότι θα υπάρχουν διαφορές.

Η Tensordyne είναι εργοδότης ίσων ευκαιριών. Πιστεύουμε ότι διαφορετικές ομάδες είναι καλύτερα εξοπλισμένες για την επίλυση σύνθετων προβλημάτων και την κατασκευή εξαιρετικής τεχνολογίας. Όλοι οι υποψήφιοι που πληρούν τις προϋποθέσεις θα λάβουν υπόψη τους την απασχόληση ανεξαρτήτως ηλικίας, χρώματος, ταυτότητας φύλου ή έκφρασης, οικογενειακής κατάστασης, εθνικής καταγωγής, αναπηρίας, προστατευόμενης ιδιότητας βετεράνου, φυλής, θρησκείας, εγκυμοσύνης, σεξουαλικού προσανατολισμού ή οποιουδήποτε άλλου χαρακτηριστικού που προστατεύεται από τους ισχύοντες νόμους, κανονισμούς και διατάγματα.

Σημείωση προς τα γραφεία πρόσληψης: Μην επικοινωνείτε με υπαλλήλους ή ηγέτες της Tensordyne σχετικά με αυτόν τον ρόλο. Δεν δεχόμαστε μη ζητηθέντα βιογραφικά πρακτορείου και δεν φέρουμε ευθύνη για χρεώσεις που σχετίζονται με ανεπιθύμητες υποβολές.
Βρείτε περισσότερες αγγλόφωνες θέσεις εργασίας στη Γερμανία στο Arbeitnow

Πηγή: Arbeitnow (https://www.arbeitnow.com/jobs/companies/tensordyne/forward-deployed-inference-engineer-munich-202489)