Emploi
De la source partenaire
Ingénieur en apprentissage automatique, opérations
Prix sur demande
Détails
- Type de contrat
- Temps plein
- À distance
- Oui
- Entreprise
- Cantina Labs
- Niveau
- Any
Description
Traduit automatiquement depuis English. Le texte original fait foi. Traduction automatique — une traduction plus précise est en préparation.
À propos de Cantina :
Cantina Labs est une société d'IA sociale qui développe une suite de modèles avancés en temps réel qui repoussent les limites de l'expression, de la personnalité et du réalisme. Nous donnons vie aux personnages, transformant la façon dont les gens racontent des histoires, se connectent et créent. Nous construisons et alimentons des écosystèmes. Cantina, notre plateforme phare d'IA sociale, n'est que le début.
Si vous êtes enthousiasmé par le potentiel de l’IA pour façonner la créativité humaine et les interactions sociales, rejoignez-nous pour construire l’avenir !
À propos du rôle :
Nous recherchons un ingénieur ML pour posséder la pile d'inférence de production pour nos modèles de synthèse vocale (TTS) et de reconnaissance vocale (ASR), de bout en bout. Notre équipe de recherche fournit des points de contrôle de modèles formés ; vous les produirez en tant que services de streaming en temps réel à faible latence qui fonctionnent de manière rentable sur les GPU. Le rôle couvre les moteurs d'inférence, l'infrastructure Kubernetes sur lesquels ils s'exécutent, ainsi que l'analyse comparative des performances et la validation de la précision qui nous permettent d'expédier les modifications en toute sécurité. Vous relierez la recherche et la production, et serez responsable de la latence, du débit, des coûts et de la précision à mesure que nous évoluons.
Ce que vous ferez :
•
Créez et optimisez des moteurs d'inférence de streaming pour les modèles TTS et ASR, y compris des pipelines de modèles à plusieurs étapes.
•
Optimisez la latence (délai d'obtention du premier morceau, p50/p99) et le débit à l'aide du traitement par lots continu, des graphiques CUDA, de torch.compile et de la précision mixte.
•
Maintenez la parité numérique avec l’implémentation de référence grâce à des tests de régression de précision automatisés, par étape et de bout en bout.
•
Déployez et exploitez des services d'inférence GPU sur Kubernetes : autoscaling, conteneurisation et infrastructure as code.
•
Créez du CI/CD pour les artefacts de modèle, avec une gestion des versions du modèle et des versions reproductibles.
•
Propre observabilité et analyse comparative des performances : latence p50/p99, facteur temps réel (RTF), utilisation du GPU et coût par requête.
•
Collaborer avec la recherche pour produire de nouveaux modèles.
Ce que vous apporterez :
•
Expérience pratique du déploiement, de la mise à l'échelle et de l'optimisation de modèles ML en production, au-delà de la consommation d'API de modèles.
•
Connaissance pratique de la pile d'inférence complète, des noyaux CUDA aux frameworks de service, avec une profondeur dans certaines couches ; l’expertise dans chacun d’eux n’est pas attendue.
•
Optimisation des performances GPU : profilage (Nsight Systems, PyTorch Profiler), bande passante mémoire, synchronisation CPU-GPU.
•
Solide compréhension du service de modèles : traitement par lots continu, gestion du cache KV, planification des demandes.
•
Expérience de production avec Kubernetes, CI/CD et infrastructure cloud.
•
Python et PyTorch forts, et une approche rigoureuse de l'analyse comparative des performances.
•
Expérience avec les modèles vocaux ou audio (TTS, ASR, conversion vocale).
•
Expérience avec les frameworks d'inférence tels que vLLM (vLLM-Omni), SGLang, TensorRT-LLM, TensorRT ou Triton Inference Server.
Rémunération :
Lors de la détermination de la rémunération, un certain nombre de facteurs seront pris en compte, notamment les compétences, l'expérience, l'étendue du poste, l'emplacement et les données concurrentielles du marché de la rémunération.
Avantages pour les postes basés aux États-Unis :
•
Salaire compétitif et capitaux propres généreux de l'entreprise
•
Assurance médicale, dentaire et visuelle – 99,99 % des primes couvertes par Cantina
•
42 jours de congés payés, dont :
•
15 jours de prise de force
•
10 jours de maladie
•
15 jours fériés
•
2 vacances flottantes
•
Congé parental généreux et aide à la fertilité
•
Régime d'épargne-retraite 401(k)
•
Compte de dépenses de style de vie – 500 $/mois à utiliser comme vous le souhaitez
•
Déjeuner et collations gratuits pour les employés du bureau
•
Un abonnement médical, et plus encore !
Source : Jobicy (https://jobicy.com/jobs/160996-machine-learning-engineer-ops)
Cantina Labs est une société d'IA sociale qui développe une suite de modèles avancés en temps réel qui repoussent les limites de l'expression, de la personnalité et du réalisme. Nous donnons vie aux personnages, transformant la façon dont les gens racontent des histoires, se connectent et créent. Nous construisons et alimentons des écosystèmes. Cantina, notre plateforme phare d'IA sociale, n'est que le début.
Si vous êtes enthousiasmé par le potentiel de l’IA pour façonner la créativité humaine et les interactions sociales, rejoignez-nous pour construire l’avenir !
À propos du rôle :
Nous recherchons un ingénieur ML pour posséder la pile d'inférence de production pour nos modèles de synthèse vocale (TTS) et de reconnaissance vocale (ASR), de bout en bout. Notre équipe de recherche fournit des points de contrôle de modèles formés ; vous les produirez en tant que services de streaming en temps réel à faible latence qui fonctionnent de manière rentable sur les GPU. Le rôle couvre les moteurs d'inférence, l'infrastructure Kubernetes sur lesquels ils s'exécutent, ainsi que l'analyse comparative des performances et la validation de la précision qui nous permettent d'expédier les modifications en toute sécurité. Vous relierez la recherche et la production, et serez responsable de la latence, du débit, des coûts et de la précision à mesure que nous évoluons.
Ce que vous ferez :
•
Créez et optimisez des moteurs d'inférence de streaming pour les modèles TTS et ASR, y compris des pipelines de modèles à plusieurs étapes.
•
Optimisez la latence (délai d'obtention du premier morceau, p50/p99) et le débit à l'aide du traitement par lots continu, des graphiques CUDA, de torch.compile et de la précision mixte.
•
Maintenez la parité numérique avec l’implémentation de référence grâce à des tests de régression de précision automatisés, par étape et de bout en bout.
•
Déployez et exploitez des services d'inférence GPU sur Kubernetes : autoscaling, conteneurisation et infrastructure as code.
•
Créez du CI/CD pour les artefacts de modèle, avec une gestion des versions du modèle et des versions reproductibles.
•
Propre observabilité et analyse comparative des performances : latence p50/p99, facteur temps réel (RTF), utilisation du GPU et coût par requête.
•
Collaborer avec la recherche pour produire de nouveaux modèles.
Ce que vous apporterez :
•
Expérience pratique du déploiement, de la mise à l'échelle et de l'optimisation de modèles ML en production, au-delà de la consommation d'API de modèles.
•
Connaissance pratique de la pile d'inférence complète, des noyaux CUDA aux frameworks de service, avec une profondeur dans certaines couches ; l’expertise dans chacun d’eux n’est pas attendue.
•
Optimisation des performances GPU : profilage (Nsight Systems, PyTorch Profiler), bande passante mémoire, synchronisation CPU-GPU.
•
Solide compréhension du service de modèles : traitement par lots continu, gestion du cache KV, planification des demandes.
•
Expérience de production avec Kubernetes, CI/CD et infrastructure cloud.
•
Python et PyTorch forts, et une approche rigoureuse de l'analyse comparative des performances.
•
Expérience avec les modèles vocaux ou audio (TTS, ASR, conversion vocale).
•
Expérience avec les frameworks d'inférence tels que vLLM (vLLM-Omni), SGLang, TensorRT-LLM, TensorRT ou Triton Inference Server.
Rémunération :
Lors de la détermination de la rémunération, un certain nombre de facteurs seront pris en compte, notamment les compétences, l'expérience, l'étendue du poste, l'emplacement et les données concurrentielles du marché de la rémunération.
Avantages pour les postes basés aux États-Unis :
•
Salaire compétitif et capitaux propres généreux de l'entreprise
•
Assurance médicale, dentaire et visuelle – 99,99 % des primes couvertes par Cantina
•
42 jours de congés payés, dont :
•
15 jours de prise de force
•
10 jours de maladie
•
15 jours fériés
•
2 vacances flottantes
•
Congé parental généreux et aide à la fertilité
•
Régime d'épargne-retraite 401(k)
•
Compte de dépenses de style de vie – 500 $/mois à utiliser comme vous le souhaitez
•
Déjeuner et collations gratuits pour les employés du bureau
•
Un abonnement médical, et plus encore !
Source : Jobicy (https://jobicy.com/jobs/160996-machine-learning-engineer-ops)
Cette annonce provient d'un flux partenaire. Postulez sur le site source.
Source: Cantina Labs
Annonce fournie par Cantina Labs.