Empleo
Del feed del socio
Ingeniero de aprendizaje automático, operaciones
Precio a consultar
Detalles
- Tipo de empleo
- Jornada completa
- Remoto
- Sí
- Empresa
- Cantina Labs
- Nivel
- Any
Descripción
Traducido automáticamente de English. El texto original es el oficial. Traducción automática — se está preparando una más precisa.
Acerca de Cantina:
Cantina Labs es una empresa de inteligencia artificial social que desarrolla un conjunto de modelos avanzados en tiempo real que traspasan los límites de la expresión, la personalidad y el realismo. Damos vida a los personajes, transformando la forma en que las personas cuentan historias, se conectan y crean. Construimos y potenciamos ecosistemas. Cantina, nuestra plataforma insignia de IA social, es solo el comienzo.
Si está entusiasmado con el potencial que tiene la IA para dar forma a la creatividad humana y las interacciones sociales, ¡únase a nosotros para construir el futuro!
Acerca del rol:
Buscamos un ingeniero de aprendizaje automático para que sea propietario de la pila de inferencia de producción para nuestros modelos de texto a voz (TTS) y reconocimiento de voz (ASR), de principio a fin. Nuestro equipo de investigación ofrece puntos de control modelo capacitados; los producirá como servicios de transmisión en tiempo real y de baja latencia que se ejecutan de manera rentable en GPU. La función cubre los motores de inferencia, la infraestructura de Kubernetes en la que se ejecutan y la evaluación comparativa del rendimiento y la validación de la precisión que nos permiten enviar cambios de forma segura. Unirá la investigación y la producción, y será dueño de la latencia, el rendimiento, el costo y la precisión a medida que escalamos.
Lo que harás:
•
Cree y optimice motores de inferencia de transmisión para modelos TTS y ASR, incluidos canales de modelos de múltiples etapas.
•
Optimice la latencia (tiempo hasta el primer fragmento, p50/p99) y el rendimiento mediante procesamiento por lotes continuo, gráficos CUDA, torch.compile y precisión mixta.
•
Mantenga la paridad numérica con la implementación de referencia a través de pruebas de regresión de precisión automatizadas, por etapa y de extremo a extremo.
•
Implemente y opere servicios de inferencia de GPU en Kubernetes: escalado automático, contenedorización e infraestructura como código.
•
Cree CI/CD para artefactos modelo, con control de versiones del modelo y lanzamientos reproducibles.
•
Comparaciones propias de observabilidad y rendimiento: latencia p50/p99, factor de tiempo real (RTF), utilización de GPU y costo por solicitud.
•
Asociarse con la investigación para producir nuevos modelos.
Lo que traerás:
•
Experiencia práctica en la implementación, escalado y optimización de modelos de aprendizaje automático en producción, más allá del consumo de API de modelos.
•
Conocimiento práctico de la pila de inferencia completa, desde los núcleos CUDA hasta los marcos de servicio, con profundidad en algunas capas; No se espera experiencia en todos ellos.
•
Optimización del rendimiento de GPU: creación de perfiles (Nsight Systems, PyTorch Profiler), ancho de banda de memoria, sincronización CPU-GPU.
•
Comprensión sólida del servicio de modelos: procesamiento por lotes continuo, gestión de caché KV, programación de solicitudes.
•
Experiencia en producción con Kubernetes, CI/CD e infraestructura en la nube.
•
Fuertes Python y PyTorch, y un enfoque riguroso para la evaluación comparativa del rendimiento.
•
Experiencia con modelos de voz o audio (TTS, ASR, conversión de voz).
•
Experiencia con frameworks de inferencia como vLLM (vLLM-Omni), SGLang, TensorRT-LLM, TensorRT o Triton Inference Server.
Compensación:
Al determinar la compensación, se considerarán una serie de factores, incluidas las habilidades, la experiencia, el alcance del trabajo, la ubicación y los datos competitivos del mercado de compensación.
Beneficios para roles basados en EE. UU.:
•
Salario competitivo y generoso capital social de la empresa.
•
Seguro médico, dental y oftalmológico: 99,99 % de las primas cubiertas por Cantina
•
42 días de tiempo libre remunerado, que incluyen:
•
15 días de permiso de trabajo
•
10 días de enfermedad
•
15 vacaciones de empresa
•
2 vacaciones flotantes
•
Amplio permiso parental y apoyo a la fertilidad
•
Plan de ahorro para la jubilación 401(k)
•
Cuenta de gastos de estilo de vida: $500/mes para usar como quieras
•
Almuerzo y refrigerios de cortesía para los empleados de la oficina
•
¡Una membresía médica y más!
Fuente: Jobicy (https://jobicy.com/jobs/160996-machine-learning-engineer-ops)
Cantina Labs es una empresa de inteligencia artificial social que desarrolla un conjunto de modelos avanzados en tiempo real que traspasan los límites de la expresión, la personalidad y el realismo. Damos vida a los personajes, transformando la forma en que las personas cuentan historias, se conectan y crean. Construimos y potenciamos ecosistemas. Cantina, nuestra plataforma insignia de IA social, es solo el comienzo.
Si está entusiasmado con el potencial que tiene la IA para dar forma a la creatividad humana y las interacciones sociales, ¡únase a nosotros para construir el futuro!
Acerca del rol:
Buscamos un ingeniero de aprendizaje automático para que sea propietario de la pila de inferencia de producción para nuestros modelos de texto a voz (TTS) y reconocimiento de voz (ASR), de principio a fin. Nuestro equipo de investigación ofrece puntos de control modelo capacitados; los producirá como servicios de transmisión en tiempo real y de baja latencia que se ejecutan de manera rentable en GPU. La función cubre los motores de inferencia, la infraestructura de Kubernetes en la que se ejecutan y la evaluación comparativa del rendimiento y la validación de la precisión que nos permiten enviar cambios de forma segura. Unirá la investigación y la producción, y será dueño de la latencia, el rendimiento, el costo y la precisión a medida que escalamos.
Lo que harás:
•
Cree y optimice motores de inferencia de transmisión para modelos TTS y ASR, incluidos canales de modelos de múltiples etapas.
•
Optimice la latencia (tiempo hasta el primer fragmento, p50/p99) y el rendimiento mediante procesamiento por lotes continuo, gráficos CUDA, torch.compile y precisión mixta.
•
Mantenga la paridad numérica con la implementación de referencia a través de pruebas de regresión de precisión automatizadas, por etapa y de extremo a extremo.
•
Implemente y opere servicios de inferencia de GPU en Kubernetes: escalado automático, contenedorización e infraestructura como código.
•
Cree CI/CD para artefactos modelo, con control de versiones del modelo y lanzamientos reproducibles.
•
Comparaciones propias de observabilidad y rendimiento: latencia p50/p99, factor de tiempo real (RTF), utilización de GPU y costo por solicitud.
•
Asociarse con la investigación para producir nuevos modelos.
Lo que traerás:
•
Experiencia práctica en la implementación, escalado y optimización de modelos de aprendizaje automático en producción, más allá del consumo de API de modelos.
•
Conocimiento práctico de la pila de inferencia completa, desde los núcleos CUDA hasta los marcos de servicio, con profundidad en algunas capas; No se espera experiencia en todos ellos.
•
Optimización del rendimiento de GPU: creación de perfiles (Nsight Systems, PyTorch Profiler), ancho de banda de memoria, sincronización CPU-GPU.
•
Comprensión sólida del servicio de modelos: procesamiento por lotes continuo, gestión de caché KV, programación de solicitudes.
•
Experiencia en producción con Kubernetes, CI/CD e infraestructura en la nube.
•
Fuertes Python y PyTorch, y un enfoque riguroso para la evaluación comparativa del rendimiento.
•
Experiencia con modelos de voz o audio (TTS, ASR, conversión de voz).
•
Experiencia con frameworks de inferencia como vLLM (vLLM-Omni), SGLang, TensorRT-LLM, TensorRT o Triton Inference Server.
Compensación:
Al determinar la compensación, se considerarán una serie de factores, incluidas las habilidades, la experiencia, el alcance del trabajo, la ubicación y los datos competitivos del mercado de compensación.
Beneficios para roles basados en EE. UU.:
•
Salario competitivo y generoso capital social de la empresa.
•
Seguro médico, dental y oftalmológico: 99,99 % de las primas cubiertas por Cantina
•
42 días de tiempo libre remunerado, que incluyen:
•
15 días de permiso de trabajo
•
10 días de enfermedad
•
15 vacaciones de empresa
•
2 vacaciones flotantes
•
Amplio permiso parental y apoyo a la fertilidad
•
Plan de ahorro para la jubilación 401(k)
•
Cuenta de gastos de estilo de vida: $500/mes para usar como quieras
•
Almuerzo y refrigerios de cortesía para los empleados de la oficina
•
¡Una membresía médica y más!
Fuente: Jobicy (https://jobicy.com/jobs/160996-machine-learning-engineer-ops)
Este anuncio proviene de un feed de socios. Solicítalo en el sitio web de origen.
Fuente: Cantina Labs
Publicación proporcionada por Cantina Labs.