Ingeniero Senior de Inferencia

Como ingeniero senior de inferencia en vCluster Labs, usted es el primer ingeniero que contratamos para ser propietario de la inferencia. Se asociará directamente con nuestro CTO para construir la capa de inferencia de la plataforma desde cero, tomando modelos y convirtiéndolos en un canal de consulta a respuesta de nivel de producción que se ejecute a escala. A partir de ahí, ayudará a liderar la dirección de inferencia de ingeniería en vCluster, asociándose con Producto para dar forma a lo que construimos a continuación a medida que evoluciona el espacio.

Como ingeniero de inferencia senior, su función incluirá:

– Implementación de modelos en producción: tome LLM y póngalos en producción en una o más máquinas en la infraestructura de GPU, poseyendo todo el proceso desde la consulta de un cliente hasta la respuesta servida.

– Marcos de servicio: establezca y opere la infraestructura de servicio utilizando vLLM, SGLang o TensorRT-LLM.

– Optimización para escalar: aplique cuantificación, procesamiento por lotes, almacenamiento en caché y enrutamiento para mantener la latencia y los costos bajo control a medida que crece el tráfico.

– Programar, no solo configurar: construir una infraestructura real en Python o Golang; esta es una función de ingeniería, no de investigación o ciencia de datos.

– Ser dueño de la hoja de ruta: crear la primera iteración junto con nuestro CTO, luego tomar la iniciativa en la plataforma de inferencia y asociarnos con Producto para decidir qué construimos a continuación.

Este puesto podría ser adecuado para usted si trae:

– Experiencia de servicio de LLM de producción: ha implementado y brindado LLM utilizando vLLM, SGLang o TensorRT-LLM, idealmente en una empresa creada en torno a la inferencia a escala.

– Conocimientos sobre optimización de inferencias: experiencia práctica con cuantificación, procesamiento por lotes, almacenamiento en caché y enrutamiento, no solo familiaridad con los términos.

– Experiencia práctica en programación: sólidas habilidades de ingeniería en Python o Golang, con experiencia real en código de producción.

– Comunicación: fuertes habilidades de comunicación, explicando conceptos técnicos claramente tanto a ingenieros como a partes interesadas no técnicas.

Puntos de bonificación por:

– Familiaridad con entornos en contenedores (Docker, Kubernetes)

– Experiencia práctica de IA generativa con marcos de aprendizaje automático comunes (PyTorch, Transformers)

– Buen conocimiento de la pila de GPU: CUDA, NCCL, controladores y bibliotecas relacionadas

– Conocimiento de arquitecturas de modelos y enfoques de ajuste.

– Experiencia con NVIDIA Dynamo

ACERCA DE LABORATORIOS VCLUSTER

Somos la plataforma número uno para infraestructura de IA, en la que confían los creadores de nubes de IA de más rápido crecimiento en el mundo. Somos una startup respaldada por empresas que ha recaudado más de 28 millones de dólares de inversores de primer nivel, incluido Khosla Ventures (primer inversor en OpenAI, GitLab, Stripe y DoorDash), y estamos en una fase de hipercrecimiento en busca de personas motivadas para unirse a nuestro equipo. Nuestra sede está en San Francisco (Salesforce Tower), pero nuestro equipo está distribuido por todo el mundo con una cultura remota.

Brindamos a los proveedores de AI Cloud y a las fábricas de AI una experiencia similar a la de un hiperescalador en su propia infraestructura de GPU. Nuestra plataforma ejecuta toda la pila que un operador necesita, desde el aprovisionamiento básico y la gestión del ciclo de vida de los nodos hasta Kubernetes, Slurm, Ray y clústeres de inferencia administrados, para que puedan convertir GPU sin procesar en productos de clúster que puedan vender en días en lugar de pasar más de 12 meses construyéndolos ellos mismos. Hoy en día, alimentamos más de 100 000 GPU y 1 millón de CPU en más de 50 nubes de IA y empresas Fortune 500, respaldadas por un equipo de más de 40 ingenieros de infraestructura que construyen junto con nuestros clientes en lugar de simplemente enviarles software.

Somos la empresa detrás de vCluster, la tecnología de código abierto para el aislamiento de inquilinos en Kubernetes, con más de 11 000 estrellas de GitHub y más de 40 millones de clústeres de inquilinos creados desde 2021. El código abierto es parte de nuestro ADN. En KubeCon North America 2025, lanzamos nuestra plataforma de arrendamiento de infraestructura para IA, un marco nativo de Kubernetes creado para ejecutar cargas de trabajo intensivas de IA, ML y GPU en cualquier lugar, con una arquitectura de referencia validada por NVIDIA para sistemas DGX.

Beneficios

Ofrecemos los siguientes beneficios:

– Salario competitivo: Ofrecemos un paquete de compensación competitivo, que incluye equidad.

– Seguro de nivel Platino: seguro médico, dental, oftalmológico y de vida, incluidos planes para usted y sus dependientes elegibles (los beneficios varían según el país).

– Horario de trabajo flexible: ¿Tiene una cita con el médico o necesita ir al supermercado a hacer compras a las 2 p. m.? No tendremos ningún problema con eso. Para nosotros, los resultados importan más que registrar la entrada y la salida a la misma hora todos los días.

– Flexibilidad en el lugar de trabajo: somos muy flexibles en cuanto a dónde trabaja. Sabemos que las cosas pueden cambiar en la vida y estaremos encantados de adaptar el entorno de trabajo a lo largo del camino.

CULTURA Y VALORES

En vCluster Labs, valoramos y defendemos:

1. Haz que suceda: Tenemos una inclinación implacable por la acción y el coraje para superar los obstáculos. Hacemos lo que sea necesario para resolverlo, trabajar y priorizar implacablemente las acciones que generan un impacto mensurable para el negocio.

2. Ser dueño del resultado: entendemos que nuestra responsabilidad no termina cuando se marca una tarea; termina cuando se entrega el valor. Conectamos nuestras acciones individuales diarias con el éxito más amplio de la empresa y de nuestros clientes.

3. Create Wow: Medimos el éxito por la experiencia que generamos, tanto dentro como fuera de la empresa. Para nuestros clientes, esto significa una velocidad impresionante y experiencias intuitivas. Para nuestro equipo, esto significa hacer un esfuerzo adicional para apoyarnos unos a otros y llevarnos continuamente a nuevas alturas.

4. Código abierto, mente abierta: Contribuimos activamente y mantenemos proyectos de código abierto. Internamente, fomentamos la meritocracia: las ideas más fuertes ganan, sin importar de quién o de dónde vengan.

5. Construir intencionalmente los estándares del mañana: no solo enviamos software; definimos el estado del arte del mañana. No tenemos miedo de derribar viejos enfoques para construir algo mejor, pero somos disciplinados en cómo lo hacemos porque sabemos que nuestros usuarios confían en nuestra tecnología para ejecutar plataformas de infraestructura de misión crítica.

Fuente: Empleos remotos en la UE (https://euremotejobs.com/job/senior-inference-engineer/)