Inferencia de IA del ingeniero desplegado hacia adelante

El papel
Usted será dueño del aspecto técnico de nuestros acuerdos de inferencia más grandes y complejos, desde la primera llamada de descubrimiento hasta la puesta en marcha. Usted es la contraparte técnica confiable de los CTO y los líderes de ML de nuestros clientes, diseña las configuraciones que ejecutan sus modelos y trabaja mano a mano con nuestro equipo comercial para cerrar acuerdos.
Serás uno de los dos propietarios técnicos senior de nuestros acuerdos de inferencia. Junto con nuestro líder de Ingeniería de ventas por inferencia, también convertirá lo que aprendemos en el campo en un manual y un producto repetible.

lo que harás

• Poseer la parte técnica de nuestros acuerdos de inferencia más grandes y complejos de principio a fin, desde el descubrimiento hasta la puesta en marcha.

• Ser la contraparte técnica senior de los CTO y líderes de ML de los clientes en arquitectura, tamaño, SLA, compensaciones entre latencia/rendimiento y costos.

• Diseñar configuraciones de inferencia dedicadas: elección de modelo, tipo y recuento de GPU, paralelismo, cuantificación, motor de inferencia y configuración.

• Liderar puntos de referencia y pruebas de concepto, y convertir los resultados en recomendaciones claras.

• Analizar las personalizaciones del cliente con nuestro equipo de ingeniería y decidir qué se convierte en producto

• Cree el manual y las herramientas para hacer coincidir las cargas de trabajo con las GPU y alimente nuestra hoja de ruta con lo que aprenda en el campo.

• Trabajar en conjunto con nuestro equipo comercial en precios, propuestas y las partes técnicas de los contratos.

Lo que estamos buscando

• Un título en informática, ciencia de datos o un campo estrechamente relacionado.

• Más de 4 años en un puesto técnico de atención al cliente, p. ingeniero de soluciones o ventas, ingeniero implementado en el futuro, ingeniero de aprendizaje automático que trabaja en estrecha colaboración con los clientes o consultor técnico

• Experiencia práctica con inferencia LLM y servicio de modelos (por ejemplo, vLLM, SGLang, TensorRT-LLM, Triton) y dimensionamiento de GPU.

• Un historial de propiedad del aspecto técnico de acuerdos B2B complejos, idealmente con clientes empresariales.

• Eres creíble tanto con los CTO como con los ingenieros de los clientes y explicas claramente las compensaciones.

• Mentalidad emprendedora: te da un resultado y encuentras el camino sin quedar bloqueado

• Inglés fluido

Puntos de bonificación

• Experiencia en un proveedor de inferencia, nube de GPU o empresa de infraestructura de IA.

• Evaluación comparativa y optimización del rendimiento: rendimiento, latencia, costo por token

• Experiencia con cuantificación, estrategias de paralelismo, caché KV y procesamiento por lotes.

• Experiencia inicial

• Alemán

¿Por qué nosotros?

• Equipo excepcional: trabaje con algunos de los mejores ingenieros del mundo, provenientes de fondos de cobertura, grandes empresas tecnológicas, nuevas empresas de inteligencia artificial y las mejores universidades.

• Oportunidad única en la vida: empresa en etapa inicial en el mercado de más rápido crecimiento del mundo

• Propiedad: determinar cómo las empresas europeas de IA acceden a la computación GPU

• Misión europea: construir una infraestructura de IA soberana y compatible con el RGPD para la próxima generación de tecnología profunda

Encuentre empleo en Alemania en Arbeitnow

Fuente: Arbeitnow (https://www.arbeitnow.com/jobs/companies/lyceum/forward-deployed-engineer-ai-inference-berlin-47198)