Ingeniero de Investigación, Latencia y Rendimiento

Acerca de Mistral
Mistral ofrece soluciones de inteligencia artificial completas: desde modelos de vanguardia hasta herramientas, aplicaciones y computación para desarrolladores. Nos asociamos con empresas que abordan los problemas más difíciles en industrias de alto riesgo como las finanzas, la manufactura, la defensa, la atención médica y el sector público, y cocreamos sistemas de inteligencia artificial personalizados que pueden ejecutar según sus condiciones.
Somos un equipo dinámico y colaborativo apasionado por la IA y su potencial para transformar la sociedad. Nuestra fuerza laboral diversa prospera en entornos competitivos y está comprometida a impulsar la innovación. Nuestros equipos están distribuidos entre Europa, Norteamérica, Asia y Medio Oriente. Somos creativos, bajos en ego y con espíritu de equipo.

El papel
Como ingeniero de investigación en el equipo de Latencia y Rendimiento, ampliará la frontera de la inferencia LLM investigando y creando prototipos de técnicas que reduzcan la latencia y aumenten el rendimiento, desde la decodificación especulativa y la cuantificación hasta la compresión KV y nuevas variantes de atención. El equipo se encuentra en la intersección de la investigación y la producción: usted tomará ideas de la literatura reciente, formulará hipótesis, realizará experimentos y enviará las técnicas que resulten probadas a nuestra pila de servicios.
Esta función se encuentra entre nuestros ingenieros de inferencia, propietarios de la pila de servicios de producción, y nuestros científicos investigadores, que se centran en las contribuciones a nivel de papel. Estará más centrado en la ciencia que un ingeniero puro: se espera que genere nuevas ideas, se mantenga al día con los últimos avances e implemente pruebas de conceptos que cierren la brecha entre los resultados académicos y el impacto de la producción. Algunas técnicas que explore generarán pérdidas o requerirán integración en el entrenamiento: reentrenamiento de modelos, ajuste de arquitecturas o entrenamiento de modelos auxiliares para mejorar la inferencia.
Trabajará en estrecha colaboración con los equipos de Inference Foundation y Kernels, quienes convierten sus técnicas validadas en recetas de producción, y con equipos de preentrenamiento y RL cuando su trabajo toque el entrenamiento de modelos. El éxito se mide por la latencia demostrada o las ganancias de rendimiento, primero a pequeña escala y luego adoptadas en producción.

lo que harás

• Técnicas de investigación y de inferencia de prototipos (decodificación especulativa, cuantificación, compresión KV, marcas de agua y nuevas arquitecturas de modelos) mediante la lectura de literatura reciente y la formulación de hipótesis comprobables.

• Diseñar y ejecutar experimentos para validar o refutar ideas, iterando rápidamente en configuraciones de pequeña escala antes de proponer la integración de la producción. Demuestre claras ganancias de latencia o rendimiento sin pérdida de calidad inaceptable.

• Colaborar con el equipo de Inference Foundation para integrar técnicas validadas en la pila de servicio basada en vLLM.

• Asociarse con equipos de preentrenamiento y RL cuando las técnicas requieran coentrenamiento, reentrenamiento o entrenamiento de modelos auxiliares para mejorar la inferencia.

Cree las herramientas y plataformas de validación adecuadas para facilitar la investigación de inferencia impulsada por IA.

Lo que estamos buscando

• Una sólida experiencia en ML con un sólido conocimiento de las técnicas de capacitación de LLM: arquitectura, tokenización, ajuste y evaluación.

• Experiencia práctica con Python y PyTorch; escribe código limpio y experimental y lo itera rápidamente. JAX es aceptable con un gran dominio de Python. No se requieren C++ ni Rust, se esperan conocimientos de CUDA y GPU, pero no se requiere experiencia práctica.

• Experiencia en investigación de algún tipo: una tesis, publicaciones, un proyecto de investigación dedicado o trabajo orientado a la eficiencia en un laboratorio o entorno de investigación industrial. No se requiere un doctorado, pero buscamos una verdadera profundidad de investigación.

• Un historial de realización de experimentos: formulación de hipótesis, diseño de comparaciones controladas y extracción de conclusiones claras de los resultados.

• Familiaridad con los últimos avances en inferencia LLM: sabe qué se ha probado, qué funciona y dónde están los problemas abiertos.

• Emprendedor, de bajo ego y colaborativo. Se siente cómodo con la ambigüedad, los resultados negativos y está ansioso por tomar el asunto en sus propias manos.

• La inferencia o la experiencia en el servicio son una ventaja, no un requisito. El trabajo previo con vLLM, implementaciones de LLM de producción o sistemas de servicio lo ayudarán a avanzar más rápido.

Ubicación y control remoto
Este puesto tiene su sede en nuestras oficinas de París o Londres (híbridas). Daremos prioridad a los candidatos que residan en el área de París o que estén abiertos a reubicarse. Creemos firmemente en el valor de la colaboración en persona para fomentar relaciones sólidas y una comunicación fluida dentro de nuestro equipo. Para perfiles senior, también consideraremos candidatos remotos basados ​​en Francia. En ese caso, pedimos a todos los nuevos empleados que visiten nuestra oficina de París:

• Durante la primera semana de su incorporación (alojamiento y viaje cubiertos)

• Luego al menos 3 días al mes

Lo que ofrecemos
Ofrecemos un paquete integral de beneficios diseñado para respaldar su bienestar, crecimiento y equilibrio entre el trabajo y la vida personal. Los beneficios varían según el país y pueden incluir cobertura de atención médica, licencia parental, planes de jubilación, apoyo para la reubicación, programas de bienestar, subsidios para comidas y transporte y otros beneficios específicos de la ubicación.
Para obtener los detalles más actualizados sobre los beneficios disponibles en su ubicación, consulte nuestra página de Beneficios.

Política de privacidad
Su privacidad nos importa. Puede obtener más información sobre cómo manejamos sus datos personales en nuestra Política de privacidad del solicitante.
Encuentre empleo en Francia en Arbeitnow

Fuente: Arbeitnow (https://www.arbeitnow.fr/jobs/companies/mistralai/research-engineer-latency-throughput-paris-319073)