Empleo
Del feed del socio
Ingeniero de GPU
Precio a consultar
Detalles
- Tipo de empleo
- Jornada completa
- Remoto
- No
- Empresa
- Kog
Descripción
Traducido automáticamente de English. El texto original es el oficial. Traducción automática — se está preparando una más precisa.
Acerca de Kog
En Kog, estamos creando inferencias LLM en tiempo real para agentes de IA.
Los agentes codificadores ejecutan secuencias de tareas donde cada paso depende de la respuesta previa del modelo. Cuanto más rápido genere tokens el modelo, más rápido podrán razonar, codificar y actuar estos agentes.
Nuestro enfoque consiste en codiseñar la arquitectura del modelo, el motor de inferencia y los núcleos de GPU de bajo nivel para minimizar la latencia de generación en las GPU de centros de datos estándar de NVIDIA y AMD.
Hemos desarrollado varias tecnologías para hacer esto posible:
• Monokernel: un programa de GPU persistente que mantiene todo el ciclo de generación de tokens en la GPU, evitando transferencias de CPU.
• KCCL: nuestra capa de comunicación entre GPU personalizada, diseñada para minimizar la latencia.
• Paralelismo tensorial retardado (DTP): una arquitectura de modelo que superpone la comunicación con el cálculo y la carga de peso.
• Laneformer 2B: nuestro modelo de generación de código que demuestra este enfoque de codiseño.
Nuestros ingenieros trabajan directamente con hardware GPU, utilizando CUDA, PTX, HIP y CDNA ISA para optimizar la ejecución.
Implementar y optimizar un nuevo modelo de IA para una arquitectura de GPU específica puede llevar meses de ingeniería manual. Mientras tanto, constantemente se lanzan nuevos modelos.
Nuestro objetivo es utilizar agentes de IA para implementar y optimizar los modelos que elegimos en las GPU que elegimos, en una fracción del tiempo que se requiere hoy.
Estos agentes se basarán en las optimizaciones de GPU y los conocimientos de hardware que nuestro equipo ha desarrollado. Explorarán estrategias de optimización, generarán y modificarán núcleos, verificarán la corrección, compararán el rendimiento en hardware real e iterarán en función de los resultados.
Queremos hacer que la portabilidad de modelos y la optimización de GPU sean mucho más rápidas y repetibles, permitiendo a Kog mantenerse al día con los últimos modelos de IA en lugar de pasar meses adaptando cada uno manualmente.
Esta es una importante dirección de ingeniería que estamos desarrollando ahora y usted ayudará a darle forma.
Obtenga más información en https://blog.kog.ai.
En qué trabajarás
Te unirás a nuestro equipo de ingeniería de GPU para abordar problemas de rendimiento desafiantes y ayudar a crear los agentes internos que acelerarán este trabajo.
• Desarrollar y optimizar kernels de GPU utilizando C++, CUDA, HIP e instrucciones de bajo nivel.
• Investigar la arquitectura de GPU, el acceso a la memoria, la sincronización y los cuellos de botella de ejecución.
• Perfilar y comparar cargas de trabajo para identificar y validar mejoras de rendimiento.
• Optimice las operaciones de inferencia y la comunicación entre múltiples GPU.
• Implementar y optimizar nuevos modelos de IA en GPU NVIDIA y AMD.
• Ayude a crear agentes de IA para la ingeniería de GPU, lo que permitirá la optimización automatizada del código, pruebas de corrección, evaluaciones comparativas y mejoras iterativas.
• Asumir la responsabilidad de las decisiones técnicas y su implementación.
lo que estamos buscando
Buscamos un ingeniero de GPU con experiencia que pueda contribuir de forma rápida e independiente a problemas de rendimiento complejos.
• Gran experiencia práctica en desarrollo y optimización de núcleos de GPU, idealmente utilizando CUDA C++ o HIP/ROCm.
• Conocimiento profundo de la arquitectura de GPU, jerarquía de memoria, ejecución paralela y cuellos de botella en el rendimiento.
• Fuertes habilidades en C++ y experiencia en creación de perfiles y evaluación comparativa de cargas de trabajo de GPU.
• Propiedad comprobada de proyectos técnicos desafiantes, desde la implementación hasta los resultados medidos.
• Interés en desarrollar agentes y herramientas de IA para acelerar la ingeniería de GPU.
La experiencia con PTX, CDNA ISA, sistemas multi-GPU, inferencia de baja latencia o portabilidad del rendimiento de GPU es particularmente valiosa.
Un doctorado en HPC, informática o un campo relacionado es una ventaja cuando está respaldado por un trabajo sustancial de ingeniería. No se requiere experiencia previa en la creación de agentes de IA.
Ubicación y disponibilidad
Los candidatos deben residir ya en París o en otro lugar de Île-de-France.
No estamos considerando la reubicación desde otras regiones o países para este puesto.
Estamos buscando a alguien que pueda unirse al equipo rápidamente.
Encuentre más trabajos de habla inglesa en Francia en Arbeitnow
Fuente: Arbeitnow (https://www.arbeitnow.fr/jobs/companies/kog/gpu-engineer-paris-476374)
En Kog, estamos creando inferencias LLM en tiempo real para agentes de IA.
Los agentes codificadores ejecutan secuencias de tareas donde cada paso depende de la respuesta previa del modelo. Cuanto más rápido genere tokens el modelo, más rápido podrán razonar, codificar y actuar estos agentes.
Nuestro enfoque consiste en codiseñar la arquitectura del modelo, el motor de inferencia y los núcleos de GPU de bajo nivel para minimizar la latencia de generación en las GPU de centros de datos estándar de NVIDIA y AMD.
Hemos desarrollado varias tecnologías para hacer esto posible:
• Monokernel: un programa de GPU persistente que mantiene todo el ciclo de generación de tokens en la GPU, evitando transferencias de CPU.
• KCCL: nuestra capa de comunicación entre GPU personalizada, diseñada para minimizar la latencia.
• Paralelismo tensorial retardado (DTP): una arquitectura de modelo que superpone la comunicación con el cálculo y la carga de peso.
• Laneformer 2B: nuestro modelo de generación de código que demuestra este enfoque de codiseño.
Nuestros ingenieros trabajan directamente con hardware GPU, utilizando CUDA, PTX, HIP y CDNA ISA para optimizar la ejecución.
Implementar y optimizar un nuevo modelo de IA para una arquitectura de GPU específica puede llevar meses de ingeniería manual. Mientras tanto, constantemente se lanzan nuevos modelos.
Nuestro objetivo es utilizar agentes de IA para implementar y optimizar los modelos que elegimos en las GPU que elegimos, en una fracción del tiempo que se requiere hoy.
Estos agentes se basarán en las optimizaciones de GPU y los conocimientos de hardware que nuestro equipo ha desarrollado. Explorarán estrategias de optimización, generarán y modificarán núcleos, verificarán la corrección, compararán el rendimiento en hardware real e iterarán en función de los resultados.
Queremos hacer que la portabilidad de modelos y la optimización de GPU sean mucho más rápidas y repetibles, permitiendo a Kog mantenerse al día con los últimos modelos de IA en lugar de pasar meses adaptando cada uno manualmente.
Esta es una importante dirección de ingeniería que estamos desarrollando ahora y usted ayudará a darle forma.
Obtenga más información en https://blog.kog.ai.
En qué trabajarás
Te unirás a nuestro equipo de ingeniería de GPU para abordar problemas de rendimiento desafiantes y ayudar a crear los agentes internos que acelerarán este trabajo.
• Desarrollar y optimizar kernels de GPU utilizando C++, CUDA, HIP e instrucciones de bajo nivel.
• Investigar la arquitectura de GPU, el acceso a la memoria, la sincronización y los cuellos de botella de ejecución.
• Perfilar y comparar cargas de trabajo para identificar y validar mejoras de rendimiento.
• Optimice las operaciones de inferencia y la comunicación entre múltiples GPU.
• Implementar y optimizar nuevos modelos de IA en GPU NVIDIA y AMD.
• Ayude a crear agentes de IA para la ingeniería de GPU, lo que permitirá la optimización automatizada del código, pruebas de corrección, evaluaciones comparativas y mejoras iterativas.
• Asumir la responsabilidad de las decisiones técnicas y su implementación.
lo que estamos buscando
Buscamos un ingeniero de GPU con experiencia que pueda contribuir de forma rápida e independiente a problemas de rendimiento complejos.
• Gran experiencia práctica en desarrollo y optimización de núcleos de GPU, idealmente utilizando CUDA C++ o HIP/ROCm.
• Conocimiento profundo de la arquitectura de GPU, jerarquía de memoria, ejecución paralela y cuellos de botella en el rendimiento.
• Fuertes habilidades en C++ y experiencia en creación de perfiles y evaluación comparativa de cargas de trabajo de GPU.
• Propiedad comprobada de proyectos técnicos desafiantes, desde la implementación hasta los resultados medidos.
• Interés en desarrollar agentes y herramientas de IA para acelerar la ingeniería de GPU.
La experiencia con PTX, CDNA ISA, sistemas multi-GPU, inferencia de baja latencia o portabilidad del rendimiento de GPU es particularmente valiosa.
Un doctorado en HPC, informática o un campo relacionado es una ventaja cuando está respaldado por un trabajo sustancial de ingeniería. No se requiere experiencia previa en la creación de agentes de IA.
Ubicación y disponibilidad
Los candidatos deben residir ya en París o en otro lugar de Île-de-France.
No estamos considerando la reubicación desde otras regiones o países para este puesto.
Estamos buscando a alguien que pueda unirse al equipo rápidamente.
Encuentre más trabajos de habla inglesa en Francia en Arbeitnow
Fuente: Arbeitnow (https://www.arbeitnow.fr/jobs/companies/kog/gpu-engineer-paris-476374)
Este anuncio proviene de un feed de socios. Solicítalo en el sitio web de origen.
Fuente: Kog
Ubicación
París, Francia
Publicación proporcionada por Kog.
