Emploi
De la source partenaire
Ingénieur GPU
Prix sur demande
Détails
- Type de contrat
- Temps plein
- À distance
- Non
- Entreprise
- Kog
Description
Traduit automatiquement depuis English. Le texte original fait foi. Traduction automatique — une traduction plus précise est en préparation.
À propos de Kog
Chez Kog, nous construisons une inférence LLM en temps réel pour les agents IA.
Les agents de codage exécutent des séquences de tâches où chaque étape dépend de la réponse précédente du modèle. Plus le modèle génère des jetons rapidement, plus ces agents peuvent raisonner, coder et agir rapidement.
Notre approche consiste à co-concevoir l'architecture du modèle, le moteur d'inférence et les noyaux GPU de bas niveau afin de minimiser la latence de génération sur les GPU de centre de données NVIDIA et AMD standard.
Nous avons développé plusieurs technologies pour rendre cela possible :
• Monokernel : un programme GPU persistant qui conserve toute la boucle de génération de jetons sur le GPU, évitant ainsi les transferts de CPU.
• KCCL : notre couche de communication inter-GPU personnalisée, conçue pour minimiser la latence.
• Parallélisme tensoriel retardé (DTP) : une architecture de modèle qui chevauche la communication avec le calcul et le chargement de poids.
• Laneformer 2B : notre modèle de génération de code démontrant cette approche de co-conception.
Nos ingénieurs travaillent directement avec le matériel GPU, en utilisant CUDA, PTX, HIP et CDNA ISA pour optimiser l'exécution.
La mise en œuvre et l'optimisation d'un nouveau modèle d'IA pour une architecture GPU spécifique peuvent prendre des mois d'ingénierie manuelle. Pendant ce temps, de nouveaux modèles sortent constamment.
Notre objectif est d'utiliser des agents d'IA pour implémenter et optimiser les modèles que nous choisissons sur les GPU que nous choisissons, en une fraction du temps requis aujourd'hui.
Ces agents s'appuieront sur les optimisations GPU et les informations matérielles développées par notre équipe. Ils exploreront les stratégies d'optimisation, généreront et modifieront les noyaux, vérifieront l'exactitude, évalueront les performances sur du matériel réel et effectueront des itérations en fonction des résultats.
Nous souhaitons rendre le portage des modèles et l'optimisation du GPU beaucoup plus rapides et reproductibles, permettant à Kog de suivre le rythme des derniers modèles d'IA plutôt que de passer des mois à les adapter manuellement.
Il s’agit d’une direction d’ingénierie majeure que nous développons actuellement, et vous contribuerez à la façonner.
Apprenez-en plus sur https://blog.kog.ai.
Sur quoi vous travaillerez
Vous rejoindrez notre équipe d'ingénierie GPU pour résoudre des problèmes de performances complexes et aider à créer les agents internes qui accéléreront ce travail.
• Développer et optimiser les noyaux GPU à l'aide d'instructions C++, CUDA, HIP et de bas niveau.
• Enquêter sur l'architecture GPU, l'accès à la mémoire, la synchronisation et les goulots d'étranglement d'exécution.
• Profiler et comparer les charges de travail pour identifier et valider les améliorations de performances.
• Optimisez les opérations d'inférence et la communication sur plusieurs GPU.
• Implémenter et optimiser de nouveaux modèles d'IA sur les GPU NVIDIA et AMD.
• Aider à créer des agents d'IA pour l'ingénierie GPU, permettant l'optimisation automatisée du code, les tests d'exactitude, l'analyse comparative et les améliorations itératives.
• S'approprier les décisions techniques et leur mise en œuvre.
Ce que nous recherchons
Nous recherchons un ingénieur GPU expérimenté capable de contribuer rapidement et de manière indépendante à des problèmes de performances complexes.
• Solide expérience pratique dans le développement et l'optimisation de noyaux GPU, idéalement en utilisant CUDA C++ ou HIP/ROCm.
• Compréhension approfondie de l'architecture GPU, de la hiérarchie de la mémoire, de l'exécution parallèle et des goulots d'étranglement en termes de performances.
• Solides compétences en C++ et expérience en matière de profilage et d'analyse comparative des charges de travail GPU.
• Maîtrise avérée de projets techniques exigeants, de la mise en œuvre aux résultats mesurés.
• Intérêt pour le développement d'agents et d'outils d'IA pour accélérer l'ingénierie GPU.
Une expérience avec PTX, CDNA ISA, les systèmes multi-GPU, l'inférence à faible latence ou la portabilité des performances GPU est particulièrement précieuse.
Un doctorat en HPC, en informatique ou dans un domaine connexe est un plus lorsqu'il est soutenu par des travaux d'ingénierie substantiels. Une expérience préalable dans la création d’agents IA n’est pas requise.
Localisation et disponibilité
Les candidats doivent déjà être basés à Paris ou ailleurs en Île-de-France.
Nous n'envisageons pas de délocalisation depuis d'autres régions ou pays pour ce poste.
Nous recherchons quelqu'un qui puisse rejoindre l'équipe rapidement.
Trouvez plus d'emplois anglophones en France sur Arbeitnow
Source : Arbeitnow (https://www.arbeitnow.fr/jobs/companies/kog/gpu-engineer-paris-476374)
Chez Kog, nous construisons une inférence LLM en temps réel pour les agents IA.
Les agents de codage exécutent des séquences de tâches où chaque étape dépend de la réponse précédente du modèle. Plus le modèle génère des jetons rapidement, plus ces agents peuvent raisonner, coder et agir rapidement.
Notre approche consiste à co-concevoir l'architecture du modèle, le moteur d'inférence et les noyaux GPU de bas niveau afin de minimiser la latence de génération sur les GPU de centre de données NVIDIA et AMD standard.
Nous avons développé plusieurs technologies pour rendre cela possible :
• Monokernel : un programme GPU persistant qui conserve toute la boucle de génération de jetons sur le GPU, évitant ainsi les transferts de CPU.
• KCCL : notre couche de communication inter-GPU personnalisée, conçue pour minimiser la latence.
• Parallélisme tensoriel retardé (DTP) : une architecture de modèle qui chevauche la communication avec le calcul et le chargement de poids.
• Laneformer 2B : notre modèle de génération de code démontrant cette approche de co-conception.
Nos ingénieurs travaillent directement avec le matériel GPU, en utilisant CUDA, PTX, HIP et CDNA ISA pour optimiser l'exécution.
La mise en œuvre et l'optimisation d'un nouveau modèle d'IA pour une architecture GPU spécifique peuvent prendre des mois d'ingénierie manuelle. Pendant ce temps, de nouveaux modèles sortent constamment.
Notre objectif est d'utiliser des agents d'IA pour implémenter et optimiser les modèles que nous choisissons sur les GPU que nous choisissons, en une fraction du temps requis aujourd'hui.
Ces agents s'appuieront sur les optimisations GPU et les informations matérielles développées par notre équipe. Ils exploreront les stratégies d'optimisation, généreront et modifieront les noyaux, vérifieront l'exactitude, évalueront les performances sur du matériel réel et effectueront des itérations en fonction des résultats.
Nous souhaitons rendre le portage des modèles et l'optimisation du GPU beaucoup plus rapides et reproductibles, permettant à Kog de suivre le rythme des derniers modèles d'IA plutôt que de passer des mois à les adapter manuellement.
Il s’agit d’une direction d’ingénierie majeure que nous développons actuellement, et vous contribuerez à la façonner.
Apprenez-en plus sur https://blog.kog.ai.
Sur quoi vous travaillerez
Vous rejoindrez notre équipe d'ingénierie GPU pour résoudre des problèmes de performances complexes et aider à créer les agents internes qui accéléreront ce travail.
• Développer et optimiser les noyaux GPU à l'aide d'instructions C++, CUDA, HIP et de bas niveau.
• Enquêter sur l'architecture GPU, l'accès à la mémoire, la synchronisation et les goulots d'étranglement d'exécution.
• Profiler et comparer les charges de travail pour identifier et valider les améliorations de performances.
• Optimisez les opérations d'inférence et la communication sur plusieurs GPU.
• Implémenter et optimiser de nouveaux modèles d'IA sur les GPU NVIDIA et AMD.
• Aider à créer des agents d'IA pour l'ingénierie GPU, permettant l'optimisation automatisée du code, les tests d'exactitude, l'analyse comparative et les améliorations itératives.
• S'approprier les décisions techniques et leur mise en œuvre.
Ce que nous recherchons
Nous recherchons un ingénieur GPU expérimenté capable de contribuer rapidement et de manière indépendante à des problèmes de performances complexes.
• Solide expérience pratique dans le développement et l'optimisation de noyaux GPU, idéalement en utilisant CUDA C++ ou HIP/ROCm.
• Compréhension approfondie de l'architecture GPU, de la hiérarchie de la mémoire, de l'exécution parallèle et des goulots d'étranglement en termes de performances.
• Solides compétences en C++ et expérience en matière de profilage et d'analyse comparative des charges de travail GPU.
• Maîtrise avérée de projets techniques exigeants, de la mise en œuvre aux résultats mesurés.
• Intérêt pour le développement d'agents et d'outils d'IA pour accélérer l'ingénierie GPU.
Une expérience avec PTX, CDNA ISA, les systèmes multi-GPU, l'inférence à faible latence ou la portabilité des performances GPU est particulièrement précieuse.
Un doctorat en HPC, en informatique ou dans un domaine connexe est un plus lorsqu'il est soutenu par des travaux d'ingénierie substantiels. Une expérience préalable dans la création d’agents IA n’est pas requise.
Localisation et disponibilité
Les candidats doivent déjà être basés à Paris ou ailleurs en Île-de-France.
Nous n'envisageons pas de délocalisation depuis d'autres régions ou pays pour ce poste.
Nous recherchons quelqu'un qui puisse rejoindre l'équipe rapidement.
Trouvez plus d'emplois anglophones en France sur Arbeitnow
Source : Arbeitnow (https://www.arbeitnow.fr/jobs/companies/kog/gpu-engineer-paris-476374)
Cette annonce provient d'un flux partenaire. Postulez sur le site source.
Source: Kog
Emplacement
Paris, France
Annonce fournie par Kog.
