Job
Aus Partner-Feed
GPU-Ingenieur
Preis auf Anfrage
Details
- Beschäftigungsart
- Vollzeit
- Remote
- Nein
- Unternehmen
- Kog
Beschreibung
Automatisch aus dem English übersetzt. Der Originaltext ist maßgeblich. Maschinenübersetzung – eine genauere Version wird vorbereitet.
Über Kog
Bei Kog entwickeln wir Echtzeit-LLM-Inferenz für KI-Agenten.
Codierungsagenten führen Aufgabensequenzen aus, bei denen jeder Schritt von der vorherigen Antwort des Modells abhängt. Je schneller das Modell Token generiert, desto schneller können diese Agenten schlussfolgern, codieren und handeln.
Unser Ansatz besteht darin, die Modellarchitektur, die Inferenz-Engine und Low-Level-GPU-Kernel gemeinsam zu entwerfen, um die Generierungslatenz auf standardmäßigen NVIDIA- und AMD-Rechenzentrums-GPUs zu minimieren.
Um dies zu ermöglichen, haben wir mehrere Technologien entwickelt:
• Monokernel: ein persistentes GPU-Programm, das die gesamte Token-Generierungsschleife auf der GPU hält und so CPU-Übergaben vermeidet.
• KCCL: unsere benutzerdefinierte Inter-GPU-Kommunikationsschicht, die zur Minimierung der Latenz entwickelt wurde.
• Delayed Tensor Parallelism (DTP): eine Modellarchitektur, die Kommunikation mit Berechnung und Gewichtsbelastung überlappt.
• Laneformer 2B: Unser Code-Generierungsmodell, das diesen Co-Design-Ansatz demonstriert.
Unsere Ingenieure arbeiten direkt mit GPU-Hardware und nutzen CUDA, PTX, HIP und CDNA ISA, um die Ausführung zu optimieren.
Die Implementierung und Optimierung eines neuen KI-Modells für eine bestimmte GPU-Architektur kann monatelange manuelle Entwicklung erfordern. Mittlerweile kommen ständig neue Modelle auf den Markt.
Unser Ziel ist es, mithilfe von KI-Agenten die von uns ausgewählten Modelle auf den von uns ausgewählten GPUs in einem Bruchteil der heute erforderlichen Zeit zu implementieren und zu optimieren.
Diese Agenten werden auf den GPU-Optimierungen und Hardware-Erkenntnissen aufbauen, die unser Team entwickelt hat. Sie erforschen Optimierungsstrategien, generieren und modifizieren Kernel, überprüfen die Korrektheit, messen die Leistung auf realer Hardware und führen auf der Grundlage der Ergebnisse Iterationen durch.
Wir möchten die Modellportierung und GPU-Optimierung viel schneller und wiederholbar machen, damit Kog mit den neuesten KI-Modellen Schritt halten kann, anstatt Monate damit zu verbringen, jedes einzelne manuell anzupassen.
Dies ist eine wichtige technische Richtung, die wir derzeit entwickeln, und Sie werden mitgestalten.
Erfahren Sie mehr unter https://blog.kog.ai.
Woran Sie arbeiten werden
Sie werden Teil unseres GPU-Engineering-Teams, um anspruchsvolle Leistungsprobleme anzugehen und dabei zu helfen, die internen Agenten zu entwickeln, die diese Arbeit beschleunigen.
• Entwickeln und optimieren Sie GPU-Kernel mithilfe von C++, CUDA, HIP und Low-Level-Anweisungen.
• Untersuchen Sie GPU-Architektur, Speicherzugriff, Synchronisierung und Ausführungsengpässe.
• Profilierung und Benchmarking von Arbeitslasten, um Leistungsverbesserungen zu identifizieren und zu validieren.
• Optimieren Sie Inferenzvorgänge und Kommunikation über mehrere GPUs hinweg.
• Implementieren und optimieren Sie neue KI-Modelle auf NVIDIA- und AMD-GPUs.
• Helfen Sie bei der Entwicklung von KI-Agenten für die GPU-Entwicklung, die automatisierte Codeoptimierung, Korrektheitstests, Benchmarking und iterative Verbesserungen ermöglichen.
• Übernehmen Sie die Verantwortung für technische Entscheidungen und deren Umsetzung.
Was wir suchen
Wir suchen einen erfahrenen GPU-Ingenieur, der schnell und unabhängig zu komplexen Leistungsproblemen beitragen kann.
• Umfangreiche praktische Erfahrung in der Entwicklung und Optimierung von GPU-Kerneln, idealerweise mit CUDA C++ oder HIP/ROCm.
• Tiefes Verständnis der GPU-Architektur, Speicherhierarchie, parallelen Ausführung und Leistungsengpässen.
• Starke C++-Kenntnisse und Erfahrung im Profiling und Benchmarking von GPU-Workloads.
• Nachgewiesene Verantwortung für anspruchsvolle technische Projekte, von der Implementierung bis hin zu messbaren Ergebnissen.
• Interesse an der Entwicklung von KI-Agenten und -Tools zur Beschleunigung der GPU-Entwicklung.
Besonders wertvoll sind Erfahrungen mit PTX, CDNA ISA, Multi-GPU-Systemen, Inferenz mit geringer Latenz oder GPU-Leistungsportabilität.
Ein Doktortitel in HPC, Informatik oder einem verwandten Bereich ist von Vorteil, wenn er durch umfangreiche Ingenieursarbeiten ergänzt wird. Vorkenntnisse im Aufbau von KI-Agenten sind nicht erforderlich.
Standort und Verfügbarkeit
Die Bewerber müssen bereits in Paris oder anderswo auf der Île-de-France ansässig sein.
Für diese Position erwägen wir keinen Umzug aus anderen Regionen oder Ländern.
Wir suchen jemanden, der sich schnell dem Team anschließen kann.
Weitere englischsprachige Jobs in Frankreich finden Sie auf Arbeitnow
Quelle: Arbeitnow (https://www.arbeitnow.fr/jobs/companies/kog/gpu-engineer-paris-476374)
Bei Kog entwickeln wir Echtzeit-LLM-Inferenz für KI-Agenten.
Codierungsagenten führen Aufgabensequenzen aus, bei denen jeder Schritt von der vorherigen Antwort des Modells abhängt. Je schneller das Modell Token generiert, desto schneller können diese Agenten schlussfolgern, codieren und handeln.
Unser Ansatz besteht darin, die Modellarchitektur, die Inferenz-Engine und Low-Level-GPU-Kernel gemeinsam zu entwerfen, um die Generierungslatenz auf standardmäßigen NVIDIA- und AMD-Rechenzentrums-GPUs zu minimieren.
Um dies zu ermöglichen, haben wir mehrere Technologien entwickelt:
• Monokernel: ein persistentes GPU-Programm, das die gesamte Token-Generierungsschleife auf der GPU hält und so CPU-Übergaben vermeidet.
• KCCL: unsere benutzerdefinierte Inter-GPU-Kommunikationsschicht, die zur Minimierung der Latenz entwickelt wurde.
• Delayed Tensor Parallelism (DTP): eine Modellarchitektur, die Kommunikation mit Berechnung und Gewichtsbelastung überlappt.
• Laneformer 2B: Unser Code-Generierungsmodell, das diesen Co-Design-Ansatz demonstriert.
Unsere Ingenieure arbeiten direkt mit GPU-Hardware und nutzen CUDA, PTX, HIP und CDNA ISA, um die Ausführung zu optimieren.
Die Implementierung und Optimierung eines neuen KI-Modells für eine bestimmte GPU-Architektur kann monatelange manuelle Entwicklung erfordern. Mittlerweile kommen ständig neue Modelle auf den Markt.
Unser Ziel ist es, mithilfe von KI-Agenten die von uns ausgewählten Modelle auf den von uns ausgewählten GPUs in einem Bruchteil der heute erforderlichen Zeit zu implementieren und zu optimieren.
Diese Agenten werden auf den GPU-Optimierungen und Hardware-Erkenntnissen aufbauen, die unser Team entwickelt hat. Sie erforschen Optimierungsstrategien, generieren und modifizieren Kernel, überprüfen die Korrektheit, messen die Leistung auf realer Hardware und führen auf der Grundlage der Ergebnisse Iterationen durch.
Wir möchten die Modellportierung und GPU-Optimierung viel schneller und wiederholbar machen, damit Kog mit den neuesten KI-Modellen Schritt halten kann, anstatt Monate damit zu verbringen, jedes einzelne manuell anzupassen.
Dies ist eine wichtige technische Richtung, die wir derzeit entwickeln, und Sie werden mitgestalten.
Erfahren Sie mehr unter https://blog.kog.ai.
Woran Sie arbeiten werden
Sie werden Teil unseres GPU-Engineering-Teams, um anspruchsvolle Leistungsprobleme anzugehen und dabei zu helfen, die internen Agenten zu entwickeln, die diese Arbeit beschleunigen.
• Entwickeln und optimieren Sie GPU-Kernel mithilfe von C++, CUDA, HIP und Low-Level-Anweisungen.
• Untersuchen Sie GPU-Architektur, Speicherzugriff, Synchronisierung und Ausführungsengpässe.
• Profilierung und Benchmarking von Arbeitslasten, um Leistungsverbesserungen zu identifizieren und zu validieren.
• Optimieren Sie Inferenzvorgänge und Kommunikation über mehrere GPUs hinweg.
• Implementieren und optimieren Sie neue KI-Modelle auf NVIDIA- und AMD-GPUs.
• Helfen Sie bei der Entwicklung von KI-Agenten für die GPU-Entwicklung, die automatisierte Codeoptimierung, Korrektheitstests, Benchmarking und iterative Verbesserungen ermöglichen.
• Übernehmen Sie die Verantwortung für technische Entscheidungen und deren Umsetzung.
Was wir suchen
Wir suchen einen erfahrenen GPU-Ingenieur, der schnell und unabhängig zu komplexen Leistungsproblemen beitragen kann.
• Umfangreiche praktische Erfahrung in der Entwicklung und Optimierung von GPU-Kerneln, idealerweise mit CUDA C++ oder HIP/ROCm.
• Tiefes Verständnis der GPU-Architektur, Speicherhierarchie, parallelen Ausführung und Leistungsengpässen.
• Starke C++-Kenntnisse und Erfahrung im Profiling und Benchmarking von GPU-Workloads.
• Nachgewiesene Verantwortung für anspruchsvolle technische Projekte, von der Implementierung bis hin zu messbaren Ergebnissen.
• Interesse an der Entwicklung von KI-Agenten und -Tools zur Beschleunigung der GPU-Entwicklung.
Besonders wertvoll sind Erfahrungen mit PTX, CDNA ISA, Multi-GPU-Systemen, Inferenz mit geringer Latenz oder GPU-Leistungsportabilität.
Ein Doktortitel in HPC, Informatik oder einem verwandten Bereich ist von Vorteil, wenn er durch umfangreiche Ingenieursarbeiten ergänzt wird. Vorkenntnisse im Aufbau von KI-Agenten sind nicht erforderlich.
Standort und Verfügbarkeit
Die Bewerber müssen bereits in Paris oder anderswo auf der Île-de-France ansässig sein.
Für diese Position erwägen wir keinen Umzug aus anderen Regionen oder Ländern.
Wir suchen jemanden, der sich schnell dem Team anschließen kann.
Weitere englischsprachige Jobs in Frankreich finden Sie auf Arbeitnow
Quelle: Arbeitnow (https://www.arbeitnow.fr/jobs/companies/kog/gpu-engineer-paris-476374)
Dieses Angebot stammt aus einem Partner-Feed. Bewerben Sie sich auf der Quell-Website.
Quelle: Kog
Standort
Paris, Frankreich
Inserat bereitgestellt von Kog.
