Вакансія
З партнерського стрічки
Інженер GPU
Ціна за запитом
Деталі
- Тип зайнятості
- Повна зайнятість
- Віддалено
- Ні
- Компанія
- Kog
Опис
Автоматичний переклад з English. Оригінальний текст є авторитетним. Машинний переклад — готується точніший варіант.
Про Ког
У Kog ми розробляємо висновки LLM у режимі реального часу для агентів ШІ.
Агенти кодування виконують послідовності завдань, де кожен крок залежить від попередньої відповіді моделі. Чим швидше модель генерує токени, тим швидше ці агенти можуть міркувати, кодувати та діяти.
Наш підхід полягає у спільному проектуванні архітектури моделі, механізму логічного висновку та низькорівневих ядер графічного процесора, щоб мінімізувати затримку генерації на стандартних графічних процесорах центрів обробки даних NVIDIA та AMD.
Щоб зробити це можливим, ми розробили кілька технологій:
• Monokernel: постійна програма графічного процесора, яка зберігає весь цикл генерації маркерів на графічному процесорі, уникаючи передачі обслуговування ЦП.
• KCCL: наш спеціальний рівень зв’язку між GPU, призначений для мінімізації затримки.
• Відкладений тензорний паралелізм (DTP): архітектура моделі, яка перекриває зв’язок з обчисленнями та ваговим навантаженням.
• Laneformer 2B: наша модель генерації коду, що демонструє цей підхід спільного проектування.
Наші інженери працюють безпосередньо з обладнанням GPU, використовуючи CUDA, PTX, HIP і CDNA ISA для оптимізації виконання.
Впровадження та оптимізація нової моделі ШІ для конкретної архітектури GPU може зайняти місяці ручного проектування. При цьому постійно виходять нові моделі.
Наша мета полягає в тому, щоб використовувати агенти штучного інтелекту для реалізації та оптимізації обраних нами моделей на обраних нами графічних процесорах за частку часу, необхідного сьогодні.
Ці агенти базуватимуться на оптимізації графічного процесора та аналізі апаратного забезпечення, розробленому нашою командою. Вони вивчатимуть стратегії оптимізації, генеруватимуть і змінюватимуть ядра, перевірятимуть правильність, порівнюватимуть продуктивність на реальному обладнанні та виконуватимуть ітерацію на основі результатів.
Ми хочемо зробити перенесення моделі та оптимізацію графічного процесора набагато швидшими та повторюваними, дозволяючи Kog йти в ногу з останніми моделями штучного інтелекту, а не витрачати місяці на адаптацію кожної з них вручну.
Це головний інженерний напрямок, який ми зараз розвиваємо, і ви допоможете його формувати.
Дізнайтесь більше на https://blog.kog.ai.
Над чим ви будете працювати
Ви приєднаєтесь до нашої команди розробників GPU, щоб вирішувати складні проблеми продуктивності та допомагати створювати внутрішні агенти, які прискорять цю роботу.
• Розробляйте та оптимізуйте ядра GPU за допомогою C++, CUDA, HIP та інструкцій низького рівня.
• Дослідіть архітектуру GPU, доступ до пам'яті, синхронізацію та вузькі місця виконання.
• Робочі навантаження профілю та порівняння для виявлення та перевірки покращень продуктивності.
• Оптимізуйте операції логічного висновку та обмін даними між кількома GPU.
• Впроваджуйте та оптимізуйте нові моделі ШІ на графічних процесорах NVIDIA та AMD.
• Допоможіть створювати агенти штучного інтелекту для розробки графічних процесорів, забезпечуючи автоматичну оптимізацію коду, перевірку правильності, порівняльний аналіз та ітераційні вдосконалення.
• Взяти на себе відповідальність за технічні рішення та їх впровадження.
Те, що ми шукаємо
Ми шукаємо досвідченого інженера графічного процесора, який зможе швидко та незалежно вирішити складні проблеми продуктивності.
• Великий практичний досвід розробки та оптимізації ядер GPU, в ідеалі з використанням CUDA C++ або HIP/ROCm.
• Глибоке розуміння архітектури GPU, ієрархії пам’яті, паралельного виконання та вузьких місць продуктивності.
• Сильні навички C++ і досвід профілювання та порівняльного аналізу навантажень GPU.
• Доведене володіння складними технічними проектами, від впровадження до вимірюваних результатів.
• Зацікавленість у розробці агентів ШІ та інструментів для прискорення проектування GPU.
Особливо цінним є досвід роботи з PTX, CDNA ISA, системами з кількома GPU, висновками з низькою затримкою або переносимістю продуктивності GPU.
Ступінь доктора філософії з HPC, інформатики чи суміжної галузі є плюсом, якщо він підкріплений значною інженерною роботою. Попередній досвід створення агентів ШІ не потрібен.
Розташування та наявність
Кандидати повинні вже перебувати в Парижі або в іншому місці в Іль-де-Франс.
Ми не розглядаємо переїзд з інших регіонів чи країн на цю посаду.
Ми шукаємо людину, яка зможе швидко приєднатися до команди.
Знайдіть більше англомовних вакансій у Франції на Arbeitnow
Джерело: Arbeitnow (https://www.arbeitnow.fr/jobs/companies/kog/gpu-engineer-paris-476374)
У Kog ми розробляємо висновки LLM у режимі реального часу для агентів ШІ.
Агенти кодування виконують послідовності завдань, де кожен крок залежить від попередньої відповіді моделі. Чим швидше модель генерує токени, тим швидше ці агенти можуть міркувати, кодувати та діяти.
Наш підхід полягає у спільному проектуванні архітектури моделі, механізму логічного висновку та низькорівневих ядер графічного процесора, щоб мінімізувати затримку генерації на стандартних графічних процесорах центрів обробки даних NVIDIA та AMD.
Щоб зробити це можливим, ми розробили кілька технологій:
• Monokernel: постійна програма графічного процесора, яка зберігає весь цикл генерації маркерів на графічному процесорі, уникаючи передачі обслуговування ЦП.
• KCCL: наш спеціальний рівень зв’язку між GPU, призначений для мінімізації затримки.
• Відкладений тензорний паралелізм (DTP): архітектура моделі, яка перекриває зв’язок з обчисленнями та ваговим навантаженням.
• Laneformer 2B: наша модель генерації коду, що демонструє цей підхід спільного проектування.
Наші інженери працюють безпосередньо з обладнанням GPU, використовуючи CUDA, PTX, HIP і CDNA ISA для оптимізації виконання.
Впровадження та оптимізація нової моделі ШІ для конкретної архітектури GPU може зайняти місяці ручного проектування. При цьому постійно виходять нові моделі.
Наша мета полягає в тому, щоб використовувати агенти штучного інтелекту для реалізації та оптимізації обраних нами моделей на обраних нами графічних процесорах за частку часу, необхідного сьогодні.
Ці агенти базуватимуться на оптимізації графічного процесора та аналізі апаратного забезпечення, розробленому нашою командою. Вони вивчатимуть стратегії оптимізації, генеруватимуть і змінюватимуть ядра, перевірятимуть правильність, порівнюватимуть продуктивність на реальному обладнанні та виконуватимуть ітерацію на основі результатів.
Ми хочемо зробити перенесення моделі та оптимізацію графічного процесора набагато швидшими та повторюваними, дозволяючи Kog йти в ногу з останніми моделями штучного інтелекту, а не витрачати місяці на адаптацію кожної з них вручну.
Це головний інженерний напрямок, який ми зараз розвиваємо, і ви допоможете його формувати.
Дізнайтесь більше на https://blog.kog.ai.
Над чим ви будете працювати
Ви приєднаєтесь до нашої команди розробників GPU, щоб вирішувати складні проблеми продуктивності та допомагати створювати внутрішні агенти, які прискорять цю роботу.
• Розробляйте та оптимізуйте ядра GPU за допомогою C++, CUDA, HIP та інструкцій низького рівня.
• Дослідіть архітектуру GPU, доступ до пам'яті, синхронізацію та вузькі місця виконання.
• Робочі навантаження профілю та порівняння для виявлення та перевірки покращень продуктивності.
• Оптимізуйте операції логічного висновку та обмін даними між кількома GPU.
• Впроваджуйте та оптимізуйте нові моделі ШІ на графічних процесорах NVIDIA та AMD.
• Допоможіть створювати агенти штучного інтелекту для розробки графічних процесорів, забезпечуючи автоматичну оптимізацію коду, перевірку правильності, порівняльний аналіз та ітераційні вдосконалення.
• Взяти на себе відповідальність за технічні рішення та їх впровадження.
Те, що ми шукаємо
Ми шукаємо досвідченого інженера графічного процесора, який зможе швидко та незалежно вирішити складні проблеми продуктивності.
• Великий практичний досвід розробки та оптимізації ядер GPU, в ідеалі з використанням CUDA C++ або HIP/ROCm.
• Глибоке розуміння архітектури GPU, ієрархії пам’яті, паралельного виконання та вузьких місць продуктивності.
• Сильні навички C++ і досвід профілювання та порівняльного аналізу навантажень GPU.
• Доведене володіння складними технічними проектами, від впровадження до вимірюваних результатів.
• Зацікавленість у розробці агентів ШІ та інструментів для прискорення проектування GPU.
Особливо цінним є досвід роботи з PTX, CDNA ISA, системами з кількома GPU, висновками з низькою затримкою або переносимістю продуктивності GPU.
Ступінь доктора філософії з HPC, інформатики чи суміжної галузі є плюсом, якщо він підкріплений значною інженерною роботою. Попередній досвід створення агентів ШІ не потрібен.
Розташування та наявність
Кандидати повинні вже перебувати в Парижі або в іншому місці в Іль-де-Франс.
Ми не розглядаємо переїзд з інших регіонів чи країн на цю посаду.
Ми шукаємо людину, яка зможе швидко приєднатися до команди.
Знайдіть більше англомовних вакансій у Франції на Arbeitnow
Джерело: Arbeitnow (https://www.arbeitnow.fr/jobs/companies/kog/gpu-engineer-paris-476374)
Це оголошення надходить із партнерського фіду. Подайте заявку на сайті джерела.
Джерело: Kog
Розташування
Париж, Франція
Оголошення надано Kog.
