Старший інженер-програміст, Compute Platform

Moonlite забезпечує високопродуктивну інфраструктуру штучного інтелекту для організацій, які проводять інтенсивні обчислювальні дослідження, навчання великомасштабним моделям і вимогливі робочі навантаження на обробку даних. Ми надаємо інфраструктуру, розгорнуту на наших підприємствах або розміщену у вас, забезпечуючи гнучкі обчислення на вимогу або зарезервовані, які виглядають як розширення вашого існуючого центру обробки даних. Наша команда фахівців з інфраструктури штучного інтелекту поєднує в собі продуктивність із простотою роботи в хмарі, що дозволяє дослідницьким групам і підприємствам розгортати вимогливі робочі навантаження штучного інтелекту з надійністю та відповідністю корпоративного рівня.
Ваша роль:
Ви відіграєте важливу роль у створенні нашої обчислювальної платформи з прискоренням GPU, яка забезпечує розподілене навчання штучного інтелекту та висновки, масштабне моделювання та обчислювальні дослідження. Тісно співпрацюючи з продуктом, членами команди вашої платформи та фахівцями з інфраструктури, ви розробите та запровадите рівень оркестровки обчислень, який керує кластерами графічного процесора, забезпеченням «голого металу» та плануванням ресурсів, дозволяючи дослідникам і інженерам програмно отримувати доступ до високопродуктивних обчислювальних ресурсів із простотою хмари.
Посадові обов'язки

•
Системи оркестровки обчислень: розробляйте та створюйте масштабовані платформи оркестровки обчислень, які керують кластерами графічних процесорів, забезпеченням серверів на голому металі та розподілом ресурсів у спільно розташованих інфраструктурних середовищах.

•
Управління ресурсами та планування: реалізуйте інтелектуальне планування робочого навантаження, розподіл ресурсів і алгоритми оптимізації, які максимізують використання GPU, зберігаючи при цьому гарантії продуктивності для дослідницьких і навчальних навантажень.

•
Забезпечення дослідницьких кластерів: розробляйте та впроваджуйте системи для забезпечення та керування дослідницькими обчислювальними середовищами, включаючи кластери Kubernetes і SLURM, що забезпечує автоматичне розгортання, планування ресурсів і оркестрування робочого навантаження для розподіленого навчання ШІ та робочих навантажень HPC.

•
Розробка платформи графічного процесора: розробка можливостей платформи для керування конфігураціями графічного процесора NVIDIA останнього покоління (H100, H200, B200, B300), включаючи керування ресурсами графічного процесора, ізоляцію кількох клієнтів та інтеграцію з системами оркестровки обчислень.

•
Управління життєвим циклом Bare-Metal: створюйте автоматизацію та інструменти для повного керування життєвим циклом сервера Bare-Metal – від початкової підготовки та налаштування до поточних операцій, оновлень і перерозподілу ресурсів.

•
Системи, які мають важливе значення для продуктивності: оптимізуйте компоненти обчислювальної платформи для забезпечення високої пропускної здатності та низької затримки, гарантуючи, що дослідницькі робочі навантаження досягають ефективності майже на «голому металі» у віртуалізованих або контейнерних середовищах.

•
API та інтеграція платформи: розробляйте надійні API та SDK, які дозволяють дослідникам програмно надавати та керувати обчислювальними ресурсами, бездоганно інтегруючись із існуючими робочими процесами та дослідницькою інфраструктурою.

•
Спостереженість і моніторинг: впроваджуйте комплексні системи моніторингу та телеметрії для обчислювальних ресурсів, забезпечуючи видимість віртуалізації GPU, продуктивності робочого навантаження та стану інфраструктури.

•
Мультитенантність та ізоляція: створіть ізоляцію обчислень корпоративного рівня з кількома клієнтами, межі безпеки та квоти ресурсів, які забезпечують безпечний спільний доступ до інфраструктури GPU між командами та організаціями.

Вимоги

•
Досвід: понад 5 років у розробці програмного забезпечення з підтвердженим досвідом створення обчислювальних платформ, систем оркестровки контейнерів або розподіленої обчислювальної інфраструктури для виробничих середовищ.

•
Розробка обчислювальної платформи: великий досвід у розробці систем оркестровки обчислень, планування ресурсів або масштабних систем керування навантаженням.

•
Kubernetes & Container Orchestration: глибоке знайомство з архітектурою Kubernetes, концепціями оркестровки контейнерів і досвід розгортання робочих навантажень у середовищах Kubernetes. Розуміння пакетів, розгортань, служб і основних операцій Kubernetes.

•
Навички програмування: високо цінується досвід роботи з Go, C/C++, Python або Rust для критичних для продуктивності компонентів.

•
Linux і системне програмування: великий досвід роботи з Linux у виробничих середовищах, включаючи системи для програмування, оптимізації продуктивності та низькорівневого керування ресурсами.

•
Віртуалізація та контейнери: глибоке знання технологій віртуалізації (KVM, Xen), середовища виконання контейнерів і платформ оркестровки.

•
Основи GPU Computing: Розуміння архітектур GPU, програмування CUDA (де/коли потрібно) та керування ресурсами GPU – або сильна здатність швидко навчатися.

•
Інфраструктура Bare-Metal: Досвід роботи з наданням послуг Bare-Metal, позаполосними системами керування та рівнями абстракції обладнання.

•
Вирішення проблем і архітектура: продемонстрована здатність вирішувати складні проблеми продуктивності та масштабованості, збалансовуючи прагматичну доставку з гарною довгостроковою архітектурою.

•
Автономність і комунікація: зручна навігація в неоднозначності, спільне визначення вимог і передача технічних обговорень через чітку документацію.

•
Прагнення до зростання: мислення, спрямоване на зростання з постійною зосередженістю на навчанні та професійному розвитку.

Бажані кваліфікації

• Фонове забезпечення або керування дослідницькими обчислювальними середовищами (Kubernetes, SLURM або кластери HPC)

• Досвід роботи з технологіями віртуалізації графічного процесора (SR-IOV, NVIDIA vGPU) і спільного використання графічного процесора для кількох клієнтів

• Підготовка до платформ оркестровки контейнерів із спеціальним плануванням або керуванням ресурсами

• Знання високопродуктивної мережі для зв’язку GPU (InfiniBand, RDMA, NVLink, NVSwitch)

• Знайомство з навчальними фреймворками AI/ML (PyTorch, TensorFlow) та вимогами до їх інфраструктури

• Розуміння шаблонів розподіленого навчання та координації багатовузлового GPU

• Досвід створення інфраструктури для науково-дослідних установ, лабораторій або технічних обчислювальних середовищ…

Джерело: Himalayas (https://himalayas.app/companies/moonlite/jobs/senior-software-engineer-compute-platform-9024339573)