Інженер інфраструктури ML

Про Nebius:

Nebius відкриває нову еру хмарної інфраструктури для глобальної економіки ШІ. Ми створюємо повну хмарну платформу штучного інтелекту, яка підтримує розробників і підприємства від навчання даних і моделям до розгортання виробництва без витрат і складності створення великої внутрішньої інфраструктури штучного інтелекту/ML.

Створено інженерами, для інженерів. Від великомасштабної оркестровки графічного процесора до оптимізації висновків, ми вирішуємо складні проблеми з обчисленнями, сховищами, мережами та прикладним штучним інтелектом.

Котирується на Nasdaq (NBIS) і має штаб-квартиру в Амстердамі, ми маємо глобальний слід із науково-дослідними центрами в Європі, Великобританії, Північній Америці та Ізраїлі. Наша команда з 1500+ включає в себе сотні інженерів з глибоким досвідом роботи з обладнанням, програмним забезпеченням і дослідженнями та розробками штучного інтелекту.

роль

Ми шукаємо висококваліфікованого інженера ML/AI, щоб приєднатися до нашої команди, щоб очолити та підтримувати порівняльний аналіз платформ GPU, порівняльний аналіз платформ GPU для машинного навчання та робочих навантажень AI. Ви відіграватимете важливу роль в оцінюванні продуктивності апаратного забезпечення на базі GPU для різних фреймворків глибокого навчання та штучного інтелекту, дозволяючи приймати керовані даними рішення для оптимізації платформи та розробки апаратного забезпечення наступного покоління.

Ваші обов'язки включатимуть:

• Тісно співпрацюйте з апаратним забезпеченням і командами розробників для профілювання та аналізу продуктивності GPU на рівні системи та ядра.

• Оцініть і порівняйте продуктивність GPU на різних платформах, архітектурах і стеках програмного забезпечення (наприклад, CUDA, ROCm).

• Налагоджуйте й оптимізуйте робочі навантаження ML для ефективної роботи на апаратному забезпеченні графічного процесора, виявляючи та усуваючи вузькі місця продуктивності.

• Виконайте приймальне тестування для нових кластерів GPU, гарантуючи, що обладнання та програмне забезпечення відповідають вимогам продуктивності, стабільності та сумісності для робочих навантажень AI.

• Виконуйте експерименти з різноманітними системними конфігураціями GPU, щоб оцінити вплив різних стратегій взаємозв’язку та оптимізацій на рівні системи на продуктивність і масштабованість.

• Розробити інструменти та інформаційні панелі для візуалізації показників продуктивності візуалізувати показники ефективності, вузькі місця та тенденції.

• Сприяти внутрішнім інструментам, структурам і найкращим практикам

Ми очікуємо, що ви матимете:

• Глибоке розуміння теоретичних основ машинного навчання

• Глибоке розуміння аспектів продуктивності навчання та висновків великих нейронних мереж (паралелізм даних/тензорів/контексту/експертів, розвантаження, спеціальні ядра, апаратні функції, оптимізація уваги, динамічне пакетування тощо)

• Глибокий досвід роботи з сучасними фреймворками глибокого навчання (PyTorch, JAX, Megatron-LM, Tensort-LLM)

• Добре розуміння стека GPU: CUDA, NCCL, драйвери та відповідні бібліотеки

• Знайомство з контейнерними середовищами (наприклад, Docker, Kubernetes).

• Сильна комунікабельність і здатність працювати самостійно

Способи виділитися з натовпу:

• Знайомство з сучасними фреймворками висновку LLM (vLLM, SGLang, TensorRT)

• Досвід роботи з Python та інструментами профілювання продуктивності (наприклад, Nsight, nvprof, perf).

• Знайомство з хмарними платформами ML, такими як AWS, GCP, Azure ML

• Внесок у інструменти порівняльного аналізу машинного навчання з відкритим кодом

Переваги та переваги:

• Конкурентна винагорода

• Кар'єрний ріст і можливості навчання

• Гнучкість і власність

• Культура співпраці та інновацій

• Можливість працювати над ефективними проектами ШІ

• Міжнародне середовище та талановиті команди

Як це – працювати в Nebius:

Швидкий рух - Сміливе мислення - Постійне зростання - Значущий вплив - Довіра та реальна власність - Можливість формувати майбутнє ШІ

Заява про рівні можливості:

Nebius є роботодавцем рівних можливостей. Ми прагнемо сприяти інклюзивному та різноманітному робочому середовищу та надавати рівні можливості працевлаштування в усіх аспектах зайнятості. Ми не проводимо дискримінації на основі раси, кольору шкіри, релігії, статі (включаючи вагітність), національного походження, походження, віку, інвалідності, генетичної інформації, сімейного стану, статусу ветерана, сексуальної орієнтації, гендерної ідентичності чи самовираження чи будь-якої іншої характеристики, захищеної чинним законодавством.

Кандидати повинні мати дозвіл на роботу в країні, в якій вони подають заявку, і повинні будуть надати підтвердження права на працевлаштування як умову найму.

Якщо вам потрібне розміщення під час подання заявки, повідомте нам про це.

Джерело: Jobicy (https://jobicy.com/jobs/155964-ml-infrastructure-engineer)