Інженер продуктивності

Про CuspAI
CuspAI — передова компанія зі штучного інтелекту, яка має на меті знайти революційні матеріали, необхідні для прогресу людства. У той час як природі знадобилися мільярди років, щоб удосконалити молекули, ми використовуємо ШІ, щоб розблокувати прориви в матеріалах на трильйони доларів за місяці, а не за тисячоліття. Наша команда засновників є найбільш цитованою у світі, до її складу входять дослідники світового рівня в галузі ШІ, хімії та інженерії.

Ми працюємо над деякими з найскладніших і найважливіших завдань, зокрема над енергією, чистою водою, майбутнім комп’ютером і вловлюванням вуглецю, і це лише початок того, що розкриє наша «пошукова система» матеріалів наступного покоління.

Ми запрошуємо вас стати частиною різноманітної інноваційної команди на стику штучного інтелекту та матеріалознавства, яка працює над створенням ефективних партнерств, які стимулюють інновації, масштабованість і галузеву співпрацю. Ця робота має значення. Ваша робота має значення.

Ми на порозі ери матеріалів за вимогою. приєднуйтесь до нас

Роль
У зв’язку зі швидким зростанням наших вимог до обчислювальних ресурсів ми шукаємо інженера з продуктивності, який би служив життєво важливим мостом між нашими передовими моделями ШІ та нашою високопродуктивною обчислювальною інфраструктурою.

Ваш вплив
На цій посаді ви створюватимете рівні оптимізації та інфраструктуру профілювання, яка максимізує ефективність нашого великомасштабного навчання та робочих навантажень з висновків, що є критично важливим для прискорення нашого конвеєра виявлення матеріалів і забезпечення того, щоб наші дослідники могли виконувати ітерації зі швидкістю думки.

У CuspAI обчислення є нашим найціннішим ресурсом. Спочатку ваша основна увага буде зосереджена на профілюванні наших поточних тренувань для виявлення вузьких місць у використанні моделі FLOP (MFU). З часом ви, ймовірно, візьмете участь у розробці спеціальних ядер і низькорівневих оптимізацій, які дозволять нам навчати більші, складніші моделі для хімії та фізики, які раніше були непомірними для обчислень.

Що ви будете робити
Навчання та оптимізація висновків

• Аналізуйте архітектури моделей, щоб оптимізувати те, як математичні операції відображаються на апаратному забезпеченні, особливо зосереджуючись на ядрах GPU NVIDIA та рівнях колективного зв’язку (NCCL).

• Впроваджуйте найсучасніші методи підвищення ефективності, такі як квантування, скорочення моделі та дистиляція, щоб зменшити затримку для наших API «пошукової системи» матеріалів.

• Оптимізуйте конвеєри даних, щоб високопродуктивні прискорювачі ніколи не відчували «голоду» за даними під час масових тренувань.

Профілювання, спостереження та управління витратами

• Використовуйте розширені інструменти спостереження, щоб відстежувати наскрізне виконання завдань навчання, визначаючи точні місця забивання обробки або суперечки між з’єднаннями.

• Створюйте та підтримуйте інформаційні панелі в режимі реального часу, які відстежують життєво важливі показники системи, включаючи MFU, використання пропускної здатності пам’яті та час безвідмовної роботи кластера.

• Контролюйте та обґрунтовуйте використання наших прискорювачів штучного інтелекту (наприклад, кластерів H100), запобігаючи простою та витокам пам’яті, щоб гарантувати, що кожен долар витрат на обчислення перетворюється на науковий прогрес.

• Розробляйте закони масштабування та внутрішні інструменти для прогнозування поведінки системи в обчислювальній системі, пам’яті та мережі, оскільки кількість параметрів наших моделей зростає.

Міждисциплінарна співпраця

• Тісно співпрацюйте з дослідниками штучного інтелекту, щоб адаптувати архітектури моделей для кращої апаратної сумісності без шкоди для наукової точності.

• Партнерство з командою інфраструктури, щоб впливати на дизайн наших майбутніх обчислювальних кластерів на основі даних про продуктивність і результатів профілювання.

Необхідно мати навички та кваліфікацію:

• Ви той, хто в захваті від можливості надати вченим можливість працювати над проблемами, що змінюють світ у цій галузі, особисто зацікавлені в потенційних застосуваннях технології, яку створює Cusp.

• Ви маєте понад 3 роки досвіду в розробці продуктивності, надійності сайтів або низькорівневої розробки програмного забезпечення, спеціально зосередженого на високопродуктивних обчисленнях (HPC) або робочих навантаженнях ШІ.

• Експертне знання архітектури GPU та досвід оптимізації ядер CUDA або використання таких бібліотек, як Triton.

• Глибоке розуміння розподілених навчальних інфраструктур (наприклад, PyTorch Distributed, DeepSpeed ​​або Megatron-LM) і мережевих протоколів.

• Володіння такими інструментами профілювання, як Nsight Systems, Nsight Compute або Weights & Biases для відстеження продуктивності.

• Склад мислення «будівельника» зі здатністю автономно працювати на початковій стадії швидкого стартапу.

Бонусні бали (але не критичні):

• Досвід роботи зі спеціалізованим апаратним забезпеченням AI, таким як TPU або альтернативні прискорювачі.

• Академічна освіта або особистий інтерес до матеріалознавства, хімії чи фізики.

• Знання практик MLOps, зокрема щодо масштабного розгортання моделей у хмарних середовищах (AWS/GCP/Azure).

• Внески в оптимізацію продуктивності з відкритим кодом або бібліотеки машинного навчання.

Додаткові міркування
Ця посада може працювати в наших офісах у Кембриджі, Лондоні, Амстердамі чи Берліні, з очікуванням перебування в офісі три дні на тиждень. Крім того, можуть знадобитися регулярні поїздки в інші місця для співпраці та проектної роботи.
Очікується, що ви проведете принаймні кілька тижнів у нашому офісі в Кембриджі/Лондоні, вивчаючи нашу платформу та особисто знайомлячись з нами.

Крім того, можуть знадобитися регулярні поїздки до Європи та інших регіональних і глобальних місць для співпраці та проектної роботи.

Що ми пропонуємо

• Конкурентоспроможна зарплата: ми цінуємо й винагороджуємо вплив і зростання

• Власний капітал у CuspAI: ви зацікавлені в успіху компанії

• Відпустка, щоб залишатися свіжими: 28 днів вихідних (Німеччина, Нідерланди, Великобританія) або 21 день вихідних (Японія, SG, США), на додаток до місцевих державних свят

• Відпустка по догляду за дитиною за «золотим стандартом»: 26 тижнів (основний опікун) і 12 тижнів (другорядний опікун) із повною оплатою — ми піклуємося про вас і вашу сім’ю, поки разом працюємо над найважливішими проблемами виявлення матеріалів…

Джерело: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/cuspai/performance-engineer-london-237596)