Инженер по производительности

О КуспАИ
CuspAI — передовая компания в области искусственного интеллекта, миссия которой заключается в создании революционных материалов, необходимых для содействия человеческому прогрессу. Хотя природе потребовались миллиарды лет, чтобы усовершенствовать молекулы, мы используем ИИ, чтобы открыть прорывные материалы стоимостью в триллионы долларов за месяцы, а не тысячелетия. Наша команда основателей является самой цитируемой в мире и состоит из исследователей мирового уровня в области искусственного интеллекта, химии и инженерии.

Мы работаем над некоторыми из самых сложных и важных задач, включая энергетику, чистую воду, будущее вычислений и улавливание углерода, и это только начало того, что откроет наша «поисковая система» для материалов следующего поколения.

Мы приглашаем вас стать частью разнообразной инновационной команды на стыке искусственного интеллекта и материаловедения, работающей над созданием эффективных партнерских отношений, способствующих инновациям, масштабируемости и отраслевому сотрудничеству. Эта работа имеет значение. Ваша работа имеет значение.

Мы находимся на пороге эры материалов по требованию. Присоединяйтесь к нам.

Роль
В связи с быстрым ростом наших требований к вычислениям мы ищем инженера по производительности, который станет жизненно важным мостом между нашими передовыми моделями ИИ и нашей высокопроизводительной вычислительной инфраструктурой.

Ваше влияние
На этой должности вы будете создавать уровни оптимизации и инфраструктуру профилирования, которые максимизируют эффективность наших крупномасштабных рабочих нагрузок по обучению и выводам, что имеет решающее значение для ускорения нашего процесса открытия материалов и обеспечения того, чтобы наши исследователи могли выполнять итерации со скоростью мысли.

В CuspAI компьютеры — наш самый ценный ресурс. Первоначально ваше основное внимание будет сосредоточено на профилировании наших текущих обучающих прогонов для выявления узких мест в использовании модели FLOP (MFU). Со временем вы, вероятно, будете участвовать в разработке собственных ядер и низкоуровневых оптимизациях, которые позволят нам обучать более крупные и сложные модели химии и физики, которые ранее были непомерно вычислительными.

Что ты будешь делать
Оптимизация обучения и вывода

• Анализировать архитектуру моделей, чтобы оптимизировать отображение математических операций на аппаратном обеспечении, уделяя особое внимание ядрам графических процессоров NVIDIA и уровням коллективной связи (NCCL).

• Внедрить современные методы повышения эффективности, такие как квантование, сокращение моделей и дистилляция, чтобы снизить задержку для API-интерфейсов нашей «поисковой системы» материалов.

• Оптимизируйте конвейеры данных, чтобы гарантировать, что высокопроизводительные ускорители никогда не будут испытывать нехватки данных во время массовых обучающих запусков.

Профилирование, наблюдаемость и управление затратами

• Используйте расширенные инструменты наблюдения, чтобы отслеживать сквозное выполнение заданий обучения, определяя точные места сбоев в обработке или конфликтов между соединениями.

• Создавайте и обслуживайте информационные панели в режиме реального времени, отслеживающие важные показатели системы, включая MFU, использование полосы пропускания памяти и время безотказной работы кластера.

• Контролируйте и обосновывайте использование наших ускорителей искусственного интеллекта (например, кластеров H100), предотвращая простои и утечки памяти, чтобы гарантировать, что каждый доллар, затраченный на вычисления, преобразуется в научный прогресс.

• Разрабатывать законы масштабирования и внутренние инструменты для прогнозирования поведения системы применительно к вычислениям, памяти и сети по мере роста числа параметров наших моделей.

Междисциплинарное сотрудничество

• Тесно сотрудничать с исследователями искусственного интеллекта, чтобы адаптировать архитектуру моделей для обеспечения лучшей совместимости оборудования без ущерба для научной точности.

• Сотрудничайте с командой по инфраструктуре, чтобы влиять на проектирование наших будущих вычислительных кластеров на основе данных о производительности и результатов профилирования.

Должны иметь навыки и квалификацию:

• Вы тот, кто воодушевлен возможностью дать ученым возможность работать над проблемами, меняющими мир в этой области, и лично заинтересованы в потенциальных приложениях технологии, которую создает Cusp.

• У вас есть опыт работы более 3 лет в области проектирования производительности, обеспечения надежности объектов или разработки низкоуровневого программного обеспечения, специально ориентированного на высокопроизводительные вычисления (HPC) или рабочие нагрузки искусственного интеллекта.

• Знание архитектуры графического процессора на экспертном уровне и опыт оптимизации ядер CUDA или использования таких библиотек, как Triton.

• Глубокое понимание инфраструктур распределенного обучения (например, PyTorch Distributed, DeepSpeed ​​или Megatron-LM) и сетевых протоколов.

• Владение инструментами профилирования, такими как Nsight Systems, Nsight Compute или Weights & Biases, для отслеживания производительности.

• Мышление «строителя» с возможностью работать автономно на ранней стадии, в быстро развивающейся среде стартапа.

Бонусные баллы (но не критичные):

• Опыт работы со специализированным оборудованием искусственного интеллекта, таким как TPU или альтернативные ускорители.

• Академическое образование или личный интерес к материаловедению, химии или физике.

• Знание практик MLOps, особенно в отношении масштабного развертывания моделей в облачных средах (AWS/GCP/Azure).

• Вклад в библиотеки оптимизации производительности или машинного обучения с открытым исходным кодом.

Дополнительные соображения
Эту роль можно было бы разместить в наших офисах в Кембридже, Лондоне, Амстердаме или Берлине, при этом предполагается, что вы будете находиться в офисе три дня в неделю. Кроме того, могут потребоваться регулярные поездки в другие места для сотрудничества и работы над проектами.
Ожидается, что в рамках адаптации вы проведете как минимум несколько недель в нашем офисе в Кембридже/Лондоне, изучая нашу платформу и знакомясь с нами лично.

Кроме того, могут потребоваться регулярные поездки в Европу и другие региональные и глобальные места для сотрудничества и работы над проектами.

Что мы предлагаем

• Конкурентоспособная заработная плата: мы ценим и вознаграждаем результаты и рост.

• Акционерный капитал в CuspAI: вы заинтересованы в успехе компании.

• Свободное время, чтобы оставаться свежим: 28 дней отпуска (Германия, Нидерланды, Великобритания) или 21 день отпуска (Япония, Юг, США), помимо местных государственных праздников.

• Отпуск по уходу за ребенком «Золотой стандарт»: 26 недель (основной опекун) и 12 недель (второй опекун) с полной оплатой — мы заботимся о вас и вашей семье, пока вместе работаем над наиболее важными проблемами поиска материалов…

Источник: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/cuspai/ Performance-engineer-london-237596).