Инженер-исследователь искусственного интеллекта (оптимизация ядра и вывода)

Эта должность указана от имени компании-партнера, которая управляет всеми приложениями и последующими шагами. Наш партнер ищет инженера-исследователя искусственного интеллекта (оптимизация ядра и вывода) во Франции.

Вы будете работать на стыке исследований искусственного интеллекта, системной инженерии и вывода высокопроизводительных моделей.
Ваше внимание будет сосредоточено на разработке и оптимизации архитектур обслуживания моделей для передовых систем искусственного интеллекта в различных аппаратных средах.
Вы будете решать проблемы, связанные с задержкой, пропускной способностью, эффективностью памяти и масштабируемостью, включая развертывание на мобильных и периферийных устройствах с ограниченными ресурсами.
Эта роль сочетает в себе практические исследования с низкоуровневым проектированием, что дает вам возможность разрабатывать новые стратегии вывода и ядра графических процессоров.
Вы будете работать со сложными архитектурами, охватывающими текст, изображения, аудио, модели диффузии и преобразователи изображения.
Ваша работа будет включать в себя тщательный сравнительный анализ, производственное тестирование и итеративную оптимизацию, чтобы превратить исследования в измеримые улучшения производительности.
Вы будете сотрудничать с межфункциональными командами в высокотехнологичной удаленной среде, ориентированной на расширение границ эффективных систем искусственного интеллекта.

Ответственность

• Разрабатывать и развертывать передовые архитектуры обслуживания моделей, оптимизированные для обеспечения высокой пропускной способности, низкой задержки и эффективного использования памяти.

• Разрабатывать конвейеры вывода, способные эффективно работать в различных средах, включая мобильные устройства с ограниченными ресурсами и периферийные платформы.

• Установите четкие целевые показатели производительности, охватывающие задержку ответа, скорость генерации токенов, пропускную способность, объем памяти и надежность.

• Создавайте и выполняйте тесты контролируемого вывода в моделируемых и производственных средах, отслеживая задержку, пропускную способность, потребление памяти и частоту ошибок.

• Создавать и поддерживать репрезентативные наборы данных и сценарии моделирования для оценки производительности модели в реальных условиях и условиях ограниченности ресурсов.

• Выявлять узкие места в вычислениях и памяти в конвейерах вывода и внедрять решения, включающие пакетную обработку, работу в сети, управление памятью и другие оптимизации на уровне системы.

• Разрабатывать собственные ядра графических процессоров и вычислительные шейдеры для мобильного оборудования, включая решения, написанные на языке Metal Shading Language (MSL).

• Применять передовые методы оптимизации вывода, такие как обрезка, квантование, мгновенное внимание, KV-кэширование и спекулятивное декодирование.

• Проектируйте и оптимизируйте системы распределенного вывода, используя такие подходы, как тензорный параллелизм, конвейерный параллелизм и экспертный параллелизм для крупномасштабных рабочих нагрузок на графических процессорах.

• Работайте с межфункциональными инженерными и исследовательскими группами для интеграции оптимизированных структур вывода в производственные приложения и приложения для периферийных устройств.

• Определить методологии оценки, документировать результаты экспериментов, сравнивать производительность с установленными контрольными показателями и постоянно совершенствовать стратегии оптимизации.

• Отслеживайте производительность производства и используйте эмпирические исследования для определения возможностей дальнейшего улучшения масштабируемости, эффективности и надежности.

Требования:

• Степень в области компьютерных наук или смежной технической области; Докторская степень в области НЛП, машинного обучения или смежных дисциплин весьма актуальна, особенно с учетом большого опыта исследований в области искусственного интеллекта и публикаций на ведущих конференциях.

• Подтвержденный опыт работы с языком Metal Shading Language (MSL), включая способность писать собственные вычислительные шейдеры с нуля.

• Подтвержденный опыт низкоуровневой оптимизации ядра и оптимизации вывода на мобильных или других устройствах с ограниченными ресурсами.

• Опыт достижения измеримых улучшений задержки вывода, пропускной способности и объема памяти для приложений, специфичных для конкретной предметной области.

• Глубокое понимание современных архитектур обслуживания моделей, механизмов вывода и методов оптимизации для высокопроизводительного развертывания ИИ.

• Большой опыт написания ядер графических процессоров для мобильных устройств, таких как смартфоны.

• Практический опыт разработки и внедрения сквозных конвейеров вывода, от оптимизации модели до интеграции производства на ограниченном оборудовании.

• Сильная способность применять эмпирические исследования и систематические эксперименты для решения проблем с задержкой, вычислениями и памятью.

• Опыт разработки надежных систем оценки и сравнительного анализа для систем вывода.

• Знание методов распределенного вывода, включая тензорный параллелизм, конвейерный параллелизм и экспертный параллелизм для крупномасштабных кластеров графических процессоров.

• Глубокое понимание математических основ и архитектуры диффузионных моделей и преобразователей зрения.

• Знакомство с современными методами оптимизации вывода, включая обрезку, квантование, Flash Attention, оптимизацию KV-кэша и спекулятивное декодирование, такое как EAGLE.

• Сильные аналитические способности и способности к решению проблем, а также способность исследовать узкие места сложных систем и превращать результаты исследований в практические инженерные решения.

• Отличные коммуникативные навыки английского языка и способность эффективно сотрудничать с распределенными межфункциональными техническими командами.

Преимущества:

• Возможность работать над передовыми системами искусственного интеллекта, охватывающими обслуживание моделей, оптимизацию вывода, мобильные вычисления, периферийное развертывание и крупномасштабный распределенный вывод.

• Удаленная рабочая среда с международной командой.

• Знакомство с передовыми исследованиями в области искусственного интеллекта и практическими задачами системного проектирования.

• Возможность внести свой вклад в критически важную инфраструктуру, улучшения которой могут оказать заметное влияние на реальные приложения искусственного интеллекта.

• Среда совместной работы, сочетающая научно-исследовательские эксперименты с практическим проектированием.

• Возможность работать с передовыми архитектурами моделей, включая диффузионные модели, преобразователи изображения и мультимодальные системы.…

Источник: Arbeitnow (https://www.arbeitnow.fr/jobs/companies/jobgether/ai-research-engineer-kernel-inference-optimization-france-4730).