Инженер-исследователь, задержка и пропускная способность

О Мистрале
Mistral предлагает комплексные решения в области искусственного интеллекта: от передовых моделей до инструментов разработки, приложений и вычислений. Мы сотрудничаем с предприятиями, решающими самые сложные проблемы в таких важных отраслях, как финансы, производство, оборона, здравоохранение и государственный сектор, совместно создавая индивидуальные системы искусственного интеллекта, которые они могут использовать на своих условиях.
Мы — динамичная, сплоченная команда, увлеченная искусственным интеллектом и его потенциалом преобразования общества. Наш разнообразный персонал процветает в конкурентной среде и стремится внедрять инновации. Наши команды распределены по Европе, Северной Америке, Азии и Ближнему Востоку. Мы креативны, с низким эго и командным духом.

Роль
В качестве инженера-исследователя в команде Latency & Throughput вы раздвинете границы логического вывода LLM, исследуя и создавая прототипы методов, которые уменьшают задержку и увеличивают пропускную способность — от спекулятивного декодирования и квантования до KV-сжатия и новых вариантов внимания. Команда находится на стыке исследований и производства: вы берете идеи из новейшей литературы, формируете гипотезы, проводите эксперименты и отправляете проверенные методы в нашу систему обслуживания.
Эта роль находится между нашими инженерами по выводам, которые владеют стеком обслуживания производства, и нашими учеными-исследователями, которые сосредоточены на вкладах на уровне бумаги. Вы будете больше ориентированы на науку, чем чистый инженер: от вас ожидают, что вы будете генерировать новые идеи, идти в ногу с современным уровнем техники и внедрять доказательства концепции, которые устранят разрыв между академическими результатами и влиянием на производство. Некоторые методы, которые вы изучаете, будут работать с потерями или требовать интеграции в обучение — переобучение моделей, настройка архитектуры или обучение вспомогательных моделей для улучшения вывода.
Вы будете тесно сотрудничать с командами Inference Foundation и Kernels, которые превращают ваши проверенные методы в производственные рецепты, а также с командами предварительного обучения и RL, когда ваша работа касается обучения моделей. Успех измеряется продемонстрированным увеличением задержки или пропускной способности, сначала в небольших масштабах, а затем внедренным в производство.

Что ты будешь делать

• Исследования и методы вывода прототипов — спекулятивное декодирование, квантование, KV-сжатие, водяные знаки и новые архитектуры моделей — путем чтения новейшей литературы и формирования проверяемых гипотез.

• Разрабатывайте и проводите эксперименты для проверки или опровержения идей, быстро выполняя итерации на небольших установках, прежде чем предлагать интеграцию в производство. Продемонстрируйте явное увеличение задержки или пропускной способности без неприемлемой потери качества.

• Сотрудничать с командой Inference Foundation для интеграции проверенных методов в стек обслуживания на основе vLLM.

• Сотрудничайте с командами предварительного обучения и RL, когда методы требуют совместного обучения, переобучения или обучения вспомогательных моделей для улучшения вывода.

Создайте подходящие инструменты и платформы проверки для облегчения исследований на основе искусственного интеллекта.

Что мы ищем

• Хороший опыт в области машинного обучения и глубокие знания методов обучения LLM — архитектуры, токенизации, тонкой настройки и оценки.

• Практический опыт работы с Python и PyTorch; вы пишете чистый, экспериментальный код и быстро выполняете итерации. JAX приемлем при хорошем знании Python. C++ и Rust не обязательны, приветствуются знания CUDA и GPU, но практический опыт не требуется.

• Исследовательский опыт той или иной формы: диссертация, публикации, специальный исследовательский проект или ориентированная на эффективность работа в лабораторных или отраслевых исследованиях. Докторская степень не требуется, но мы ищем настоящую глубину исследований.

• Опыт проведения экспериментов: формирование гипотез, разработка контролируемых сравнений и получение четких выводов на основе результатов.

• Знакомство с современным уровнем подготовки выводов LLM — вы знаете, что было опробовано, что работает и где есть открытые проблемы.

• Самостоятельность, низкое эго и готовность к сотрудничеству. Вам комфортно с двусмысленностью, отрицательными результатами и вы готовы взять дело в свои руки.

• Опыт работы или опыт работы являются плюсом, а не требованием. Предварительная работа с vLLM, производственными развертываниями LLM или обслуживающими системами поможет вам ускорить темпы роста.

Расположение и удаленность
Эта роль базируется в наших офисах в Париже или Лондоне (гибрид). Мы будем отдавать предпочтение кандидатам, которые проживают в районе Парижа или готовы к переезду. Мы твердо верим в ценность личного сотрудничества для укрепления крепких отношений и бесперебойного общения внутри нашей команды. Для руководящих должностей мы также рассматриваем удаленных кандидатов из Франции. В этом случае мы просим всех новых сотрудников посетить наш парижский офис:

• В течение первой недели после адаптации (проживание и проезд включены)

• Затем не менее 3 дней в месяц

Что мы предлагаем
Мы предлагаем комплексный пакет льгот, предназначенный для поддержки вашего благополучия, роста и баланса между работой и личной жизнью. Льготы различаются в зависимости от страны и могут включать медицинское страхование, отпуск по уходу за ребенком, пенсионные планы, поддержку при переезде, оздоровительные программы, пособия на питание и транспорт, а также другие льготы, зависящие от местоположения.
Для получения самой последней информации о преимуществах, доступных в вашем регионе, посетите нашу страницу «Преимущества» .

Политика конфиденциальности
Ваша конфиденциальность важна для нас. Вы можете узнать больше о том, как мы обрабатываем ваши персональные данные, в нашей Политике конфиденциальности кандидатов.
Найдите работу во Франции на Arbeitnow

Источник: Arbeitnow (https://www.arbeitnow.fr/jobs/companies/mistralai/research-engineer-latency-throughput-paris-319073)