Інженер-дослідник, Forge

Про Містраль
Mistral пропонує комплексні рішення штучного інтелекту: від передових моделей до інструментів розробника, додатків і обчислень. Ми співпрацюємо з підприємствами, які вирішують найскладніші проблеми в галузях із високими ставками, як-от фінанси, виробництво, оборона, охорона здоров’я та державний сектор, спільно створюючи індивідуальні системи штучного інтелекту, які вони можуть використовувати на своїх умовах.
Ми — динамічна команда, яка співпрацює, захоплюючись ШІ та його потенціалом для трансформації суспільства. Наша різноманітна робоча сила процвітає в конкурентному середовищі та прагне просувати інновації. Наші команди розподілені по Європі, Північній Америці, Азії та Близькому Сходу. Ми креативні, стримані та командні.

Резюме ролі
Як інженер-дослідник у Forge ви перетворите реальні вимоги клієнтів у надійні робочі процеси навчання та розгортання. Ви працюватимете наскрізно над адаптацією моделі та після навчання (CPT/SFT/RL/дистиляція), оцінюванням, даними та інфраструктурою. Роль поєднує дослідницькі експерименти та виробничі обмеження.
Ця роль належить до прикладної науки та безпосередньо впливає на результати роботи клієнтів. Ви тісно співпрацюватимете з науковцями, інженерами, командами, які працюють із продуктами та клієнтами, щоб забезпечити доставку проектів Forge, їх придатність до обслуговування та можливість довіряти іншим.
Фокус співбесіди може бути різним (алгоритми, інфраструктура, оцінки або дані). Щоб подати заявку, не обов’язково відповідати кожному наведеному нижче списку.

Що ви будете робити

• Створюйте та вдосконалюйте робочі процеси після навчання та оцінки (CPT/SFT/RL/дистиляція), перетворюючи прототипи на повторювані «рецепти» Forge.

• Розробка інструментів і конвеєрів для генерації синтетичних даних, контролю даних, навчання, оцінювання та розгортання.

• Налагодження та посилення великомасштабних систем машинного навчання: розподілене навчання, планування/виконання, контрольні точки, можливість спостереження та відтворюваність.

• Покращте кодову базу Forge за допомогою чітких API, тестів, документації та абстракцій, які можна підтримувати.

• Розсувайте межі нашого навчального стеку RL (наприклад, високопродуктивне асинхронне розгортання та масштабовані системи після навчання в масштабі передової моделі)

• Переконайтеся, що розгортання Forge є безперебійним і адаптованим до різноманітних клієнтів (доступ до апаратного забезпечення, стек програмного забезпечення, хмара та локальна мережа, …)

• Співпрацюйте з дослідниками та інженерами інфраструктури, щоб перетворити вузькі місця на конкретні вдосконалення системи.

Про вас

• Сильні інженерні навички Python і досвід роботи з великими кодовими базами (тестування, перегляд коду, CI, операційна власність).

• Практичний досвід роботи з PyTorch, JAX тощо.

• Надійні системи та основи інфраструктури.

• Досвід підготовки LLM або після навчання: тонке налаштування, RL, дистиляція, оцінка та/або конвеєри даних.

• Відмінні навички налагодження в неоднозначних системах (розподілені завдання, проблеми з даними, регресії якості, збої в інфраструктурі).

• Чітка комунікація з технічними та нетехнічними зацікавленими сторонами.

• Висока свобода волі, низьке его та комфорт у швидкоплинних, недостатньо визначених середовищах.

Приємно мати

• Розподілений досвід навчання (FSDP, DeepSpeed, Megatron тощо).

• Досвід кластера/оркестровки (SLURM, Ray, Kubernetes, Kueue, Karpenter, Skypilot тощо).

• Досвід створення надійної інфраструктури машинного навчання, систем оцінювання або великомасштабних конвеєрів обробки даних.

• Досвід досліджень у LLM, агентах, мультимодальних моделях, міркуваннях, коді або адаптації домену.

• Внески з відкритим кодом, публікації або широко використовувані внутрішні інструменти.

• Досвід навчання моделей із кількома мільярдами параметрів (попереднє навчання або RL). Досвід навчання на наборах даних у петабайтному та ексабайтному масштабі.

• Здатність визначати вузькі місця в стеку та здійснювати вдосконалення, починаючи з початкових принципів.

Що ми пропонуємо
Ми пропонуємо комплексний пакет переваг, розроблений для підтримки вашого добробуту, розвитку та балансу між роботою та особистим життям. Пільги залежать від країни та можуть включати медичне страхування, відпустку по догляду за дитиною, пенсійні плани, підтримку при переїзді, оздоровчі програми, компенсації на харчування та транспортування та інші пільги, залежні від місця проживання.
Щоб отримати найновішу інформацію про переваги, доступні у вашому регіоні, перегляньте нашу сторінку переваг .

Політика конфіденційності
Ваша конфіденційність важлива для нас. Ви можете дізнатися більше про те, як ми обробляємо ваші персональні дані, у нашій Політиці конфіденційності заявника.
Знайдіть роботу у Франції на Arbeitnow

Джерело: Arbeitnow (https://www.arbeitnow.fr/jobs/companies/mistralai/research-engineer-forge-paris-155448)