Вакансія
З партнерського стрічки
Інженер-програміст, висновок
Ціна за запитом
Деталі
- Тип зайнятості
- Повна зайнятість
- Віддалено
- Ні
- Компанія
- Lumaai
Опис
Автоматичний переклад з English. Оригінальний текст є авторитетним. Машинний переклад — готується точніший варіант.
Ви будете володіти тим, як обслуговуватимуться моделі Luma — інтегруючи нові архітектури в систему логічних висновків, масштабуючи розгортання на тисячах машин і завантажуючи дорогий парк GPU, дотримуючись внутрішніх SLO.
Це широкомасштабна робота систем висновків: планування, керування парком, конвеєри розгортання та надійність між кластерами та постачальниками апаратного забезпечення. Він підходить для сильного системного інженера, який добре працює з моделюванням і масштабним Kubernetes. Якщо вам потрібне чисте моделювання, а не системи, які запускають моделі, це однозначно системна сторона.
Що ви будете володіти
• Поставте нові архітектури моделей, інтегрувавши їх у систему логічних висновків.
• Співпрацюйте між дослідницькими, інженерними та інфраструктурними підрозділами для оптимізації ефективності моделей і розгортання.
• Створюйте внутрішні інструменти для вимірювання, профілювання та відстеження тривалості виконання завдань і робочих процесів.
• Автоматизуйте, тестуйте та обслуговуйте служби висновків для максимального часу безвідмовної роботи та надійності.
• Керуйте та оптимізуйте робочі навантаження на кластери та постачальників обладнання, а також масштабуйте розгортання на тисячах машин.
• Створюйте системи планування, які оптимально використовують дорогі ресурси GPU, дотримуючись SLO, і підтримуйте CI/CD для контрольних точок моделі та SDK.
Перші 90 днів
Один із способів розвитку перших 90 років.
• Дні 1–30 — Занурення та діагностика: дізнайтеся про стек висновків, групи та місця, де надійність або використання порушуються.
• Дні 30–60 — відправлення та перевірка: інтегруйте інструменти/планування моделі або корабля, що покращує час безвідмовної роботи або використання GPU.
• Дні 60–90 — Масштабування та систематизація: посилення конвеєрів розгортання та планування в кластерах і постачальниках.
Що ви приносите
• Сильні навички роботи з Python і архітектурою системи.
• Досвід розгортання моделей за допомогою PyTorch, Hugging Face, vLLM, SGLang, TensorRT-LLM тощо.
• Досвід роботи з чергами, плануванням, контролем трафіку та керуванням автопарком у масштабі.
• Досвід роботи з Linux, Docker і Kubernetes, а також з оркестровкою, розгортанням і плануванням.
• Знайомство з Redis і S3-сумісним сховищем.
Приємно мати
• Сучасні мережеві стеки, включаючи RDMA (RoCE, InfiniBand, NVLink).
• Високопродуктивні великомасштабні системи ML (понад 100 GPU).
• CUDA та FFmpeg або обробка мультимедіа.
Про Luma: Місія Luma полягає в створенні єдиного загального інтелекту, який може генерувати, розуміти та працювати у фізичному світі. Ми вважаємо, що мультимодальність має вирішальне значення для інтелекту — наступним кроком за межі мовних моделей є бачення. Luma є роботодавцем рівних можливостей.
Знайдіть роботу у Великій Британії на Arbeitnow
Джерело: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/lumaai/software-engineer-inference-london-107112)
Це широкомасштабна робота систем висновків: планування, керування парком, конвеєри розгортання та надійність між кластерами та постачальниками апаратного забезпечення. Він підходить для сильного системного інженера, який добре працює з моделюванням і масштабним Kubernetes. Якщо вам потрібне чисте моделювання, а не системи, які запускають моделі, це однозначно системна сторона.
Що ви будете володіти
• Поставте нові архітектури моделей, інтегрувавши їх у систему логічних висновків.
• Співпрацюйте між дослідницькими, інженерними та інфраструктурними підрозділами для оптимізації ефективності моделей і розгортання.
• Створюйте внутрішні інструменти для вимірювання, профілювання та відстеження тривалості виконання завдань і робочих процесів.
• Автоматизуйте, тестуйте та обслуговуйте служби висновків для максимального часу безвідмовної роботи та надійності.
• Керуйте та оптимізуйте робочі навантаження на кластери та постачальників обладнання, а також масштабуйте розгортання на тисячах машин.
• Створюйте системи планування, які оптимально використовують дорогі ресурси GPU, дотримуючись SLO, і підтримуйте CI/CD для контрольних точок моделі та SDK.
Перші 90 днів
Один із способів розвитку перших 90 років.
• Дні 1–30 — Занурення та діагностика: дізнайтеся про стек висновків, групи та місця, де надійність або використання порушуються.
• Дні 30–60 — відправлення та перевірка: інтегруйте інструменти/планування моделі або корабля, що покращує час безвідмовної роботи або використання GPU.
• Дні 60–90 — Масштабування та систематизація: посилення конвеєрів розгортання та планування в кластерах і постачальниках.
Що ви приносите
• Сильні навички роботи з Python і архітектурою системи.
• Досвід розгортання моделей за допомогою PyTorch, Hugging Face, vLLM, SGLang, TensorRT-LLM тощо.
• Досвід роботи з чергами, плануванням, контролем трафіку та керуванням автопарком у масштабі.
• Досвід роботи з Linux, Docker і Kubernetes, а також з оркестровкою, розгортанням і плануванням.
• Знайомство з Redis і S3-сумісним сховищем.
Приємно мати
• Сучасні мережеві стеки, включаючи RDMA (RoCE, InfiniBand, NVLink).
• Високопродуктивні великомасштабні системи ML (понад 100 GPU).
• CUDA та FFmpeg або обробка мультимедіа.
Про Luma: Місія Luma полягає в створенні єдиного загального інтелекту, який може генерувати, розуміти та працювати у фізичному світі. Ми вважаємо, що мультимодальність має вирішальне значення для інтелекту — наступним кроком за межі мовних моделей є бачення. Luma є роботодавцем рівних можливостей.
Знайдіть роботу у Великій Британії на Arbeitnow
Джерело: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/lumaai/software-engineer-inference-london-107112)
Це оголошення надходить із партнерського фіду. Подайте заявку на сайті джерела.
Джерело: Lumaai
Розташування
Лондон, Велика Британія
Оголошення надано Lumaai.
