Старший інженер з логічних висновків

Як старший інженер із логічних висновків у vCluster Labs, ви перший інженер, якого ми наймаємо, щоб володіти висновками. Ви співпрацюватимете безпосередньо з нашим технічним директором, щоб побудувати рівень логічного висновку платформи з нуля, беручи моделі та перетворюючи їх на конвеєр виробничого рівня, який працює у великих масштабах. Звідти ви допомагатимете керувати інженерним напрямком висновків у vCluster, співпрацюючи з Product, щоб формувати те, що ми будуємо далі в міру розвитку простору.

Як старший інженер з аналізу, ваша роль включатиме:

– Розгортання моделей у виробництві: візьміть LLM і запустіть їх у виробництво на одній або кількох машинах в інфраструктурі графічного процесора, володіючи повним конвеєром від запиту клієнта до наданої відповіді.

– Інфраструктура обслуговування: створюйте та керуйте інфраструктурою обслуговування за допомогою vLLM, SGLang або TensorRT-LLM.

– Оптимізація для масштабування: застосовуйте квантування, групування, кешування та маршрутизацію, щоб контролювати затримку та вартість у міру зростання трафіку.

– Програмування, а не просто конфігурація: створюйте справжню інфраструктуру на Python або Golang — це інженерна роль, а не дослідницька або наукова про дані.

– Володіння дорожньою картою: створіть першу ітерацію разом із нашим технічним директором, а потім візьміть на себе лідерство на платформі висновків і співпрацюйте з Product, щоб вирішити, що ми створимо далі.

Ця роль може підійти вам, якщо ви принесете:

– Досвід обслуговування LLM у виробництві: ви розгортали та обслуговували LLM за допомогою vLLM, SGLang або TensorRT-LLM, в ідеалі в компанії, побудованій на основі висновків у масштабі.

– Ноу-хау з оптимізації висновків: практичний досвід роботи з квантуванням, пакетуванням, кешуванням і маршрутизацією, а не лише знайомство з термінами.

– Практичний досвід програмування: сильні інженерні навички в Python або Golang, з реальним досвідом створення коду.

– Комунікація: Сильні комунікативні навички, чітке пояснення технічних концепцій як інженерам, так і нетехнічним зацікавленим сторонам.

Бонусні бали за:

– Знайомство з контейнерними середовищами (Docker, Kubernetes)

– Практичний генеративний досвід штучного інтелекту з поширеними фреймворками ML (PyTorch, Transformers)

– Добре розуміння стека GPU: CUDA, NCCL, драйвери та пов’язані бібліотеки

– Знання архітектури моделей і підходів до тонкого налаштування

– Досвід роботи з NVIDIA Dynamo

ПРО VCLUSTER LABS

Ми є платформою №1 для інфраструктури штучного інтелекту, якій довіряють найшвидше зростаючі у світі розробники хмар ШІ. Ми є венчурним стартапом, який залучив понад 28 мільйонів доларів США від провідних інвесторів, зокрема Khosla Ventures (перший інвестор у OpenAI, GitLab, Stripe і DoorDash), і ми перебуваємо на етапі гіперзростання, шукаючи вмотивованих людей, щоб приєднатися до нашої команди. Наша штаб-квартира знаходиться в Сан-Франциско (Salesforce Tower), але наша команда розподілена по всьому світу з культурою дистанційного керування.

Ми надаємо постачальникам послуг AI Cloud і фабрикам AI досвід, подібний до гіперскейлера, на їхній власній інфраструктурі GPU. На нашій платформі працює весь стек, потрібний оператору, від забезпечення «голого металу» й керування життєвим циклом вузлів до керованих кластерів Kubernetes, Slurm, Ray і висновків, тож вони можуть перетворити необроблені графічні процесори на кластерні продукти, які можна продати за кілька днів, замість того, щоб витрачати понад 12 місяців на самостійне створення. Сьогодні ми використовуємо понад 100 000 графічних процесорів і 1 мільйон центральних процесорів у понад 50 хмарах штучного інтелекту та компаніях зі списку Fortune 500 за підтримки команди з понад 40 інженерів інфраструктури, які створюють разом із нашими клієнтами, а не просто постачають їм програмне забезпечення.

Ми є компанією, що стоїть за vCluster, технологією з відкритим кодом для ізоляції клієнтів у Kubernetes, з 11 000+ зірок GitHub і 40 млн+ кластерів клієнтів, створених з 2021 року. Відкритий код є частиною нашої ДНК. На KubeCon North America 2025 ми запустили нашу платформу оренди інфраструктури для штучного інтелекту, власну структуру Kubernetes, створену для роботи з інтенсивними робочими навантаженнями штучного інтелекту, машинного навчання та графічного процесора будь-де, з перевіреною NVIDIA еталонною архітектурою для систем DGX.

Переваги

Ми пропонуємо наступні переваги:

– Конкурентоспроможна заробітна плата: ми пропонуємо конкурентоспроможний пакет компенсацій, включаючи власний капітал.

– Страхування платинового рівня: страхування здоров’я, стоматології, зору та життя, включаючи плани для вас і відповідних утриманців (пільги відрізняються залежно від країни).

– Гнучкий графік роботи: у вас запис на прийом до лікаря або вам потрібно піти в супермаркет за продуктами о 14:00? У нас з цим не буде проблем. Для нас результати важливіші, ніж приїзд і вихід щодня в один і той самий час.

– Гнучкість робочого місця: ми дуже гнучко ставимося до того, де ви працюєте. Ми знаємо, що в житті все може змінитися, і ми раді адаптувати робоче середовище для вас на цьому шляху.

КУЛЬТУРА ТА ЦІННОСТІ

У vCluster Labs ми цінуємо та підтримуємо:

1. Зробіть це дійсним: у нас є невпинна схильність до дій і сміливість долати перешкоди. Ми робимо все можливе, щоб це зрозуміти, докладаємо зусиль і безжалісно визначаємо пріоритети дій, які мають відчутний вплив на бізнес.

2. Відповідайте результату: ми розуміємо, що наша відповідальність не закінчується, коли завдання перевірено; він закінчується, коли значення доставлено. Ми пов’язуємо наші щоденні індивідуальні дії з ширшим успіхом компанії та наших клієнтів.

3. Створюйте Wow: ми вимірюємо успіх досвідом, який накопичуємо як у компанії, так і за її межами. Для наших клієнтів це означає вражаючу швидкість та інтуїтивно зрозумілий досвід. Для нашої команди це означає докласти максимум зусиль, щоб підтримати один одного та постійно рухати один одного до нових висот.

4. Open Source, Open Mind: Ми активно сприяємо та підтримуємо проекти з відкритим кодом. Внутрішньо ми підтримуємо меритократію — перемагають найсильніші ідеї, незалежно від того, звідки та звідки вони походять.

5. Навмисно створюйте стандарти завтрашнього дня: ми не просто доставляємо програмне забезпечення; ми визначаємо сучасне майбутнього. Ми безстрашно руйнуємо старі підходи, щоб створити щось краще, але ми дисципліновані в тому, як ми це робимо, оскільки ми знаємо, що наші користувачі покладаються на наші технології для запуску критично важливих інфраструктурних платформ.

Джерело: EU Remote Jobs (https://euremotejobs.com/job/senior-inference-engineer/)