Інженер передового розгортання висновків

Про Tensordyne

Tensordyne створює новий клас системи висновків штучного інтелекту, розробленої для високопродуктивного та енергоефективного розгортання найвибагливіших у світі генеративних робочих навантажень ШІ.

Наша платформа поєднує в собі спеціально створений кремнієвий процесор, нову математику ШІ, оптимізовану масштабовану мережу та архітектуру пам’яті в тісно інтегровану систему, створену для широкомасштабного висновку ШІ. Ми працюємо з гіпермасштабувальниками, Neoclouds, розробниками передових моделей, підприємствами та інфраструктурними партнерами, які працюють на передовій основі ШІ.

У міру того як Tensordyne переходить від розробки системи до розробки кремнію, перевірки клієнта, розгортання бета-версії та розгортання виробництва, ми створюємо технічну організацію клієнтів, яка буде знаходитися безпосередньо між нашими інженерними командами та компаніями, що розгортають платформу.

Резюме ролі

Ми шукаємо інженера з передового розгортання висновків, який поєднує глибокий досвід систем ШІ з сильним чуттям клієнта. Ця особа контролюватиме шлях від робочого навантаження клієнта або запиту на модель до технічного результату та, за потреби, до оптимізованої моделі, яка успішно працює на апаратному та програмному забезпеченні Tensordyne.

Ця роль знаходиться на перетині архітектури моделі, продуктивності висновків, оптимізації систем, інструментів розробника та розгортання клієнта. Ви будете працювати практично з розробкою, а також виступатимете технічним мостом до продукту, BizDev, відділу продажів і клієнтів.

Що ви будете робити

• Перетворіть робочі навантаження клієнта на швидкі, достовірні відповіді щодо ефективності за допомогою профілювання та порівняльного аналізу. Визначте релевантні KPI, порівняйте з базовими рівнями конкурентів і підтримуйте нашу методологію оцінки в актуальному стані за допомогою зовнішніх контрольних показників.

• Увімкнення та оптимізація моделей: конвертуйте та виводьте моделі клієнтів на стек Tensordyne, перевіряйте якість чисельних даних, виявляйте вузькі місця продуктивності та працюйте з командами компілятора, середовища виконання, ядра та системи для покращення результатів.

• Розгортання / подальше проектування: працюйте безпосередньо з клієнтами та партнерами над технічними PoC, інтеграцією, розгортанням і налагодженням; перетворення вимог у вимірювані критерії прийнятності щодо якості, затримки, пропускної спроможності та інших відповідних KPI.

• Відстежуйте точність профілювання до апаратного забезпечення, постійно порівнюючи результати профілювання/моделювання з фактичним розгортанням апаратного забезпечення, пояснюйте прогалини в матеріалах і позначайте відсутні можливості в компіляторі, SDK, сервері висновків, управлінні KV-кешем або суміжних системах для команд-власників.

• Перетворіть неодноразові знання, отримані від клієнтів, на багаторазові інструменти, документацію, контрольні показники або вдосконалення продукту.

Основні кваліфікації

• Багатий практичний досвід роботи з моделями AI та системами виведення, особливо щільними та MoE LLM (Llama, DeepSeek, Qwen, GPT-OSS, Kimi, GLM), а також моделями VLM, мовлення та дифузії.

• Сильні навички роботи з Python і PyTorch, а також уміння розуміти та змінювати код моделі.

• Досвід профілювання, порівняльного аналізу або оптимізації моделювання та міркування про затримку, пропускну здатність, пам’ять і використання.

• Сильні навички вирішення проблем і комунікації, а також здатність вирішувати неоднозначні технічні проблеми за межами команди.

• Вміння користуватися інструментами розробника на основі ШІ (наприклад, Claude Code, Cursor).

Сильні плюси

• Досвід роботи зі стеками для обслуговування та розгортання LLM, такими як vLLM, SGLang або подібні системи.

• Досвід роботи безпосередньо з клієнтами або зовнішніми технічними партнерами.

• Досвід створення моделей на нових прискорювачах або нестандартному апаратному забезпеченні, включно з налагодженням продуктивності через межі фреймворку/виконання/апаратного забезпечення.

• Практичний досвід роботи з такими методами або середовищами, як квантування, розподілений висновок або Kubernetes.

• Досвід навігації та внеску в кодові бази Rust.

Культура Tensordyne була побудована на наступних цінностях

• Ставте людей на перше місце. Ми досягаємо успіху лише тоді, коли досягають успіху наші люди.

• Етичність і чесність завжди; Бути відкритим, чесним і поважати всіх.

• Мисліть масштабно. Будьте амбітними та ставте сміливі цілі.

• Прагніть до досконалості. Якість і досконалість важливі у всьому, що ми робимо.

• Владійте цим і робіть це. Результат має значення!

• Зробіть кожну людину кращою разом, ніж вони були б окремо.

• Прийміть відмінності один одного та погодіться, що відмінності будуть.

Tensordyne є роботодавцем рівних можливостей. Ми віримо, що різноманітні команди краще підготовлені для вирішення складних проблем і створення виняткової технології. Усі кваліфіковані заявники отримають розгляд при працевлаштуванні незалежно від віку, кольору шкіри, гендерної ідентичності чи самовираження, сімейного стану, національного походження, інвалідності, захищеного статусу ветерана, раси, релігії, вагітності, сексуальної орієнтації чи будь-яких інших ознак, які захищаються чинними законами, постановами та постановами.

Примітка кадровим агентствам: будь ласка, не зв’язуйтесь із співробітниками чи керівниками Tensordyne щодо цієї ролі. Ми не приймаємо самостійні резюме від агентств і не несемо відповідальності за комісії, пов’язані з незапрошеними заявками.
Знайдіть більше англомовних вакансій у Німеччині на Arbeitnow

Джерело: Arbeitnow (https://www.arbeitnow.com/jobs/companies/tensordyne/forward-deployed-inference-engineer-munich-202489)