Передовий розгорнутий висновок ШІ інженера

Роль
Ви будете володіти технічною стороною наших найбільших і найскладніших угод щодо висновків, від першого виклику відкриття до запуску. Ви є надійним технічним партнером для технічних директорів і лідерів з ML наших клієнтів, ви розробляєте налаштування, які запускають їхні моделі, і ви працюєте рука об руку з нашою комерційною командою, щоб укладати угоди.
Ви станете одним із двох старших технічних власників наших угод щодо висновків. Разом із нашим керівником відділу продажів Inference Sales Engineering ви також перетворите те, що ми дізнаємося в цій галузі, на повторюваний посібник і продукт.

Що ви зробите

• Перевіряйте технічну сторону наших найбільших і найскладніших угод щодо висновків від кінця до кінця, від відкриття до запуску

• Будьте старшим технічним партнером для технічних директорів і керівників ML з питань архітектури, розмірів, SLA, компромісів затримки/пропускної здатності та вартості

• Розробка спеціальних установок логічного висновку: вибір моделі, тип графічного процесора та кількість, паралелізм, квантування, механізм логічного висновку та конфігурація

• Провідні тести та докази концепції та перетворюйте результати на чіткі рекомендації

• З нашою командою інженерів обговорюйте налаштування клієнта та вирішуйте, що стане продуктом

• Створіть посібник і інструменти для відповідності робочих навантажень графічним процесорам і доповніть нашу дорожню карту тим, що ви дізналися в цій галузі

• Співпрацюйте з нашою комерційною командою над ціноутворенням, пропозиціями та технічними частинами контрактів

Що ми шукаємо

• Ступінь у галузі інформатики, науки про дані або тісно пов’язаної галузі

• 4+ роки роботи на технічній посаді, яка працює з клієнтами, напр. інженер з рішень або продажів, інженер із передовим розгортанням, інженер з ML, який тісно співпрацює з клієнтами, або технічний консультант

• Практичний досвід роботи з висновками LLM і моделюванням (наприклад, vLLM, SGLang, TensorRT-LLM, Triton) і розміром GPU

• Досвід володіння технічною стороною складних угод B2B, в ідеалі з корпоративними клієнтами

• Вам довіряють як технічні директори клієнтів, так і інженери, і ви чітко пояснюєте компроміси

• Підприємницьке мислення: дасть вам результат, і ви знайдете шлях, не блокуючись

• Вільне володіння англійською мовою

Бонусні бали

• Досвід роботи в компанії, що займається розробкою логічних висновків, хмарою GPU або інфраструктурою ШІ

• Порівняльний аналіз і оптимізація продуктивності: пропускна здатність, затримка, вартість токена

• Досвід роботи з квантуванням, стратегіями паралелізму, KV-кешем і пакетуванням

• Досвід запуску

• Німецька

чому ми

• Видатна команда: працюйте з одними з найкращих у світі інженерів із хедж-фондів, великих технологічних компаній, стартапів зі штучним інтелектом і провідних університетів

• Можливість, яка є лише раз у житті: компанія на ранній стадії розвитку на ринку, що найшвидше розвивається у світі

• Право власності: визначте, як європейські компанії штучного інтелекту отримують доступ до GPU

• Європейська місія: створити суверенну, сумісну з GDPR інфраструктуру ШІ для наступного покоління глибинних технологій

Знайдіть роботу в Німеччині на Arbeitnow

Джерело: Arbeitnow (https://www.arbeitnow.com/jobs/companies/lyceum/forward-deployed-engineer-ai-inference-berlin-47198)