Штатный инженер-программист, Инференция

CoreWeave — это необходимое облако для искусственного интеллекта™. Созданная пионерами для пионеров, CoreWeave предоставляет платформу технологий, инструментов и команд, которая позволяет новаторам уверенно создавать и масштабировать ИИ. CoreWeave, которому доверяют ведущие лаборатории искусственного интеллекта, стартапы и глобальные предприятия, сочетает в себе превосходную производительность инфраструктуры с глубокими техническими знаниями для ускорения прорывов и превращения вычислений в возможности. Основанная в 2017 году, CoreWeave стала публичной компанией (Nasdaq: CRWV) в марте 2025 года. Подробную информацию можно найти на сайте www.coreweave.com.

Мы гордимся тем, что являемся аккредитованным работодателем по прожиточному минимуму.

Что вы будете делать:

Команда CoreWeave Inference создает и управляет базовой облачной платформой, обеспечивающей крупномасштабные рабочие нагрузки на графические процессоры для AI/ML, VFX, рендеринга и вывода в реальном времени. Наш стек спроектирован с учетом скорости, масштабируемости и экономической эффективности, обеспечивая мощную альтернативу традиционным гиперскейлерам, где инфраструктура является нашим основным продуктом, работающим в больших масштабах.

О роли:

В качестве штатного инженера-программиста в команде Inference вы будете выступать в качестве технического руководителя в нескольких командах и службах, управляя архитектурой, производительностью и надежностью собственной платформы вывода CoreWeave Kubernetes. Вы будете определять и возглавлять сложные, сквозные инициативы по проектированию, охватывающие маршрутизацию запросов, адаптивное планирование, управление ресурсами графического процессора и оптимизацию стоимости за токен в соответствии со строгими соглашениями об уровне обслуживания P99. На этой важной должности вы будете реализовывать расширенные методы оптимизации вывода, такие как спекулятивное декодирование и повторное использование KV-кэша, одновременно создавая системы сравнительного анализа производительности, управляя межфункциональным согласованием в пределах границ инфраструктуры и поднимая планку строгости проектирования и методов наблюдения во всей организации.

Кто вы:

• Степень бакалавра в области компьютерных наук, инженерии или смежных технических областях (или эквивалентный практический опыт).

• Более 8 лет опыта создания крупномасштабных распределенных систем или облачных платформ, а также успешный опыт реализации масштабных технических инициатив межкомандного или организационного уровня.

• Уверенное знание программирования на Go, Python или C++.

• Глубокий опыт работы с Kubernetes в промышленном масштабе, включая оркестровку, планирование и проектирование сервисов.

• Глубокое понимание сетевых систем, оптимизации производительности и проектирования распределенных систем.

• Практический опыт проектирования систем вывода, включая стратегии пакетной/микропакетной обработки, кэширование, оптимизацию памяти, смешанную точность (BF16/FP8) и потоковую доставку токенов.

• Продемонстрированная способность систематически улучшать задержку хвоста (P95/P99) и надежность платформы посредством проектирования на основе показателей.

• Подтвержденный опыт владения общесистемными SLI/SLO, планирования мощности, стратегий автоматического масштабирования и наставничества инженеров старшего и среднего звена.

Предпочтительно:

• Прямой вклад с открытым исходным кодом или производственный вклад в современные платформы вывода (например, vLLM, Triton, TensorRT-LLM, Ray Serve или TorchServe).

• Глубокий опыт проектирования систем графических процессоров и оптимизации производительности оборудования (например, CUDA, NCCL, RDMA, NUMA или межсоединений графического процессора).

• Прямое использование крупномасштабной инфраструктуры AI/ML или гипермасштабных облачных сред.

Хотите знать, подходите ли вы?

Мы верим в необходимость инвестирования в наших людей и ценим кандидатов, которые могут привнести в наши команды свой разнообразный опыт, даже если вы не на 100% соответствуете их навыкам или опыту.

• Вам нравится: Масштабировать очень сложные распределенные архитектуры и наставлять инженерные группы для повышения технических стандартов во всей организации.

• Вам интересно: Новаторские методы оптимизации вывода с малой задержкой и поиск инновационных способов оптимизации производительности цены за токен.

• Вы являетесь экспертом в следующих областях: проектирование на основе показателей, устранение микроузких мест и предоставление стабильных облачных платформ в условиях строгих многопользовательских ограничений.

Почему CoreWeave?

В CoreWeave мы много работаем, веселимся и двигаемся быстро! Мы находимся на захватывающем этапе гиперразвития, который вы не захотите пропустить. Мы не боимся небольшого хаоса и постоянно учимся. Наша команда глубоко заботится о том, как мы создаем наш продукт и как мы работаем вместе, что отражено в наших основных ценностях:

• Будьте любопытны до глубины души

• Действуйте как владелец

• Расширение возможностей сотрудников

• Обеспечьте лучшее в своем классе качество обслуживания клиентов.

• Достигайте большего вместе

Мы поддерживаем и поощряем предпринимательский взгляд и независимое мышление. Мы создаем среду, которая поощряет сотрудничество и позволяет разрабатывать инновационные решения сложных проблем. По мере того, как мы готовимся к взлету, возможности роста организации постоянно расширяются. Вас будут окружать одни из лучших талантов в отрасли, которые тоже захотят у вас поучиться. Присоединяйтесь к нам!

Стартовая зарплата будет определяться профессиональными знаниями, навыками, опытом и положением на рынке. При определении вознаграждения мы стремимся как к выравниванию рынка, так и к внутренней справедливости. В дополнение к базовому окладу наш общий пакет вознаграждений включает в себя дискреционный бонус, долевые вознаграждения и комплексную программу льгот (все в зависимости от соответствия критериям).
Чтобы выполнить наше обязательство по защите данных клиентов, успешные кандидаты, которым предложено трудоустройство в CoreWeave, должны будут пройти базовую проверку судимости, проводимую в соответствии с GDPR. Предложения о работе предоставляются при условии получения удовлетворительных результатов проверки.

Что мы предлагаем

Помимо конкурентоспособной заработной платы, мы предлагаем различные льготы для удовлетворения ваших потребностей, в том числе:

• Медицинское страхование на уровне семьи.

• Семейное стоматологическое страхование.

• Щедрые пенсионные взносы

• Страхование жизни при 4-кратной зарплате

• Страхование от критических заболеваний

• Программа помощи сотрудникам

• Компенсация стоимости обучения

• Культура труда ориентирована на инновационные изменения

Преимущества могут различаться в зависимости от местоположения.

Равные возможности…

Источник: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/coreweaveu/staff-software-engineer-inference-london-292192).