Инженер платформы машинного обучения

О АкАИ
Сегодня более 5 миллиардов пользователей используют базовые приложения, такие как электронная почта, заметки, задачи, календарь, и они не поддерживают искусственный интеллект. Наша миссия — создавать проактивные приложения для всех в мире, кто не привык к сложным подсказкам. Мы стремимся привнести интеллект в разговоры, выполнение поручений, организацию и рабочие процессы с минимальными подсказками или вообще без них.
Наш продукт ориентирован на достижение высокой надежности длительных рабочих процессов, постоянного контекста и выполнения реальных задач. Мы считаем, что эти продукты значительно уменьшат галлюцинации.
Наша цель — организовать жизнь любого человека, позволяя каждому уделять время ценным и значимым вещам.
О роли
В качестве инженера платформы ML вы будете создавать инфраструктуру и системы, обеспечивающие возможности искусственного интеллекта ActAI.
Вы будете проектировать и эксплуатировать системы, лежащие в основе стека искусственного интеллекта, от обучения и оценки моделей до развертывания, вывода, наблюдения и постоянного улучшения.
Вы будете тесно сотрудничать с инженерами искусственного интеллекта, исследователями и инженерами-разработчиками, чтобы превратить модели в надежные, масштабируемые и экономичные производственные системы. Вы создадите платформы, инструменты и инфраструктуру, которые позволят команде быстро экспериментировать и уверенно внедрять возможности искусственного интеллекта в производство.
Фокус

• Создание и эксплуатация инфраструктуры и платформ машинного обучения, на которых основаны продукты искусственного интеллекта A1.

• Проектирование систем для обучения, оценки, развертывания, вывода и экспериментирования моделей.

• Создавайте и оптимизируйте инфраструктуру обслуживания моделей и вывода для рабочих нагрузок с высокой пропускной способностью и малой задержкой.

• Повысить надежность, масштабируемость, задержку и экономическую эффективность систем искусственного интеллекта.

• Разработать надежные конвейеры для подготовки данных, обучения, оценки, выпуска моделей и постоянного улучшения.

• Создавайте платформы и инструменты, которые позволят инженерам и исследователям ИИ экспериментировать, оценивать и поставлять модели быстрее.

• Разработать инфраструктуру оценки и сравнительного анализа для измерения качества, производительности и регрессий моделей.

• Обеспечьте наблюдение за производством, мониторинг, отслеживание и оповещение о рабочих нагрузках искусственного интеллекта и машинного обучения.

• Улучшите системы искусственного интеллекта с точки зрения надежности, масштабируемости, задержки, пропускной способности и стоимости.

• Выявляйте узкие места в стеке машинного обучения и постоянно повышайте производительность системы.

• Тесно сотрудничать с инженерами искусственного интеллекта, исследователями и продуктовыми группами, чтобы превратить развивающиеся требования к моделям в готовую к производству инфраструктуру.

Технический стек

• Питон

• PyTorch/JAX

• LLM и инфраструктура обслуживания машинного обучения, такая как vLLM, SGLang или TensorRT-LLM.

• Облачная инфраструктура

• Распределенные системы

• Конвейеры машинного обучения/данных и оркестровка рабочих процессов.

• Инфраструктура графического процессора и инструменты повышения производительности.

• Базы данных векторов и инфраструктура поиска.

Идеальный опыт

• Хорошие основы разработки программного обеспечения и опыт создания производственных систем.

• Опыт создания инфраструктуры, платформ или производственных систем машинного обучения.

• Опыт развертывания моделей, вывода, оценки или конвейеров данных.

• Глубокое понимание распределенных систем и надежности систем.

• Способность писать чистый, удобный в сопровождении код производственного качества.

• Комфортная работа в неоднозначной, быстро меняющейся среде.

• Склонность к собственности, экспериментированию и постоянному совершенствованию.

Результаты

• Инфраструктура искусственного интеллекта надежно поддерживает производственные рабочие нагрузки в любом масштабе.

• Модели можно эффективно обучать, оценивать, развертывать и улучшать.

• Системы вывода обеспечивают высокую задержку, пропускную способность, надежность и экономическую эффективность.

• Конвейеры машинного обучения воспроизводимы, наблюдаемы, удобны в обслуживании и надежны.

• Регрессии модели и инфраструктуры быстро обнаруживаются и эффективно диагностируются.

• Общие возможности инфраструктуры машинного обучения становятся повторно используемыми примитивами платформы, а не перестраиваются для каждого продукта искусственного интеллекта.

• Стек искусственного интеллекта может быстро развиваться по мере появления новых моделей, архитектур и методов вывода.

Найдите работу в Германии на Arbeitnow

Источник: Arbeitnow (https://www.arbeitnow.com/jobs/companies/bjak/machine-learning-platform-engineer-germany-452758).