Инженер MLOps/LLMOps (средний уровень)

О решениях Ирт
Irth Solutions — ведущий поставщик облачного программного обеспечения SaaS для предотвращения ущерба, целостности активов, взаимодействия с заинтересованными сторонами и управления земельными ресурсами, помогая энергетическим, коммунальным, телекоммуникационным и инфраструктурным компаниям защитить свою критически важную сетевую инфраструктуру. Обладая почти тридцатилетним опытом работы в отрасли, Irth обслуживает клиентов по всей Северной Америке и продолжает расширять свою платформу новыми возможностями, основанными на данных и искусственном интеллекте.
Инженер MLOps/LLMOps – аналитика (AI/ML)
Местоположение: Удаленное управление – Индия
Отдел: Аналитика (ИИ/МО)
Подчиняется: Менеджеру платформы данных и аналитики.
О роли
Ирт строит управляемый мультиоблачный Lakehouse на Databricks, чтобы получить доступ к информации о различных продуктах, обеспечить постоянное размещение данных и ускорить инновации в области искусственного интеллекта и машинного обучения для наших клиентов.
Мы ищем инженера MLOps/LLMOps, который сможет превратить эту основу в масштабируемые, автоматизированные, безопасные и наблюдаемые услуги машинного обучения и LLM.
Вы будете тесно сотрудничать с командами Data Science, Data Engineering, Platform, Product и предметной области для реализации возможностей ML и GenAI, поддерживающих ключевые отрасли Irth:

• Предотвращение повреждений

• Целостность активов

• Землеустройство

• Взаимодействие с заинтересованными сторонами

Это ключевая роль в создании многократно используемых инженерных шаблонов для контрактов данных, происхождения, качества данных, безопасности, CI/CD, развертывания моделей, мониторинга и эксплуатационной надежности.
Вы поможете гарантировать, что модели и приложения LLM эффективно перейдут от экспериментов к производству и останутся надежными, наблюдаемыми, безопасными и экономически эффективными на протяжении всего жизненного цикла.
Ключевые обязанности
1. Создайте платформу ML/LLM в Lakehouse.

• Внедрите полный жизненный цикл машинного обучения, включая обучение, оценку, упаковку, развертывание и мониторинг, на Databricks.

• Внедряйте рабочие процессы машинного обучения, используя архитектуру медальонов «Бронзовый → Серебряный → Золотой» с Delta Lake в качестве базового уровня хранения.

• Установить шаблоны реализации для управления моделями каталога Unity, подготовить активы модели для управления на основе каталога, происхождения, обнаружения и контроля доступа.

• Разрабатывать многократно используемые шаблоны для заданий, рабочих процессов и процессов ML/LLM.

• Создавать и поддерживать кластерные политики для рабочих нагрузок ML/LLM, соответствующие требованиям корпоративной платформы.

• Применять стандарты платформы, такие как:

• Частная сеть

• Обязательная маркировка ресурсов.

• Версии Databricks с долгосрочной поддержкой (LTS) во время выполнения.

• Безопасное управление секретами

• Соответствующие политики вычислений.

• Создавайте шаблоны многократного использования, которые позволят ученым, работающим с данными, и инженерам по машинному обучению последовательно и безопасно развертывать модели.

2. Разработка функций ML и LLM

• Сотрудничайте с командами по обработке данных и продуктам для разработки моделей, поддерживающих такие варианты использования, как:

• Оценка рисков раскопок и инфраструктуры.

• Обнаружение аномалий

• Прогностическое обслуживание

• Геопространственное обогащение

• Распознавание именованных объектов (NER) для участков и сервитутов.

• Обобщение сообщений заинтересованных сторон

• Генерация с расширенным поиском (RAG)

• Помощники на базе искусственного интеллекта и приложения для поддержки принятия решений.

• Проектирование, строительство и обслуживание трубопроводов LLM и RAG промышленного уровня.

• Реализация архитектур векторного поиска и извлечения данных с использованием таких технологий, как Databricks Vector Search.

• Развертывание и управление конечными точками обслуживания моделей и вывода.

• Оптимизируйте рабочие нагрузки вывода с точки зрения производительности, масштабируемости, надежности и стоимости.

• Применять методы оптимизации, такие как:

• Квантование

• Дистилляция

• Кэширование подсказок и ответов.

• Оптимизация поиска

• Пакетирование

• Внедряйте шаблоны пакетного, потокового и онлайн-вывода на основе требований бизнеса и задержки.

• Установите четкие ожидания в отношении уровня обслуживания и операционные соглашения об уровне обслуживания для рабочих нагрузок приоритета A/B/C.

3. Внедрение надежности, безопасности и соответствия требованиям в жизненный цикл машинного обучения

• Интегрируйте контракты на данные и шлюзы качества в конвейеры ML и LLM.

• Внедрить автоматическую проверку для:

• Смещение схемы

• Нулевые пороги

• Дублирующиеся записи

• Ссылочная целостность

• Полнота данных

• Проблемы с качеством функций

• Внедряйте обнаружение, классификацию, маскирование и запутывание личных данных до того, как конфиденциальные данные будут использованы функциями или моделями.

• Обеспечьте соблюдение требований к местонахождению данных с помощью политики как кода.

• Обеспечить сохранение регулируемых или конфиденциальных данных уровня Bronze в необходимом географическом регионе.

• Убедитесь, что в глобальные рабочие пространства или службы передаются только надлежащим образом обезличенные или агрегированные данные.

• Поддерживать сквозное происхождение на протяжении всего жизненного цикла машинного обучения, включая: исходные таблицы/столбцы → функции → модели → обслуживание конечных точек → приложения/BI.

• Предоставлять информацию о происхождении и управлении через соответствующие информационные панели мониторинга и управления.

• Поддержка требований безопасности, соответствия требованиям, аудита и проверки доступа на платформе машинного обучения.

4. Автоматизируйте все – CI/CD и тестирование

• Используйте пакеты активов Databricks (DAB) и действия GitHub для создания версий, тестирования и продвижения ресурсов ML/LLM в различных средах.

• Автоматизируйте продвижение в сферах: DEV → QA → PROD.

• Обеспечить внедрение производственных изменений посредством контролируемых процессов CI/CD без непосредственной разработки в PROD.

• Версия и управление:

• Вакансии

• Ноутбуки

• Модельные артефакты

• Кластерная политика

• Конфигурация

• Разрешения

• Определения развертывания.

• Создавайте автоматизированные наборы модульных, интеграционных, регрессионных тестов и тестов качества данных.

• Внедрить проверку качества модели в рамках конвейеров развертывания.

• Проверка бизнес-ключевых показателей эффективности и аналитических результатов на соответствие семантическому уровню каталога Unity перед публикацией рабочей версии.

• Установите шлюзы развертывания, которые предотвращают развитие моделей или приложений, если требования к качеству, безопасности или производительности не соблюдаются.

5. Наблюдаемость и производственные операции

• Инструментирование конвейеров и услуг ML/LLM для поддержки определенных SLO, включая:

•
Успех конвейера P1: ≥99,5%

•
P1 MTTD: ≤5 минут

•
Среднее время восстановления: ≤60 минут…

Источник: Гималаи (https://himalayas.app/companies/irth/jobs/mlops-llmops-engineer-mid-level).