Ingénieur logiciel senior, plateforme informatique

Moonlite fournit une infrastructure d'IA hautes performances aux organisations qui effectuent des recherches informatiques intensives, une formation de modèles à grande échelle et des charges de travail de traitement de données exigeantes. Nous fournissons une infrastructure déployée dans nos installations ou colocalisée dans les vôtres, offrant un calcul flexible à la demande ou réservé qui ressemble à une extension de votre centre de données existant. Notre équipe de spécialistes de l'infrastructure d'IA combine des performances nues avec une simplicité opérationnelle native du cloud, permettant aux équipes de recherche et aux entreprises de déployer des charges de travail d'IA exigeantes avec une fiabilité et une conformité de niveau entreprise.
Votre rôle :
Vous jouerez un rôle déterminant dans la création de notre plate-forme de calcul accélérée par GPU qui alimente la formation et l'inférence d'IA distribuées, les simulations à grande échelle et les charges de travail de recherche informatique. En étroite collaboration avec le produit, les membres de l'équipe de votre plate-forme et les spécialistes de l'infrastructure, vous concevrez et mettrez en œuvre la couche d'orchestration de calcul qui gère les clusters GPU, le provisionnement sans système d'exploitation et la planification des ressources, permettant aux chercheurs et ingénieurs d'accéder par programmation à des ressources de calcul hautes performances avec une simplicité semblable à celle du cloud.
Responsabilités professionnelles

•
Systèmes d'orchestration de calcul : concevez et construisez des plates-formes d'orchestration de calcul évolutives qui gèrent les clusters GPU, le provisionnement de serveurs nus et l'allocation de ressources dans des environnements d'infrastructure colocalisés.

•
Gestion et planification des ressources : mettez en œuvre des algorithmes intelligents de planification des charges de travail, d'allocation des ressources et d'optimisation qui maximisent l'utilisation du GPU tout en maintenant des garanties de performances pour les charges de travail de recherche et de formation.

•
Provisionnement des clusters de recherche : concevoir et mettre en œuvre des systèmes pour provisionner et gérer des environnements informatiques de recherche, notamment les clusters Kubernetes et SLURM, permettant un déploiement automatisé, une planification des ressources et une orchestration des charges de travail pour la formation distribuée en IA et les charges de travail HPC.

•
Ingénierie de plate-forme GPU : développez des capacités de plate-forme pour gérer les configurations GPU NVIDIA de dernière génération (H100, H200, B200, B300), y compris la gestion des ressources GPU, l'isolation multi-tenant et l'intégration avec les systèmes d'orchestration de calcul.

•
Gestion du cycle de vie sans système d'exploitation : créez une automatisation et des outils pour une gestion complète du cycle de vie des serveurs sans système d'exploitation – depuis le provisionnement et la configuration initiaux jusqu'aux opérations en cours, aux mises à jour et à la réaffectation des ressources.

•
Systèmes critiques en termes de performances : optimisez les composants de la plate-forme de calcul pour des performances à haut débit et à faible latence, garantissant que les charges de travail de recherche atteignent une efficacité quasi nue dans des environnements virtualisés ou de la taille d'un conteneur.

•
API et intégration de la plate-forme : développez des API et des SDK robustes qui permettent aux chercheurs de provisionner et de gérer par programmation les ressources de calcul, en s'intégrant de manière transparente aux flux de travail et à l'infrastructure de recherche existants.

•
Observabilité et surveillance : mettez en œuvre des systèmes complets de surveillance et de télémétrie pour les ressources de calcul, offrant une visibilité sur la virtualisation GPU, les performances des charges de travail et l'état de l'infrastructure.

•
Multi-location et isolation : créez une isolation de calcul multi-tenant de niveau entreprise, des limites de sécurité et des quotas de ressources qui permettent un partage sécurisé de l'infrastructure GPU entre les équipes et les organisations.

Exigences

•
Expérience : Plus de 5 ans en génie logiciel avec une expérience avérée dans la création de plates-formes de calcul, de systèmes d'orchestration de conteneurs ou d'infrastructures de calcul distribuées pour les environnements de production.

•
Ingénierie de plate-forme informatique : solide expérience dans la création de systèmes d'orchestration informatique, de planification des ressources ou de gestion de charge de travail à grande échelle.

•
Kubernetes et orchestration de conteneurs : solide connaissance de l'architecture Kubernetes, des concepts d'orchestration de conteneurs et expérience du déploiement de charges de travail dans des environnements Kubernetes. Compréhension des pods, des déploiements, des services et des opérations de base de Kubernetes.

•
Compétences en programmation : une expérience avec Go, C/C++, Python ou Rust pour les composants critiques en termes de performances est très appréciée.

•
Programmation Linux et systèmes : Solide expérience avec Linux dans les environnements de production, y compris les systèmes de programmation, d'optimisation des performances et de gestion des ressources de bas niveau.

•
Virtualisation et conteneurs : connaissance approfondie des technologies de virtualisation (KVM, Xen), des environnements d'exécution de conteneurs et des plates-formes d'orchestration.

•
Fondamentaux du GPU Computing : Compréhension des architectures GPU, de la programmation CUDA (où et quand cela est nécessaire) et de la gestion des ressources GPU - ou une forte capacité à apprendre rapidement.

•
Infrastructure sans système d'exploitation : expérience du provisionnement sans système d'exploitation, des systèmes de gestion hors bande et des couches d'abstraction matérielle.

•
Résolution de problèmes et architecture : Capacité démontrée à résoudre des problèmes complexes de performances et d’évolutivité tout en équilibrant une expédition pragmatique avec une bonne architecture à long terme.

•
Autonomie et communication : Être à l'aise pour naviguer dans l'ambiguïté, définir les exigences de manière collaborative et communiquer les discussions techniques au moyen d'une documentation claire.

•
Engagement envers la croissance : état d’esprit de croissance avec un accent continu sur l’apprentissage et le développement professionnel.

Qualifications préférées

• Provisionnement en arrière-plan ou gestion d'environnements informatiques de recherche (clusters Kubernetes, SLURM ou HPC)

• Expérience avec les technologies de virtualisation GPU (SR-IOV, NVIDIA vGPU) et le partage de GPU multi-locataires

• Expérience dans les plates-formes d'orchestration de conteneurs avec planification personnalisée ou gestion des ressources

• Connaissance des réseaux hautes performances pour la communication GPU (InfiniBand, RDMA, NVLink, NVSwitch)

• Familiarité avec les frameworks de formation AI/ML (PyTorch, TensorFlow) et leurs exigences en matière d'infrastructure.

• Compréhension des modèles de formation distribués et de la coordination GPU multi-nœuds

• Expérience en matière de création d'infrastructures pour des instituts de recherche, des laboratoires ou des environnements informatiques techniques…

Source : Himalaya (https://himalayas.app/companies/moonlite/jobs/senior-software-engineer-compute-platform-9024339573)