Ingénieur Performances

À propos de CuspAI
CuspAI est la société pionnière de l'IA dont la mission est de résoudre les matériaux révolutionnaires nécessaires au progrès humain. Alors que la nature a mis des milliards d’années à perfectionner les molécules, nous exploitons l’IA pour débloquer des avancées technologiques valant des milliers de milliards de dollars en quelques mois, et non en millénaires. Notre équipe fondatrice est la plus citée au monde, composée de chercheurs de classe mondiale en IA, chimie et ingénierie.

Nous travaillons sur certains des défis les plus difficiles et les plus importants, notamment l'énergie, l'eau propre, l'avenir de l'informatique et la capture du carbone, et ce n'est que le début de ce que notre « moteur de recherche » pour les matériaux de nouvelle génération va débloquer.

Nous vous invitons à faire partie d'une équipe diversifiée et innovante à l'intersection de l'IA et de la science des matériaux, travaillant à créer des partenariats percutants qui stimulent l'innovation, l'évolutivité et la collaboration industrielle. Ce travail compte. Votre travail compte.

Nous sommes à l’aube de l’ère des matériaux à la demande. Rejoignez-nous.

Le rôle
En raison de l'évolution rapide de nos besoins en calcul, nous recherchons un ingénieur de performance pour servir de pont essentiel entre nos modèles d'IA de pointe et notre infrastructure de calcul haute performance.

Votre impact
Dans ce rôle, vous construirez les couches d'optimisation et l'infrastructure de profilage qui maximisent l'efficacité de nos charges de travail de formation et d'inférence à grande échelle, ce qui est essentiel pour accélérer notre pipeline de découverte de matériaux et garantir que nos chercheurs peuvent itérer à la vitesse de la pensée.

Chez CuspAI, le calcul est notre ressource la plus précieuse. Votre objectif principal sera dans un premier temps de profiler nos cycles de formation actuels pour identifier les goulots d'étranglement dans l'utilisation du modèle FLOP (MFU). Au fil du temps, vous serez probablement impliqué dans la conception de noyaux personnalisés et d'optimisations de bas niveau qui nous permettront de former des modèles de chimie et de physique plus grands et plus complexes qui étaient auparavant prohibitifs en termes de calcul.

Ce que vous ferez
Optimisation de la formation et de l'inférence

• Analyser les architectures de modèles pour optimiser la manière dont les opérations mathématiques sont mappées sur le matériel, en se concentrant spécifiquement sur les noyaux GPU NVIDIA et les couches de communication collectives (NCCL).

• Mettre en œuvre des techniques d'efficacité de pointe telles que la quantification, l'élagage de modèles et la distillation afin de réduire la latence de nos API de « moteur de recherche » de matériaux.

• Rationalisez les pipelines de données pour garantir que les accélérateurs hautes performances ne soient jamais « privés » de données lors d'exécutions de formation massives.

Profilage, observabilité et gestion des coûts

• Utilisez des outils d'observabilité avancés pour suivre l'exécution de bout en bout des tâches de formation, en identifiant les emplacements exacts des blocages de traitement ou des conflits d'interconnexion.

• Créez et gérez des tableaux de bord en temps réel qui suivent les mesures vitales du système, notamment la MFU, l'utilisation de la bande passante mémoire et la disponibilité du cluster.

• Surveiller et justifier l'utilisation de nos accélérateurs d'IA (par exemple, les clusters H100), en évitant les temps d'inactivité et les fuites de mémoire pour garantir que chaque dollar dépensé en calcul se traduise en progrès scientifique.

• Développer des lois de mise à l'échelle et des outils internes pour prédire le comportement du système à travers le calcul, la mémoire et les réseaux à mesure que le nombre de paramètres de nos modèles augmente.

Collaboration interdisciplinaire

• Travailler en étroite collaboration avec les chercheurs en IA pour adapter les architectures de modèles afin d'obtenir une meilleure compatibilité matérielle sans sacrifier la précision scientifique.

• Collaborer avec l'équipe Infrastructure pour influencer la conception de nos futurs clusters de calcul en fonction des données de performance et des résultats de profilage.

Doit avoir des compétences et des qualifications :

• Vous êtes quelqu'un qui est enthousiasmé par l'opportunité de permettre aux scientifiques de travailler sur des défis mondiaux changeants dans ce domaine, avec un intérêt personnel pour les applications potentielles de la technologie que Cusp développe.

• Vous avez plus de 3 ans d'expérience en ingénierie des performances, en ingénierie de la fiabilité des sites ou en développement de logiciels de bas niveau, spécifiquement axés sur le calcul haute performance (HPC) ou les charges de travail d'IA.

• Connaissance de niveau expert de l'architecture GPU et expérience de l'optimisation des noyaux CUDA ou de l'utilisation de bibliothèques comme Triton.

• Compréhension approfondie des cadres de formation distribués (par exemple, PyTorch Distributed, DeepSpeed ​​ou Megatron-LM) et des protocoles réseau.

• Maîtrise des outils de profilage tels que Nsight Systems, Nsight Compute ou Weights & Biases pour le suivi des performances.

• Un état d'esprit de « bâtisseur » avec la capacité de travailler de manière autonome dans un environnement de démarrage rapide et en phase de démarrage.

Points bonus (mais pas critiques) :

• Expérience de travail avec du matériel d'IA spécialisé tel que les TPU ou des accélérateurs alternatifs.

• Une formation académique ou un intérêt personnel pour la science des matériaux, la chimie ou la physique.

• Connaissance des pratiques MLOps, notamment concernant le déploiement de modèles à grande échelle dans des environnements cloud (AWS/GCP/Azure).

• Contributions à l'optimisation des performances open source ou aux bibliothèques d'apprentissage automatique.

Considérations supplémentaires
Ce rôle pourrait être basé dans nos bureaux de Cambridge, Londres, Amsterdam ou Berlin, avec l'espoir d'être au bureau trois jours par semaine. De plus, des déplacements réguliers vers d'autres endroits peuvent être nécessaires pour la collaboration et le travail sur des projets.
Dans le cadre de votre intégration, vous devrez passer au moins quelques semaines dans notre bureau de Cambridge/Londres pour découvrir notre plateforme et apprendre à nous connaître en personne.

De plus, des déplacements réguliers peuvent être nécessaires en Europe et dans d'autres sites régionaux et mondiaux pour la collaboration et le travail sur des projets.

Ce que nous proposons

• Un salaire compétitif : nous valorisons et récompensons l'impact et la croissance

• Équité dans CuspAI : vous avez un intérêt dans le succès de l'entreprise

• Temps libre pour rester au frais : 28 jours de vacances (DE, NL, UK) ou 21 jours de vacances (JP, SG, US), en plus des jours fériés locaux.

• Congé parental « Gold Standard » : 26 semaines (responsable principal) et 12 semaines (responsable secondaire) à plein salaire - nous prenons soin de vous et de votre famille pendant que nous travaillons ensemble sur les problèmes de découverte de matériaux les plus importants…

Source : Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/cuspai/performance-engineer-london-237596)