Ingénieur logiciel, déploiement de modèles - ChatGPT Engineering

À propos de l'équipe
ChatGPT s'appuie sur une flotte de GPU importante et croissante pour servir les charges de travail d'inférence de manière fiable et efficace. Nous développons les systèmes et outils qui permettent d'introduire de nouveaux modèles, de gérer les déploiements de production, de répondre aux problèmes opérationnels et d'utiliser efficacement l'infrastructure à grande échelle.
Notre travail couvre les systèmes distribués, l'ingénierie de plate-forme, l'automatisation des infrastructures et l'expérience des développeurs. Nous travaillons en étroite collaboration avec les équipes de recherche, d'infrastructure et de produits pour rendre le déploiement de modèles plus fiable, plus efficace et plus facile à gérer.

À propos du rôle
Nous recherchons un ingénieur logiciel ayant de l'expérience dans la construction ou l'exploitation de systèmes de production à grande échelle.
Vous concevrez et développerez des systèmes qui prennent en charge le cycle de vie des modèles en production, y compris l'orchestration du déploiement, la gestion de la configuration, l'automatisation opérationnelle, la fiabilité et la gestion des capacités. Vous contribuerez à transformer des processus opérationnels complexes en capacités de plate-forme évolutives qui permettront aux équipes d'OpenAI de déployer et de gérer des modèles avec plus de confiance et moins d'efforts manuels.
Ce rôle convient parfaitement aux ingénieurs qui aiment résoudre des problèmes opérationnels complexes et créer des logiciels facilitant l'exploitation de l'infrastructure de production à grande échelle.
Dans ce rôle, vous

• Créer et faire évoluer la plateforme utilisée pour déployer, configurer et gérer les modèles sur ChatGPT.

• Développer des systèmes pour l'orchestration du déploiement, le déploiement de modèles, la visibilité opérationnelle et la préparation à la production.

• Créez des abstractions et des outils qui simplifient l'infrastructure complexe et améliorent l'expérience des développeurs.

• Automatisez les flux de travail opérationnels, notamment la détection, le diagnostic, l'atténuation et la récupération des incidents.

• Améliorer la fiabilité, l'évolutivité et l'efficacité des déploiements de modèles et de l'infrastructure qui les prend en charge.

• Créez des systèmes qui prennent en charge la planification des capacités, l'allocation des ressources et l'utilisation de l'infrastructure.

• Collaborer avec les équipes de recherche, d'infrastructure et d'ingénierie produit pour identifier les défis communs et fournir des fonctionnalités de plateforme réutilisables.

• Façonner l'orientation technique de la plateforme de gestion de modèles à mesure que ChatGPT et ses systèmes sous-jacents continuent d'évoluer.

Vous pourriez réussir dans ce rôle si vous

• Avoir construit ou exploité des plates-formes internes, des systèmes distribués ou une infrastructure de production à grande échelle.

• Aimez transformer des problèmes opérationnels complexes en logiciels fiables et en abstractions réutilisables.

• Avoir de l'expérience avec les systèmes de déploiement, l'orchestration, la gestion de configuration ou l'automatisation de l'infrastructure.

• Comprendre la fiabilité de la production, l'observabilité, la planification des capacités et la réponse aux incidents.

• Vous vous souciez de l'expérience des développeurs et de la création d'outils qui rendent les autres équipes d'ingénierie plus efficaces.

• Sont à l'aise de travailler au-delà des frontières organisationnelles et de s'approprier la conception du système jusqu'à l'exploitation de la production.

• Prospérez dans des environnements en évolution rapide avec une ambiguïté technique importante.

• Sont intéressés par l'infrastructure de service de modèles ou de ML, mais n'ont pas besoin d'expérience spécialisée avec les GPU ou le matériel de bas niveau.

Qualifications

• Cinq années ou plus d'expérience en génie logiciel dans la création d'infrastructures de production.

• Solides compétences en programmation en Go, Python, C++, Rust ou un langage comparable.

• Expérience dans la conception ou l'exploitation de systèmes distribués hautement disponibles.

• Expérience en ingénierie de plate-forme, en ingénierie d'infrastructure, en ingénierie de production, en ingénierie de fiabilité de site ou dans des disciplines similaires.

• Solides compétences en matière de conception de systèmes, de débogage et de résolution de problèmes opérationnels.

• Solides compétences en communication et expérience de collaboration entre équipes d'ingénierie.…

Source : Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/openai/software-engineer-model-deployment-chatgpt-engineering-london-371397)