Ingénieur principal, Plateforme

Firmus Technologies

Firmus Technologies est un leader mondial pionnier dans le développement et l’exploitation d’infrastructures d’IA efficaces dans la région Asie-Pacifique.

Fondée en Australie en 2019, notre mission est de créer l'infrastructure d'IA la plus efficace en combinant une technologie de pointe avec un engagement ferme en faveur du développement durable.

Chez Firmus, nous sommes uniques dans notre approche. Nous concevons, construisons et exploitons une nouvelle classe d’infrastructure numérique : l’AI Factory. Grâce à notre approche technologique du modèle au réseau, nous avons repoussé les limites des systèmes de refroidissement liquide multigénérationnels, de la gestion de l'énergie, de l'orchestration des logiciels d'IA et de la construction. Pour nos clients, cette approche nous permet de faire en sorte que chaque watt compte et de fournir des jetons d'IA à faible coût à l'échelle mondiale.

Firmus IA Cloud

Notre plate-forme cloud GPU à grande échelle, Firmus AI Cloud, est spécialement conçue pour fournir aux clients un calcul d'IA économe en énergie à grande échelle.

Il permet aux développeurs, aux entreprises, aux établissements d'enseignement et aux utilisateurs gouvernementaux de former et de déployer des modèles d'IA avec une efficacité et des économies de coûts inégalées. Avec une suite de services et d'applications en constante évolution, nous nous engageons à offrir une expérience cloud leader du marché, propriétaire et conçue pour évoluer.

RÉSUMÉ DU RÔLE

Firmus Technologies est à la recherche d'un ingénieur principal, plate-forme, pour posséder la plate-forme sur laquelle les ingénieurs de Firmus construisent et publient, dans le cloud public et dans nos propres centres de données. Le libre-service et la sécurité passent avant tout : via une voie unique, un ingénieur doit être capable de créer un service, d'obtenir un environnement et de le livrer en production en toute sécurité avec un minimum d'assistance. Tout ce que vous concevez doit fonctionner sur plusieurs sites et s'adapter à des centaines de milliers de GPU dans des usines d'IA à l'échelle du gigawatt.

PRINCIPALES RESPONSABILITÉS

Architecture et décisions

• Posséder l'architecture de la plateforme d'ingénierie et son plan de gestion multi-sites, en cloud public et sur site. Définissez une architecture cible deux à trois ans à l'avance et planifiez les étapes à partir du système actuel pour y parvenir.

• Concevoir la plateforme autour d'une unité de mise à l'échelle reproductible. La capacité augmente dans des unités identiques, une panne reste à l'intérieur d'une unité ou d'un site, et chaque site répond à une norme définie avant de transporter la plate-forme.

• Décidez de la manière dont les clusters Kubernetes et hyperviseurs internes sont créés, mis en réseau, mis à niveau et récupérés. Gardez Kubernetes conforme et proche des versions en amont, avec des mises à niveau qui ne nécessitent aucun temps d'arrêt. De nouveaux sites proviennent du code et du kit de déploiement de site, et la récupération est testée régulièrement.

• Décidez comment les services sont packagés, publiés et promus avec un déploiement progressif, et comment une version défaillante est annulée et contenue sur les sites.

• Diriger les revues de conception pour les changements importants au sein des équipes, signer les enregistrements de décisions d'architecture et régler les litiges techniques signalés par les ingénieurs. Décidez au rythme des informations incomplètes, notez les hypothèses et revoyez une décision lorsque les preuves changent.

Construire et évoluer

• Propre ingénieur en libre-service avec une conception basée sur l'API. La CLI, l'automatisation et tout portail de développeur utilisent tous la même API de plateforme. Traitez chaque ticket adressé à l'équipe de la plateforme comme une lacune dans le libre-service et comblez en premier les plus courants.

• Conservez un catalogue de services codé, avec un propriétaire pour chaque service et des tableaux de bord qui montrent à chaque équipe où se situent ses services par rapport à la voie d'or, à la préparation à la production et aux normes de sécurité.

• Fournir un déploiement multicluster pour les équipes internes et le produit client : un pipeline vers chaque région et centre de données, le produit client isolé des charges de travail internes et des sites qui continuent de fonctionner lorsque l'orchestrateur est inaccessible.

• Laissez les agents IA travailler sur le processus de livraison sous les mêmes contrôles que les ingénieurs, avec leur propre identité, leurs moindres privilèges, leur sandboxing et une personne approuvant chaque changement de production.

Fiabilité, sécurité et coût

• Définissez des SLO et des budgets d'erreur pour la plate-forme et utilisez le budget pour décider quand le travail de fiabilité passe en premier.

• Diriger la réponse technique aux incidents majeurs sur la plateforme et s'assurer que chaque autopsie se termine par un correctif qui empêche que cela ne se reproduise.

• Définissez la norme à laquelle chaque modification répond avant sa mise en ligne : révision du code, tests d'acceptation, builds traçables de la source au déploiement et contrôles de l'équipe de sécurité des applications dans chaque pipeline par défaut.

• Fournir des secrets, des certificats et une authentification unique en tant que services de plateforme, construits selon la norme d'identité et de secrets de l'équipe de sécurité, avec un TLS mutuel entre les services et des informations d'identification issues du code, de courte durée et alternés automatiquement.

• Intégrez une conformité continue aux normes SOC 2 Type 2 et ISO 27001 dans la plateforme, avec des contrôles écrits sous forme de politique dans le code, des preuves collectées automatiquement et des dérives détectées et corrigées.

• Automatisez l'application des correctifs sans interruption et apportez des correctifs de sécurité urgents et sous embargo dans des délais définis. Les nœuds sont remplacés site par site à partir d'images reconstruites, dans les limites de perturbation de chaque service et avec rollback automatique.

• Coût propre au niveau de la conception, y compris les dépenses cloud, avec un chemin partagé pour chaque équipe et chaque site.

Leadership technique

• Développez les ingénieurs grâce au mentorat, à la révision de la conception et à la révision du code. L'embauche et l'évaluation des performances relèvent du responsable de l'ingénierie.

• Définissez la manière dont l'équipe utilise l'IA pour créer des logiciels de manière efficace et sécurisée, avec des portes de révision et des contrôles d'architecture automatisés qui maintiennent le code généré par l'IA dans la conception convenue.

• S'approprier les entretiens et évaluations techniques pour les ingénieurs de plate-forme et maintenir chaque candidat à cette barre.

Partenariat et communication

• Élaborez la feuille de route de la plateforme avec les responsables des produits, de l'infrastructure, du réseau et de la fourniture de sites, et préparez la plateforme avant la mise en service de chaque nouvelle région ou centre de données.

• Convenir par écrit de la propriété à chaque frontière avec l'infrastructure, le réseau, la sécurité, les logiciels, les données et l'observabilité, et régler directement les désaccords.…

Source : Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/firmus/principal-engineer-platform-sydney-australia-409539)