Ingénieur infrastructure IA, plateforme de service

En tant qu'ingénieur logiciel au sein de l'équipe ML Infrastructure, vous concevrez et construirez des plates-formes pour un service évolutif, fiable et efficace des LLM. Notre plateforme alimente des systèmes de recherche et de production de pointe, prenant en charge des cas d'utilisation internes et externes dans divers environnements.

Le candidat idéal combine de solides fondamentaux de ML avec une expertise approfondie en conception de systèmes backend. Vous travaillerez dans un environnement hautement collaboratif, reliant la recherche et l’ingénierie pour offrir des expériences transparentes à nos clients et accélérer l’innovation dans l’ensemble de l’entreprise.

Vous allez :

• Créez et maintenez des systèmes hautes performances, tolérants aux pannes, pour servir les LLM et autres modèles à grande échelle.

• Créer une plate-forme interne pour permettre la découverte des capacités LLM.

• Collaborer avec des chercheurs et des ingénieurs pour intégrer et optimiser des modèles pour les cas d'utilisation de production et de recherche.

• Effectuer des examens de l'architecture et de la conception pour respecter les meilleures pratiques en matière de conception et d'évolutivité du système.

• Développer des solutions de surveillance et d'observabilité pour garantir la santé et les performances du système.

• Diriger les projets de bout en bout, de la collecte des exigences à la mise en œuvre, dans un environnement interfonctionnel.

Idéalement, vous auriez :

• Plus de 4 ans d'expérience dans la création de systèmes backend à grande échelle et hautes performances.

• Solides compétences en programmation dans un ou plusieurs langages (par exemple, Python, Go, Rust, C++).

• Expérience avec les principes fondamentaux du service et du routage LLM (par exemple, limitation de débit, streaming de jetons, équilibrage de charge, budgets, etc.)

• Expérience avec les capacités et les concepts LLM tels que le raisonnement, l'appel d'outils, les modèles d'invite, etc.

• Expérience avec les conteneurs et les outils d'orchestration (par exemple, Docker, Kubernetes).

• Familiarité avec l'infrastructure cloud (AWS, GCP) et l'infrastructure en tant que code (par exemple, Terraform).

• Capacité avérée à résoudre des problèmes complexes et à travailler de manière indépendante dans des environnements en évolution rapide.

C'est bien d'avoir :

• Expérience avec les frameworks de service LLM modernes tels que vLLM, SGLang, TensorRT-LLM ou l'inférence de génération de texte.

VEUILLEZ NOTER : Notre politique exige une période d'attente de 90 jours avant de reconsidérer les candidats pour le même poste. Cela nous permet de garantir une évaluation juste et approfondie de tous les candidats.

À propos de nous :

Chez Scale, notre mission est de développer des systèmes d'IA fiables pour les décisions les plus importantes au monde. Nos produits fournissent des données de haute qualité et des technologies complètes qui alimentent les principaux modèles mondiaux et aident les entreprises et les gouvernements à créer, déployer et superviser des applications d'IA qui ont un réel impact. Nous travaillons en étroite collaboration avec des leaders de l'industrie tels que Meta, Ernst & Young, Mayo Clinic, Time Inc., le gouvernement du Qatar et des agences gouvernementales américaines, notamment l'armée et l'armée de l'air. Nous agrandissons notre équipe pour accélérer le développement d’applications d’IA.

Nous pensons que chacun devrait pouvoir se consacrer pleinement au travail, c'est pourquoi nous sommes fiers d'être un lieu de travail inclusif et égalitaire. Nous nous engageons à garantir l’égalité des chances en matière d’emploi, quels que soient la race, la couleur, l’ascendance, la religion, le sexe, l’origine nationale, l’orientation sexuelle, l’âge, la citoyenneté, l’état civil, la situation de handicap, l’identité de genre ou le statut d’ancien combattant.

Nous nous engageons à travailler avec et à fournir des aménagements raisonnables aux candidats souffrant de handicaps physiques et mentaux. Si vous avez besoin d'aide et/ou d'aménagements raisonnables dans le processus de candidature ou de recrutement en raison d'un handicap, veuillez nous contacter au ----- Veuillez consulter l'affiche Know Your Rights du Département du Travail des États-Unis pour plus d'informations.

Nous nous conformons à la disposition de transparence salariale du Département du travail des États-Unis.

VEUILLEZ NOTER : Nous collectons, conservons et utilisons des données personnelles à des fins professionnelles, notamment pour vous informer des opportunités d'emploi susceptibles de vous intéresser et les partager avec nos sociétés affiliées. Nous limitons les données personnelles que nous collectons à celles que nous jugeons appropriées et nécessaires pour gérer les besoins des candidats, fournir nos services et nous conformer aux lois applicables. Toutes les informations que nous collectons dans le cadre de votre candidature seront traitées conformément à nos politiques et programmes internes conçus pour protéger les données personnelles. Veuillez consulter notre politique de confidentialité pour plus d'informations.

Trouvez un emploi au Royaume-Uni sur Arbeitnow

Source : Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/scaleai/ai-infrastructure-engineer-serving-platform-london-413534)