Ingeniero de infraestructura de IA, plataforma de servicios

Como ingeniero de software en el equipo de infraestructura de aprendizaje automático, diseñará y creará plataformas para brindar servicios escalables, confiables y eficientes a los LLM. Nuestra plataforma impulsa sistemas de investigación y producción de vanguardia, admitiendo casos de uso internos y externos en diversos entornos.

El candidato ideal combina sólidos fundamentos de aprendizaje automático con una profunda experiencia en el diseño de sistemas backend. Trabajará en un entorno altamente colaborativo, uniendo investigación e ingeniería para brindar experiencias fluidas a nuestros clientes y acelerar la innovación en toda la empresa.

Usted:

• Construir y mantener sistemas de alto rendimiento y tolerantes a fallos para prestar servicios a LLM y otros modelos a escala.

• Construir una plataforma interna para potenciar el descubrimiento de capacidades LLM.

• Colaborar con investigadores e ingenieros para integrar y optimizar modelos para casos de uso de producción e investigación.

• Realizar revisiones de arquitectura y diseño para mantener las mejores prácticas en diseño y escalabilidad de sistemas.

• Desarrollar soluciones de monitoreo y observabilidad para garantizar la salud y el rendimiento del sistema.

• Liderar proyectos de principio a fin, desde la recopilación de requisitos hasta la implementación, en un entorno multifuncional.

Lo ideal sería tener:

• Más de 4 años de experiencia en la creación de sistemas backend de alto rendimiento y gran escala.

• Fuertes habilidades de programación en uno o más lenguajes (por ejemplo, Python, Go, Rust, C++).

• Experiencia con los fundamentos de enrutamiento y servicio de LLM (por ejemplo, limitación de velocidad, transmisión de tokens, equilibrio de carga, presupuestos, etc.)

• Experiencia con capacidades y conceptos de LLM como razonamiento, llamada de herramientas, plantillas de indicaciones, etc.

• Experiencia con contenedores y herramientas de orquestación (por ejemplo, Docker, Kubernetes).

• Familiaridad con la infraestructura de la nube (AWS, GCP) y la infraestructura como código (por ejemplo, Terraform).

• Capacidad comprobada para resolver problemas complejos y trabajar de forma independiente en entornos en rápido movimiento.

Es bueno tener:

• Experiencia con marcos de servicio LLM modernos como vLLM, SGLang, TensorRT-LLM o inferencia de generación de texto.

TENGA EN CUENTA: Nuestra política requiere un período de espera de 90 días antes de reconsiderar candidatos para el mismo puesto. Esto nos permite garantizar una evaluación justa y exhaustiva de todos los solicitantes.

Acerca de nosotros:

En Scale, nuestra misión es desarrollar sistemas de IA confiables para las decisiones más importantes del mundo. Nuestros productos proporcionan datos de alta calidad y tecnologías completas que impulsan los modelos líderes del mundo y ayudan a las empresas y gobiernos a construir, implementar y supervisar aplicaciones de IA que generen un impacto real. Trabajamos en estrecha colaboración con líderes de la industria como Meta, Ernst & Young, Mayo Clinic, Time Inc., el Gobierno de Qatar y agencias gubernamentales de EE. UU., incluidos el Ejército y la Fuerza Aérea. Estamos ampliando nuestro equipo para acelerar el desarrollo de aplicaciones de IA.

Creemos que todos deberían poder dedicarse por completo al trabajo, razón por la cual estamos orgullosos de ser un lugar de trabajo inclusivo y con igualdad de oportunidades. Estamos comprometidos con la igualdad de oportunidades de empleo independientemente de la raza, color, ascendencia, religión, sexo, origen nacional, orientación sexual, edad, ciudadanía, estado civil, estado de discapacidad, identidad de género o estado de veterano.

Estamos comprometidos a trabajar y brindar adaptaciones razonables a los solicitantes con discapacidades físicas y mentales. Si necesita ayuda y/o una adaptación razonable en el proceso de solicitud o reclutamiento debido a una discapacidad, comuníquese con nosotros al ----- Consulte el cartel Conozca sus derechos del Departamento de Trabajo de los Estados Unidos para obtener información adicional.

Cumplimos con la disposición de Transparencia Salarial del Departamento de Trabajo de los Estados Unidos.

TENGA EN CUENTA: Recopilamos, conservamos y utilizamos datos personales para nuestros fines comerciales profesionales, incluida la notificación de oportunidades laborales que pueden ser de su interés y compartir con nuestros afiliados. Limitamos los datos personales que recopilamos a los que creemos que son apropiados y necesarios para gestionar las necesidades de los solicitantes, brindar nuestros servicios y cumplir con las leyes aplicables. Cualquier información que recopilemos en relación con su solicitud será tratada de acuerdo con nuestras políticas y programas internos diseñados para proteger los datos personales. Consulte nuestra política de privacidad para obtener información adicional.

Encuentre trabajo en Reino Unido en Arbeitnow

Fuente: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/scaleai/ai-infrastructure-engineer-serving-platform-london-413534)