Ingeniero de Software, Implementación de Modelos- Ingeniería ChatGPT

Acerca del equipo
ChatGPT se basa en una flota de GPU grande y en crecimiento para atender cargas de trabajo de inferencia de manera confiable y eficiente. Desarrollamos los sistemas y herramientas que permiten introducir nuevos modelos, gestionar implementaciones de producción, responder a problemas operativos y utilizar la infraestructura de forma eficaz a escala.
Nuestro trabajo abarca sistemas distribuidos, ingeniería de plataformas, automatización de infraestructura y experiencia de desarrollador. Nos asociamos estrechamente con equipos de investigación, infraestructura y productos para hacer que la implementación del modelo sea más confiable, más eficiente y más fácil de administrar.

Acerca del rol
Buscamos un ingeniero de software con experiencia en la construcción u operación de sistemas de producción a gran escala.
Diseñará y desarrollará sistemas que respalden el ciclo de vida del modelo en producción, incluida la orquestación de implementación, gestión de configuración, automatización operativa, confiabilidad y gestión de capacidad. Ayudará a transformar procesos operativos complejos en capacidades de plataforma escalables que permitan a los equipos de OpenAI implementar y administrar modelos con mayor confianza y menos esfuerzo manual.
Este puesto es ideal para ingenieros que disfrutan resolviendo problemas operativos complejos y creando software que facilite la ejecución de la infraestructura de producción a escala.
En este rol, lo harás

• Construir y desarrollar la plataforma utilizada para implementar, configurar y administrar modelos en ChatGPT.

• Desarrollar sistemas para la orquestación de la implementación, la implementación de modelos, la visibilidad operativa y la preparación para la producción.

• Cree abstracciones y herramientas que simplifiquen la infraestructura compleja y mejoren la experiencia del desarrollador.

• Automatizar los flujos de trabajo operativos, incluida la detección, el diagnóstico, la mitigación y la recuperación de incidentes.

• Mejorar la confiabilidad, escalabilidad y eficiencia de las implementaciones de modelos y la infraestructura que las respalda.

• Construir sistemas que respalden la planificación de capacidad, la asignación de recursos y la utilización de infraestructura.

• Asociarse con equipos de investigación, infraestructura e ingeniería de productos para identificar desafíos comunes y ofrecer capacidades de plataforma reutilizables.

• Dar forma a la dirección técnica de la plataforma de gestión de modelos a medida que ChatGPT y sus sistemas subyacentes continúan evolucionando.

Podrías prosperar en este rol si

• Haber construido u operado plataformas internas, sistemas distribuidos o infraestructura de producción a gran escala.

• Disfrute convirtiendo problemas operativos complejos en software confiable y abstracciones reutilizables.

• Tener experiencia con sistemas de implementación, orquestación, gestión de configuración o automatización de infraestructura.

• Comprender la confiabilidad de la producción, la observabilidad, la planificación de capacidad y la respuesta a incidentes.

• Preocuparse por la experiencia de los desarrolladores y crear herramientas que hagan que otros equipos de ingeniería sean más efectivos.

• Se sienten cómodos trabajando más allá de los límites organizacionales y asumiendo responsabilidad desde el diseño del sistema hasta la operación de producción.

• Prosperar en entornos en rápido movimiento con una ambigüedad técnica significativa.

• Están interesados ​​en el servicio de modelos o la infraestructura de aprendizaje automático, pero no necesitan experiencia especializada con GPU o hardware de bajo nivel.

Calificaciones

• Cinco o más años de experiencia en ingeniería de software en la construcción de infraestructura de producción.

• Fuertes habilidades de programación en Go, Python, C++, Rust o un lenguaje comparable.

• Experiencia diseñando u operando sistemas distribuidos de alta disponibilidad.

• Experiencia en ingeniería de plataformas, ingeniería de infraestructura, ingeniería de producción, ingeniería de confiabilidad del sitio o disciplinas similares.

• Fuertes habilidades de diseño de sistemas, depuración y resolución de problemas operativos.

• Fuertes habilidades de comunicación y experiencia colaborando entre equipos de ingeniería.…

Fuente: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/openai/software-engineer-model-deployment-chatgpt-engineering-london-371397)