Softwareentwickler, Modellbereitstellung – ChatGPT Engineering

Über das Team
ChatGPT verlässt sich auf eine große und wachsende GPU-Flotte, um Inferenz-Workloads zuverlässig und effizient zu bewältigen. Wir entwickeln die Systeme und Tools, die es ermöglichen, neue Modelle einzuführen, Produktionsbereitstellungen zu verwalten, auf betriebliche Probleme zu reagieren und die Infrastruktur im großen Maßstab effektiv zu nutzen.
Unsere Arbeit umfasst verteilte Systeme, Plattform-Engineering, Infrastrukturautomatisierung und Entwicklererfahrung. Wir arbeiten eng mit Forschungs-, Infrastruktur- und Produktteams zusammen, um die Modellbereitstellung zuverlässiger, effizienter und einfacher zu verwalten.

Über die Rolle
Wir suchen einen Softwareentwickler mit Erfahrung im Aufbau oder Betrieb großer Produktionssysteme.
Sie entwerfen und entwickeln Systeme, die den Modelllebenszyklus in der Produktion unterstützen, einschließlich Bereitstellungsorchestrierung, Konfigurationsmanagement, Betriebsautomatisierung, Zuverlässigkeit und Kapazitätsmanagement. Sie helfen dabei, komplexe Betriebsprozesse in skalierbare Plattformfunktionen umzuwandeln, die es Teams in OpenAI ermöglichen, Modelle mit größerer Sicherheit und weniger manuellem Aufwand bereitzustellen und zu verwalten.
Diese Rolle eignet sich gut für Ingenieure, die Spaß daran haben, komplexe betriebliche Probleme zu lösen und Software zu entwickeln, die den Betrieb der Produktionsinfrastruktur in großem Maßstab erleichtert.
In dieser Rolle werden Sie es tun

• Erstellen und entwickeln Sie die Plattform weiter, die zum Bereitstellen, Konfigurieren und Verwalten von Modellen in ChatGPT verwendet wird.

• Entwickeln Sie Systeme für die Orchestrierung der Bereitstellung, Modelleinführungen, Betriebstransparenz und Produktionsbereitschaft.

• Erstellen Sie Abstraktionen und Tools, die komplexe Infrastrukturen vereinfachen und die Entwicklererfahrung verbessern.

• Automatisieren Sie betriebliche Arbeitsabläufe, einschließlich Erkennung, Diagnose, Schadensbegrenzung und Wiederherstellung von Vorfällen.

• Verbessern Sie die Zuverlässigkeit, Skalierbarkeit und Effizienz von Modellbereitstellungen und der sie unterstützenden Infrastruktur.

• Erstellen Sie Systeme, die Kapazitätsplanung, Ressourcenzuweisung und Infrastrukturnutzung unterstützen.

• Arbeiten Sie mit Forschungs-, Infrastruktur- und Produktentwicklungsteams zusammen, um gemeinsame Herausforderungen zu identifizieren und wiederverwendbare Plattformfunktionen bereitzustellen.

• Gestalten Sie die technische Ausrichtung der Modellverwaltungsplattform, während sich ChatGPT und die zugrunde liegenden Systeme weiterentwickeln.

Sie könnten in dieser Rolle erfolgreich sein, wenn Sie

• Sie haben interne Plattformen, verteilte Systeme oder eine große Produktionsinfrastruktur gebaut oder betrieben.

• Spaß daran haben, komplexe betriebliche Probleme in zuverlässige Software und wiederverwendbare Abstraktionen umzuwandeln.

• Sie haben Erfahrung mit Bereitstellungssystemen, Orchestrierung, Konfigurationsmanagement oder Infrastrukturautomatisierung.

• Produktionszuverlässigkeit, Beobachtbarkeit, Kapazitätsplanung und Reaktion auf Vorfälle verstehen.

• Legen Sie Wert auf Entwicklererfahrung und die Entwicklung von Tools, die andere Entwicklungsteams effektiver machen.

• Fühlen sich wohl bei der Arbeit über Organisationsgrenzen hinweg und übernehmen die Verantwortung vom Systemdesign bis zum Produktionsbetrieb.

• Erfolgreich sein in schnelllebigen Umgebungen mit erheblicher technischer Unklarheit.

• Sind an Modell-Serving- oder ML-Infrastruktur interessiert, benötigen aber keine spezielle Erfahrung mit GPUs oder Low-Level-Hardware.

Qualifikationen

• Fünf oder mehr Jahre Erfahrung im Software-Engineering im Aufbau einer Produktionsinfrastruktur.

• Gute Programmierkenntnisse in Go, Python, C++, Rust oder einer vergleichbaren Sprache.

• Erfahrung im Entwerfen oder Betreiben hochverfügbarer verteilter Systeme.

• Erfahrung mit Plattformtechnik, Infrastrukturtechnik, Produktionstechnik, Standortzuverlässigkeitstechnik oder ähnlichen Disziplinen.

• Starke Fähigkeiten in den Bereichen Systemdesign, Debugging und betriebliche Problemlösung.

• Starke Kommunikationsfähigkeiten und Erfahrung in der Zusammenarbeit zwischen Ingenieurteams.…

Quelle: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/openai/software-engineer-model-deployment-chatgpt-engineering-london-371397)