Інженер-програміст, розгортання моделі – ChatGPT Engineering

Про команду
ChatGPT покладається на великий парк графічних процесорів, що постійно зростає, щоб надійно та ефективно обслуговувати робочі навантаження висновків. Ми розробляємо системи та інструменти, які дають змогу запроваджувати нові моделі, керувати розгортанням виробництва, реагувати на операційні проблеми та ефективно використовувати інфраструктуру в масштабах.
Наша робота охоплює розподілені системи, розробку платформ, автоматизацію інфраструктури та досвід розробників. Ми тісно співпрацюємо з дослідницькими, інфраструктурними та продуктовими командами, щоб зробити розгортання моделі надійнішим, ефективнішим і легшим у керуванні.

Про роль
Ми шукаємо інженера-програміста з досвідом створення або експлуатації великомасштабних виробничих систем.
Ви будете проектувати та розробляти системи, які підтримують життєвий цикл моделі у виробництві, включаючи координацію розгортання, керування конфігурацією, операційну автоматизацію, надійність та управління потужністю. Ви допоможете перетворити складні операційні процеси на масштабовані можливості платформи, які дозволять командам OpenAI розгортати та керувати моделями з більшою впевненістю та меншими ручними зусиллями.
Ця посада добре підходить для інженерів, яким подобається вирішувати складні операційні проблеми та створювати програмне забезпечення, яке полегшує роботу виробничої інфраструктури в масштабах.
У цій ролі ви будете

• Створюйте та розвивайте платформу, яка використовується для розгортання, налаштування та керування моделями в ChatGPT.

• Розробити системи для оркестровки розгортання, розгортання моделей, оперативної видимості та готовності до виробництва.

• Створюйте абстракції та інструменти, які спрощують складну інфраструктуру та покращують роботу розробника.

• Автоматизуйте робочі процеси, включаючи виявлення інцидентів, діагностику, пом’якшення та відновлення.

• Підвищення надійності, масштабованості та ефективності розгортання моделей та інфраструктури, яка їх підтримує.

• Створюйте системи, які підтримують планування потужностей, розподіл ресурсів та використання інфраструктури.

• Співпрацюйте з дослідницькими, інфраструктурними та інженерними командами, щоб визначити загальні проблеми та надати можливості багаторазової платформи.

• Сформуйте технічний напрямок платформи керування моделлю, оскільки ChatGPT і базові системи продовжують розвиватися.

Ви можете процвітати в цій ролі, якщо ви

• Побудували або керували внутрішніми платформами, розподіленими системами або великомасштабною виробничою інфраструктурою.

• Насолоджуйтеся перетворенням складних операційних проблем у надійне програмне забезпечення та багаторазові абстракції.

• Мати досвід роботи з системами розгортання, оркестровки, керування конфігурацією або автоматизації інфраструктури.

• Розуміти надійність виробництва, спостережливість, планування потужності та реагування на інциденти.

• Подбайте про досвід розробників та інструменти створення, які роблять інші команди інженерів ефективнішими.

• Комфортно працювати поза організаційними межами та брати на себе відповідальність від проектування системи до виробничої експлуатації.

• Процвітайте в швидко мінливих середовищах із значною технічною неоднозначністю.

• Ви зацікавлені в інфраструктурі обслуговування моделей або ML, але не потребуєте спеціального досвіду роботи з графічним процесором або апаратним забезпеченням низького рівня.

кваліфікація

• П'ять або більше років досвіду розробки програмного забезпечення для створення виробничої інфраструктури.

• Сильні навички програмування на Go, Python, C++, Rust або подібній мові.

• Досвід проектування або експлуатації високодоступних розподілених систем.

• Досвід проектування платформи, проектування інфраструктури, проектування виробництва, проектування надійності сайту або подібних дисциплін.

• Сильні навички проектування систем, налагодження та оперативного вирішення проблем.

• Хороші комунікативні навички та досвід співпраці між інженерними командами.…

Джерело: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/openai/software-engineer-model-deployment-chatgpt-engineering-london-371397)