Yazılım Mühendisi, Model Dağıtımı - ChatGPT Mühendisliği

Takım Hakkında
ChatGPT, çıkarım iş yüklerine güvenilir ve verimli bir şekilde hizmet vermek için geniş ve büyüyen bir GPU filosuna güveniyor. Yeni modellerin tanıtılmasına, üretim dağıtımlarının yönetilmesine, operasyonel sorunlara yanıt verilmesine ve altyapının uygun ölçekte etkin bir şekilde kullanılmasına olanak tanıyan sistemler ve araçlar geliştiriyoruz.
Çalışmalarımız dağıtılmış sistemleri, platform mühendisliğini, altyapı otomasyonunu ve geliştirici deneyimini kapsamaktadır. Model dağıtımını daha güvenilir, daha verimli ve yönetimi daha kolay hale getirmek için araştırma, altyapı ve ürün ekipleriyle yakın işbirliği yapıyoruz.

Rol Hakkında
Büyük ölçekli üretim sistemleri oluşturma veya işletme deneyimine sahip bir yazılım mühendisi arıyoruz.
Dağıtım orkestrasyonu, konfigürasyon yönetimi, operasyonel otomasyon, güvenilirlik ve kapasite yönetimi dahil olmak üzere üretimdeki model yaşam döngüsünü destekleyen sistemler tasarlayacak ve geliştireceksiniz. Karmaşık operasyonel süreçlerin, OpenAI genelindeki ekiplerin modelleri daha fazla güvenle ve daha az manuel çabayla dağıtmasına ve yönetmesine olanak tanıyan ölçeklenebilir platform yeteneklerine dönüştürülmesine yardımcı olacaksınız.
Bu rol, karmaşık operasyonel sorunları çözmekten ve üretim altyapısının uygun ölçekte çalıştırılmasını kolaylaştıran yazılımlar geliştirmekten hoşlanan mühendisler için çok uygundur.
Bu Rolde Yapacaksınız

• ChatGPT'de modelleri dağıtmak, yapılandırmak ve yönetmek için kullanılan platformu oluşturun ve geliştirin.

• Dağıtım orkestrasyonu, model kullanıma sunma, operasyonel görünürlük ve üretime hazırlık için sistemler geliştirin.

• Karmaşık altyapıyı basitleştiren ve geliştirici deneyimini geliştiren soyutlamalar ve araçlar oluşturun.

• Olay tespiti, tanılama, hafifletme ve kurtarma dahil olmak üzere operasyonel iş akışlarını otomatikleştirin.

• Model dağıtımlarının ve bunları destekleyen altyapının güvenilirliğini, ölçeklenebilirliğini ve verimliliğini artırın.

• Kapasite planlamayı, kaynak tahsisini ve altyapı kullanımını destekleyen sistemler oluşturun.

• Ortak zorlukları belirlemek ve yeniden kullanılabilir platform yetenekleri sunmak için araştırma, altyapı ve ürün mühendisliği ekipleriyle işbirliği yapın.

• ChatGPT ve temel sistemleri gelişmeye devam ettikçe model yönetimi platformunun teknik yönünü şekillendirin.

Eğer Bu Rolde Başarılı Olabilirsiniz

• Dahili platformlar, dağıtılmış sistemler veya büyük ölçekli üretim altyapısı inşa etmiş veya işletmiş olmak.

• Karmaşık operasyonel sorunları güvenilir yazılımlara ve yeniden kullanılabilir soyutlamalara dönüştürmenin keyfini çıkarın.

• Dağıtım sistemleri, orkestrasyon, konfigürasyon yönetimi veya altyapı otomasyonu konusunda deneyime sahip olmak.

• Üretim güvenilirliğini, gözlemlenebilirliğini, kapasite planlamasını ve olay müdahalesini anlayın.

• Geliştirici deneyimine ve diğer mühendislik ekiplerini daha etkili hale getirecek araçlar oluşturmaya önem verin.

• Organizasyonel sınırların ötesinde çalışma ve sistem tasarımından üretim operasyonuna kadar sahiplenme konusunda rahattırlar.

• Önemli teknik belirsizliğin olduğu, hızlı hareket eden ortamlarda başarılı olun.

• Model sunma veya makine öğrenimi altyapısıyla ilgileniyorlar ancak GPU'lar veya düşük seviyeli donanımlarla ilgili özel deneyime ihtiyaç duymuyorlar.

Nitelikler

• Üretim altyapısı oluşturma konusunda beş veya daha fazla yıllık yazılım mühendisliği deneyimi.

• Go, Python, C++, Rust veya benzer bir dilde güçlü programlama becerileri.

• Yüksek kullanılabilirliğe sahip dağıtılmış sistemleri tasarlama veya çalıştırma deneyimi.

• Platform mühendisliği, altyapı mühendisliği, üretim mühendisliği, saha güvenilirliği mühendisliği veya benzer disiplinlerde deneyim.

• Güçlü sistem tasarımı, hata ayıklama ve operasyonel problem çözme becerileri.

• Güçlü iletişim becerileri ve mühendislik ekipleri arasında işbirliği yapma deneyimi.…

Kaynak: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/openai/software-engineer-model-deployment-chatgpt-engineering-london-371397)