İş
Ortak beslemesinden
Makine Öğrenimi Mühendisi, Ops
Talep üzerine fiyat
Detaylar
- Çalışma türü
- Tam zamanlı
- Uzaktan
- Evet
- Şirket
- Cantina Labs
- Seviye
- Any
Açıklama
English dilinden otomatik çevrildi. Orijinal metin esas alınmalıdır. Makine çevirisi — daha doğru bir çeviri hazırlanıyor.
Cantina hakkında:
Cantina Labs, ifadenin, kişiliğin ve gerçekçiliğin sınırlarını zorlayan bir dizi gelişmiş gerçek zamanlı model geliştiren bir sosyal yapay zeka şirketidir. İnsanların hikaye anlatma, bağlantı kurma ve yaratma biçimlerini dönüştürerek karakterlere hayat veriyoruz. Ekosistemler inşa ediyor ve güçlendiriyoruz. Amiral gemisi sosyal yapay zeka platformumuz Cantina sadece başlangıç.
Yapay zekanın insan yaratıcılığını ve sosyal etkileşimlerini şekillendirme potansiyeli konusunda heyecanlanıyorsanız, geleceği inşa etmek için bize katılın!
Rol Hakkında:
Metinden konuşmaya (TTS) ve konuşma tanıma (ASR) modellerimiz için uçtan uca üretim çıkarım yığınına sahip olacak bir ML Mühendisi arıyoruz. Araştırma ekibimiz eğitimli model kontrol noktaları sağlar; bunları GPU'larda düşük maliyetli, düşük gecikmeli, gerçek zamanlı akış hizmetleri olarak üreteceksiniz. Bu rol, çıkarım motorlarını, bunların üzerinde çalıştığı Kubernetes altyapısını ve değişiklikleri güvenli bir şekilde göndermemize olanak tanıyan performans kıyaslamasını ve doğruluk doğrulamasını kapsar. Araştırma ve üretim arasında köprü kuracak ve ölçeklendikçe kendi gecikme süresine, verimine, maliyetine ve doğruluğuna sahip olacaksınız.
Ne Yapacaksınız:
•
Çok aşamalı model işlem hatları da dahil olmak üzere TTS ve ASR modelleri için akış çıkarım motorları oluşturun ve optimize edin.
•
Sürekli toplu işlem, CUDA Grafikleri, torch.compile ve karma hassasiyeti kullanarak gecikmeyi (ilk parçaya kadar geçen süre, p50/p99) ve verimi optimize edin.
•
Aşama başına ve uçtan uca otomatik doğruluk regresyon testleri aracılığıyla referans uygulamasıyla sayısal eşitliği koruyun.
•
Kubernetes'te GPU çıkarım hizmetlerini dağıtın ve çalıştırın: otomatik ölçeklendirme, kapsayıcıya alma ve kod olarak altyapı.
•
Model sürüm oluşturma ve tekrarlanabilir yayınlar ile model yapıları için CI/CD oluşturun.
•
Kendi gözlemlenebilirliği ve performans kıyaslaması: p50/p99 gecikme süresi, gerçek zamanlı faktör (RTF), GPU kullanımı ve istek başına maliyet.
•
Yeni modeller üretmek için araştırmalarla ortak olun.
Ne Getireceksiniz:
•
Model API'lerini tüketmenin ötesinde, üretimde ML modellerini dağıtma, ölçeklendirme ve optimize etme konusunda uygulamalı deneyim.
•
CUDA çekirdeklerinden hizmet çerçevelerine kadar tüm çıkarım yığınına ilişkin bazı katmanlarda derinlikle çalışma bilgisi; hepsinde uzmanlık beklenmiyor.
•
GPU performans optimizasyonu: profil oluşturma (Nsight Systems, PyTorch Profiler), bellek bant genişliği, CPU-GPU senkronizasyonu.
•
Model sunumuna ilişkin sağlam bir anlayış: sürekli toplu işlem, KV önbellek yönetimi, istek planlama.
•
Kubernetes, CI/CD ve bulut altyapısıyla üretim deneyimi.
•
Güçlü Python ve PyTorch ve performans kıyaslamasına yönelik titiz bir yaklaşım.
•
Konuşma veya ses modelleri (TTS, ASR, ses dönüştürme) konusunda deneyim.
•
vLLM (vLLM-Omni), SGLang, TensorRT-LLM, TensorRT veya Triton Inference Server gibi çıkarım çerçeveleri konusunda deneyim.
Tazminat:
Ücret belirlenirken beceriler, deneyim, iş kapsamı, konum ve rekabetçi ücret piyasası verileri dahil olmak üzere bir dizi faktör dikkate alınacaktır.
ABD merkezli rollerin avantajları:
•
Rekabetçi maaş ve cömert şirket sermayesi
•
Sağlık, dişçilik ve görme sigortası - primlerin %99,99'u Cantina tarafından karşılanır
•
Aşağıdakileri içeren 42 günlük ücretli izin:
•
15 PTO günü
•
10 hastalık günü
•
15 şirket tatili
•
2 yüzen tatil
•
Cömert ebeveyn izni ve doğurganlık desteği
•
401(k) emeklilik tasarruf planı
•
Yaşam tarzı harcama hesabı – ayda 500$ dilediğiniz gibi kullanabilirsiniz
•
Ofis içi çalışanlar için ücretsiz öğle yemeği ve atıştırmalıklar
•
Bir Tıbbi üyelik ve daha fazlası!
Kaynak: Jobicy (https://jobicy.com/jobs/160996-machine-learning-engineer-ops)
Cantina Labs, ifadenin, kişiliğin ve gerçekçiliğin sınırlarını zorlayan bir dizi gelişmiş gerçek zamanlı model geliştiren bir sosyal yapay zeka şirketidir. İnsanların hikaye anlatma, bağlantı kurma ve yaratma biçimlerini dönüştürerek karakterlere hayat veriyoruz. Ekosistemler inşa ediyor ve güçlendiriyoruz. Amiral gemisi sosyal yapay zeka platformumuz Cantina sadece başlangıç.
Yapay zekanın insan yaratıcılığını ve sosyal etkileşimlerini şekillendirme potansiyeli konusunda heyecanlanıyorsanız, geleceği inşa etmek için bize katılın!
Rol Hakkında:
Metinden konuşmaya (TTS) ve konuşma tanıma (ASR) modellerimiz için uçtan uca üretim çıkarım yığınına sahip olacak bir ML Mühendisi arıyoruz. Araştırma ekibimiz eğitimli model kontrol noktaları sağlar; bunları GPU'larda düşük maliyetli, düşük gecikmeli, gerçek zamanlı akış hizmetleri olarak üreteceksiniz. Bu rol, çıkarım motorlarını, bunların üzerinde çalıştığı Kubernetes altyapısını ve değişiklikleri güvenli bir şekilde göndermemize olanak tanıyan performans kıyaslamasını ve doğruluk doğrulamasını kapsar. Araştırma ve üretim arasında köprü kuracak ve ölçeklendikçe kendi gecikme süresine, verimine, maliyetine ve doğruluğuna sahip olacaksınız.
Ne Yapacaksınız:
•
Çok aşamalı model işlem hatları da dahil olmak üzere TTS ve ASR modelleri için akış çıkarım motorları oluşturun ve optimize edin.
•
Sürekli toplu işlem, CUDA Grafikleri, torch.compile ve karma hassasiyeti kullanarak gecikmeyi (ilk parçaya kadar geçen süre, p50/p99) ve verimi optimize edin.
•
Aşama başına ve uçtan uca otomatik doğruluk regresyon testleri aracılığıyla referans uygulamasıyla sayısal eşitliği koruyun.
•
Kubernetes'te GPU çıkarım hizmetlerini dağıtın ve çalıştırın: otomatik ölçeklendirme, kapsayıcıya alma ve kod olarak altyapı.
•
Model sürüm oluşturma ve tekrarlanabilir yayınlar ile model yapıları için CI/CD oluşturun.
•
Kendi gözlemlenebilirliği ve performans kıyaslaması: p50/p99 gecikme süresi, gerçek zamanlı faktör (RTF), GPU kullanımı ve istek başına maliyet.
•
Yeni modeller üretmek için araştırmalarla ortak olun.
Ne Getireceksiniz:
•
Model API'lerini tüketmenin ötesinde, üretimde ML modellerini dağıtma, ölçeklendirme ve optimize etme konusunda uygulamalı deneyim.
•
CUDA çekirdeklerinden hizmet çerçevelerine kadar tüm çıkarım yığınına ilişkin bazı katmanlarda derinlikle çalışma bilgisi; hepsinde uzmanlık beklenmiyor.
•
GPU performans optimizasyonu: profil oluşturma (Nsight Systems, PyTorch Profiler), bellek bant genişliği, CPU-GPU senkronizasyonu.
•
Model sunumuna ilişkin sağlam bir anlayış: sürekli toplu işlem, KV önbellek yönetimi, istek planlama.
•
Kubernetes, CI/CD ve bulut altyapısıyla üretim deneyimi.
•
Güçlü Python ve PyTorch ve performans kıyaslamasına yönelik titiz bir yaklaşım.
•
Konuşma veya ses modelleri (TTS, ASR, ses dönüştürme) konusunda deneyim.
•
vLLM (vLLM-Omni), SGLang, TensorRT-LLM, TensorRT veya Triton Inference Server gibi çıkarım çerçeveleri konusunda deneyim.
Tazminat:
Ücret belirlenirken beceriler, deneyim, iş kapsamı, konum ve rekabetçi ücret piyasası verileri dahil olmak üzere bir dizi faktör dikkate alınacaktır.
ABD merkezli rollerin avantajları:
•
Rekabetçi maaş ve cömert şirket sermayesi
•
Sağlık, dişçilik ve görme sigortası - primlerin %99,99'u Cantina tarafından karşılanır
•
Aşağıdakileri içeren 42 günlük ücretli izin:
•
15 PTO günü
•
10 hastalık günü
•
15 şirket tatili
•
2 yüzen tatil
•
Cömert ebeveyn izni ve doğurganlık desteği
•
401(k) emeklilik tasarruf planı
•
Yaşam tarzı harcama hesabı – ayda 500$ dilediğiniz gibi kullanabilirsiniz
•
Ofis içi çalışanlar için ücretsiz öğle yemeği ve atıştırmalıklar
•
Bir Tıbbi üyelik ve daha fazlası!
Kaynak: Jobicy (https://jobicy.com/jobs/160996-machine-learning-engineer-ops)
Bu ilan bir ortak kaynağından gelmektedir. Başvuruyu kaynak web sitesinde yapın.
Kaynak: Cantina Labs
İlan Cantina Labs tarafından sağlanmıştır.