Kıdemli Çıkarım Mühendisi

vCluster Labs'ta Kıdemli Çıkarım Mühendisi olarak, çıkarım sahibi olmak için işe aldığımız ilk mühendis sizsiniz. Platformun çıkarım katmanını sıfırdan oluşturmak, modelleri almak ve bunları geniş ölçekte çalışan üretim düzeyinde, sorgudan yanıta ardışık düzene dönüştürmek için doğrudan CTO'muzla ortaklık kuracaksınız. Buradan itibaren vCluster'da çıkarımın mühendislik yönüne liderlik etmeye yardımcı olacak ve alan geliştikçe bundan sonra oluşturacağımız şeyi şekillendirmek için Product ile ortaklık kuracaksınız.

Kıdemli Çıkarım Mühendisi olarak göreviniz şunları içerecektir:

– Modelleri üretime dağıtma: LLM'leri alın ve bunları GPU altyapısındaki bir veya daha fazla makinede üretime geçirin; bir müşterinin sorgusundan sunulan yanıta kadar tüm hattın sahibi olun.

– Hizmet çerçeveleri: vLLM, SGLang veya TensorRT-LLM'yi kullanarak hizmet altyapısını ayağa kaldırın ve çalıştırın.

– Ölçek için optimizasyon: Trafik arttıkça gecikmeyi ve maliyeti kontrol altında tutmak için niceleme, toplu işlem, önbelleğe alma ve yönlendirme uygulayın.

– Yalnızca yapılandırma değil programlama: Python veya Golang'da gerçek altyapı oluşturun — bu bir mühendislik rolüdür, araştırma veya veri bilimi değil.

– Yol haritasına sahip olmak: İlk yinelemeyi CTO'muzla birlikte oluşturun, ardından çıkarım platformunda liderliği ele alın ve bundan sonra ne geliştireceğimize karar vermek için Ürün ile ortak olun.

Aşağıdakileri getirirseniz bu rol sizin için uygun olabilir:

– Üretim Yüksek Lisansı hizmet deneyimi: İdeal olarak geniş ölçekte çıkarım üzerine kurulmuş bir şirkette vLLM, SGLang veya TensorRT-LLM kullanarak Yüksek Lisans'ları dağıttınız ve hizmet verdiniz.

– Çıkarım optimizasyonu teknik bilgisi: Sadece terimlere aşina olmanın yanı sıra niceleme, toplu işleme, önbelleğe alma ve yönlendirme konularında uygulamalı deneyim.

– Uygulamalı programlama deneyimi: Gerçek üretim kodu deneyimiyle birlikte Python veya Golang'da güçlü mühendislik becerileri.

– İletişim: Teknik kavramları hem mühendislere hem de teknik olmayan paydaşlara açık bir şekilde açıklayan güçlü iletişim becerileri.

Şunlar için bonus puanlar:

– Container mimarisine alınmış ortamlara aşinalık (Docker, Kubernetes)

– Yaygın makine öğrenimi çerçeveleri (PyTorch, Transformers) ile uygulamalı üretken yapay zeka deneyimi

– GPU yığınının iyi anlaşılması: CUDA, NCCL, sürücüler ve ilgili kitaplıklar

– Model mimarileri ve ince ayar yaklaşımları bilgisi

– NVIDIA Dinamo deneyimi

VCLUSTER LABS HAKKINDA

Dünyanın en hızlı büyüyen yapay zeka bulut oluşturucularının güvendiği, yapay zeka altyapısında 1 numaralı platformuz. Khosla Ventures (OpenAI, GitLab, Stripe ve DoorDash'in ilk yatırımcısı) dahil olmak üzere üst düzey yatırımcılardan 28 milyon dolardan fazla para toplayan, girişim destekli bir girişimiz ve ekibimize katılacak motive insanlar arayan bir hiper büyüme aşamasındayız. Genel merkezimiz San Francisco'dadır (Salesforce Tower), ancak ekibimiz uzaktan öncelikli bir kültürle dünya çapında dağılmıştır.

AI Cloud sağlayıcılarına ve AI fabrikalarına kendi GPU altyapılarında hiper ölçekleyiciye benzer bir deneyim sunuyoruz. Platformumuz, yalın donanım tedariği ve düğüm yaşam döngüsü yönetiminden yönetilen Kubernetes, Slurm, Ray ve çıkarım kümelerine kadar bir operatörün ihtiyaç duyduğu tüm yığını çalıştırır; böylece ham GPU'ları kendileri oluşturmak için 12'den fazla ay harcamak yerine birkaç gün içinde satabilecekleri küme ürünlerine dönüştürebilirler. Bugün, 50'den fazla yapay zeka bulutunda ve Fortune 500 şirketlerinde 100.000'den fazla GPU'ya ve 1 milyondan fazla CPU'ya güç sağlıyoruz ve 40'tan fazla altyapı mühendisinden oluşan bir ekip tarafından destekleniyoruz; bu ekip, müşterilerimize sadece yazılım göndermek yerine onlarla birlikte geliştirme yapıyor.

2021'den bu yana oluşturulan 11.000'den fazla GitHub yıldızı ve 40 milyondan fazla kiracı kümesiyle Kubernetes'te kiracı izolasyonuna yönelik açık kaynaklı teknoloji olan vCluster'ın arkasındaki şirket biziz. Açık kaynak, DNA'mızın bir parçasıdır. KubeCon Kuzey Amerika 2025'te, DGX sistemleri için NVIDIA tarafından doğrulanmış bir referans mimarisiyle yapay zeka, makine öğrenimi ve GPU yoğun iş yüklerini her yerde çalıştırmak için oluşturulmuş Kubernetes'e özgü bir çerçeve olan Yapay Zeka için Altyapı Kiralama Platformumuzu başlattık.

Faydaları

Aşağıdaki avantajları sunuyoruz:

– Rekabetçi Maaş: Eşitliği de içeren rekabetçi bir ücret paketi sunuyoruz.

– Platin Düzeyinde Sigorta: Size ve bakmakla yükümlü olduğunuz kişilere yönelik planlar dahil olmak üzere sağlık, dişçilik, görme ve hayat sigortası (faydalar ülkeye göre değişir).

– Esnek Çalışma Programı: Doktor randevunuz mu var veya saat 14:00'te alışveriş yapmak için süpermarkete mi gitmeniz gerekiyor? Bu konuda bir sorunumuz olmayacak. Bizim için sonuçlar, her gün aynı saatte girip çıkmaktan daha önemlidir.

– İşyeri Esnekliği: Nerede çalışacağınız konusunda çok esnekiz. Hayatta bazı şeylerin değişebileceğini biliyoruz ve bu süreçte çalışma ortamını sizin için ayarlamaktan mutluluk duyuyoruz.

KÜLTÜR & DEĞERLER

vCluster Labs olarak aşağıdakilere değer veriyoruz ve bunların arkasında duruyoruz:

1. Bunu Gerçekleştirin: Eyleme geçme konusunda amansız bir önyargıya ve engelleri aşma cesaretine sahibiz. Bunu anlamak, işe koymak ve işletme için ölçülebilir etki yaratan eylemlere acımasızca öncelik vermek için ne gerekiyorsa yapıyoruz.

2. Sonucu Sahiplenin: Bir görevin işaretlenmesiyle sorumluluğumuzun bitmediğini anlıyoruz; değer teslim edildiğinde sona erer. Günlük bireysel eylemlerimizi şirketin ve müşterilerimizin daha geniş başarısına bağlarız.

3. Wow Yaratın: Başarıyı hem şirket içinde hem de şirket dışında yarattığımız deneyimle ölçeriz. Müşterilerimiz için bu, etkileyici hız ve sezgisel deneyimler anlamına gelir. Ekibimiz için bu, birbirimizi desteklemek için ekstra çaba harcamak ve sürekli olarak birbirimizi yeni zirvelere taşımak anlamına geliyor.

4. Açık Kaynak, Açık Fikir: Açık kaynak projelerine aktif olarak katkıda bulunuyor ve sürdürüyoruz. Şirket içinde meritokrasiyi teşvik ediyoruz; kimden ve nereden gelirse gelsin en güçlü fikirler kazanır.

5. Yarının Standartlarını Kasıtlı Olarak Oluşturun: Biz sadece yazılım göndermiyoruz; yarının son teknolojisini tanımlıyoruz. Daha iyi bir şey inşa etmek için eski yaklaşımları yıkma konusunda korkusuzuz, ancak bunu nasıl yaptığımız konusunda disiplinliyiz çünkü kullanıcılarımızın kritik görev altyapı platformlarını çalıştırmak için teknolojimize güvendiğini biliyoruz.

Kaynak: AB Uzaktan İşler (https://euremotejobs.com/job/senior-inference-engineer/)