Yapay Zeka Araştırma Mühendisi (Çekirdek ve Çıkarım Optimizasyonu)

Bu pozisyon, tüm başvuruları ve sonraki adımları yöneten bir ortak şirket adına listelenmiştir. Ortağımız, Almanya merkezli bir Yapay Zeka Araştırma Mühendisi (Çekirdek ve Çıkarım Optimizasyonu) arıyor.

Yapay zeka araştırması, sistem mühendisliği ve yüksek performanslı model çıkarımının kesişiminde çalışacaksınız.
Odak noktanız, çeşitli donanım ortamlarında gelişmiş yapay zeka sistemleri için model hizmet veren mimariler geliştirmek ve optimize etmek olacaktır.
Kaynakları kısıtlı mobil ve uç cihazlarda dağıtım da dahil olmak üzere gecikme, aktarım hızı, bellek verimliliği ve ölçeklenebilirlik gibi zorlukların üstesinden geleceksiniz.
Rol, uygulamalı araştırmayı düşük seviyeli mühendislikle birleştirerek size yeni çıkarım stratejileri ve GPU çekirdekleri geliştirme fırsatı verir.
Metin, görüntü, ses, yayılma modelleri ve görüntü transformatörlerini kapsayan karmaşık mimarilerle çalışacaksınız.
Çalışmanız, araştırmayı ölçülebilir performans iyileştirmelerine dönüştürmek için sıkı kıyaslama, üretim testi ve yinelemeli optimizasyon içerecektir.
Verimli yapay zeka sistemlerinin sınırlarını zorlamaya odaklanan son derece teknik ve uzak bir ortamda işlevler arası ekiplerle işbirliği yapacaksınız.

Sorumluluklar

• Yüksek verim, düşük gecikme süresi ve verimli bellek kullanımı için optimize edilmiş gelişmiş model hizmeti mimarileri tasarlayın ve dağıtın.

• Kaynakları kısıtlı mobil cihazlar ve uç platformlar da dahil olmak üzere, çeşitli ortamlarda etkili bir şekilde çalışabilen çıkarım hatları geliştirin.

• Yanıt gecikmesini, belirteç oluşturma hızını, verimi, bellek ayak izini ve güvenilirliği kapsayan net performans hedefleri belirleyin.

• Simüle edilmiş ve üretim ortamlarında kontrollü çıkarım kıyaslamaları oluşturun ve yürütün, gecikmeyi, verimi, bellek tüketimini ve hata oranlarını izleyin.

• Gerçek dünya ve kaynak kısıtlı koşullar altında model performansını değerlendirmek için temsili veri kümeleri ve simülasyon senaryoları oluşturun ve sürdürün.

• Çıkarım hatları genelinde bilgi işlem ve bellek darboğazlarını belirleyin ve toplu işlem, ağ oluşturma, bellek yönetimi ve diğer sistem düzeyinde optimizasyonları içeren çözümleri uygulayın.

• Metal Gölgeleme Dili (MSL) ile yazılmış çözümler de dahil olmak üzere, mobil donanım için özel GPU çekirdekleri ve hesaplama gölgelendiricileri geliştirin.

• Budama, niceleme, Flash Attention, KV önbelleğe alma ve spekülatif kod çözme gibi gelişmiş çıkarım optimizasyon tekniklerini uygulayın.

• Büyük ölçekli GPU iş yükleri için tensör paralelliği, ardışık düzen paralelliği ve uzman paralelliği gibi yaklaşımları kullanarak dağıtılmış çıkarım sistemlerini tasarlayın ve optimize edin.

• Optimize edilmiş çıkarım çerçevelerini üretim ve uç cihaz uygulamalarına entegre etmek için işlevler arası mühendislik ve araştırma ekipleriyle birlikte çalışın.

• Değerlendirme metodolojilerini tanımlayın, deneysel sonuçları belgeleyin, performansı yerleşik kıyaslamalarla karşılaştırın ve optimizasyon stratejilerini sürekli olarak iyileştirin.

• Üretim performansını izleyin ve ölçeklenebilirlik, verimlilik ve güvenilirlik konularında daha fazla iyileştirme fırsatlarını belirlemek için ampirik araştırmalardan yararlanın.

Gereksinimler:

• Bilgisayar Bilimleri veya ilgili bir teknik alanda diploma; NLP, Makine Öğrenimi veya ilgili bir disiplinde doktora sahibi olmak, özellikle güçlü bir AI araştırma geçmişi ve önde gelen konferanslarda yayınlar olması durumunda oldukça önemlidir.

• Özel hesaplama gölgelendiricilerini sıfırdan yazma yeteneği de dahil olmak üzere Metal Gölgeleme Dili (MSL) konusunda kanıtlanmış uzmanlık.

• Mobil veya diğer kaynak kısıtlı cihazlarda düşük seviyeli çekirdek optimizasyonu ve çıkarım optimizasyonu konusunda kanıtlanmış deneyim.

• Etki alanına özgü uygulamalar için çıkarım gecikmesi, aktarım hızı ve bellek ayak izinde ölçülebilir iyileştirmeler sağlama konusunda geçmiş performans.

• Yüksek performanslı yapay zeka dağıtımı için modern model hizmet mimarileri, çıkarım motorları ve optimizasyon tekniklerinin derinlemesine anlaşılması.

• Akıllı telefonlar gibi mobil cihazlar için GPU çekirdekleri yazma konusunda güçlü deneyim.

• Model optimizasyonundan kısıtlı donanım üzerinde üretim entegrasyonuna kadar uçtan uca çıkarım hatları geliştirme ve dağıtma konusunda pratik deneyim.

• Gecikme, hesaplama ve hafıza zorluklarını çözmek için ampirik araştırma ve sistematik deneyleri uygulama konusunda güçlü beceri.

• Çıkarım sistemleri için sağlam değerlendirme ve kıyaslama çerçeveleri tasarlama deneyimi.

• Büyük ölçekli GPU kümeleri için tensör paralelliği, ardışık düzen paralelliği ve uzman paralelliği dahil olmak üzere dağıtılmış çıkarım teknikleri bilgisi.

• Difüzyon modellerinin ve Vizyon Transformatörlerinin matematiksel temellerinin ve mimarisinin derinlemesine anlaşılması.

• Budama, niceleme, Flash Attention, KV Önbellek optimizasyonu ve EAGLE gibi spekülatif kod çözme dahil olmak üzere modern çıkarım optimizasyon tekniklerine aşinalık.

• Karmaşık sistem darboğazlarını araştırma ve araştırma bulgularını pratik mühendislik çözümlerine dönüştürme becerisiyle birlikte güçlü analitik ve problem çözme yetenekleri.

• Mükemmel İngilizce iletişim becerileri ve dağınık, işlevler arası teknik ekiplerle etkili bir şekilde işbirliği yapma becerisi.

Faydaları:

• Model sunumu, çıkarım optimizasyonu, mobil bilgi işlem, uç dağıtım ve büyük ölçekli dağıtılmış çıkarımı kapsayan gelişmiş yapay zeka sistemleri üzerinde çalışma fırsatı.

• Uluslararası bir ekiple uzaktan öncelikli çalışma ortamı.

• En son yapay zeka araştırmalarına ve pratik sistem mühendisliği zorluklarına maruz kalma.

• İyileştirmelerin gerçek dünyadaki yapay zeka uygulamaları üzerinde ölçülebilir bir etkiye sahip olabileceği performans açısından kritik altyapıya katkıda bulunma fırsatı.

• Araştırmaya dayalı deneyleri uygulamalı mühendislikle birleştiren işbirlikçi ortam.

• Difüzyon modelleri, Görüş Transformatörleri ve multimodal sistemler dahil gelişmiş model mimarileriyle çalışma fırsatı.…

Kaynak: Arbeitnow (https://www.arbeitnow.com/jobs/companies/jobgether/ai-research-engineer-kernel-inference-optimization-germany-474080)