Yapay Zeka Çözüm Mimarı

İşe Genel Bakış

Deneyimli Yapay Zeka Çözüm Mimarı arıyoruz

bilgi işlem, yüksek performanslı ağ iletişimi, depolama, Kubernetes, bulut ve AI/ML platformlarını kapsayan uçtan uca kurumsal AI Factory ve GPU altyapı çözümlerini tasarlamak ve yönetmek. Bu rol, NVIDIA GPU teknolojileri, yapay zeka iş yükleri, ölçeklenebilir altyapı mimarisi, güvenlik, gözlemlenebilirlik, performans mühendisliği ve kapasite planlaması konularında güçlü bir uzmanlık gerektirir.

Temel Sorumluluklar

• Gereksinimlerden üretim hazırlığına kadar Yapay Zeka Fabrikası ve kurumsal yapay zeka çözümleri için kendi uçtan uca mimarisi.

• Eğitim, ince ayar, çıkarım, toplu işleme ve yüksek performanslı bilgi işlem için AI/ML iş yükü gereksinimlerini değerlendirin.

• NVIDIA HGX/DGX/OEM platformları, çoklu GPU sistemleri, NVLink/NVSwitch ve GPU kaynak tahsisi dahil olmak üzere GPU bilgi işlem mimarileri tasarlayın.

• 100/200/400/800G Ethernet, EVPN/VXLAN ve yaprak omurga mimarilerini kullanarak yüksek performanslı yapay zeka ağı tasarlayın.

• Nesne depolamayı, Ceph, WEKA gibi paralel dosya sistemlerini veya eşdeğer platformları kullanarak yapay zeka depolama ve veri mimarileri tasarlayın.

• Kubernetes, HPC, konteyner çalışma zamanları, model hizmet platformları ve kurumsal yapay zeka çerçeveleri genelinde yapay zeka platformu mimarisini tanımlayın.

• Güvenlik, kimlik, kiracı izolasyonu, veri koruma, gözlemlenebilirlik, felaket kurtarma ve operasyonel dayanıklılık için mimari standartlar oluşturun.

• Referans mimarileri, yüksek seviyeli/düşük seviyeli tasarımlar, kapasite modelleri, malzeme listeleri, teknoloji değerlendirmeleri ve uygulama yol haritaları geliştirin.

• Teknik değerlendirmelere, kavram kanıtlarına, satıcı değerlendirmelerine ve mimari inceleme kurullarına liderlik etmek.

• Altyapı, ağ, güvenlik, depolama, bulut, veri, uygulama ve operasyon ekipleriyle işbirliği yapın.

• Performansı, kullanılabilirliği, ölçeklenebilirliği, güvenliği ve maliyet hedeflerini tanımlayın ve mimariyi ölçülebilir kabul kriterlerine göre doğrulayın.

• Dağıtım, geçiş, entegrasyon, sorun giderme ve üretim geçişi sırasında teknik liderlik sağlayın.

• Gerekli Teknik Beceriler

AI / ML Mimarisi

• NVIDIA AI Enterprise, NGC, CUDA, NCCL, DCGM, GPU Operatörü ve AI platform ekosistemi.

• PyTorch, TensorFlow, JAX ve eğitim ve çıkarım iş yüklerinin operasyonel anlayışı.

• GPU planlama, çoklu kiralama, MIG/vGPU, GPU kullanımı ve iş yükü yerleştirme.

• Yüksek Lisans, üretken yapay zeka, RAG, ince ayar, model sunma ve çıkarım mimarisi.

GPU ve Yapay Zeka Fabrika Altyapısı

• NVIDIA A100/H100/H200/B200 veya eşdeğer GPU platformları; Yeni nesil sistemlere aşinalık.

• NVLink, NVSwitch, PCIe topolojisi ve çoklu GPU performans mimarisi.

• DGX/HGX/OEM GPU sunucu mimarisi ve yaşam döngüsü yönetimi.

• Yapay Zeka Fabrikası kapasite planlaması, raf yoğunluğu, güç, soğutma, devreye alma ve yaşam döngüsü stratejisi.

Yüksek Performanslı Ağ İletişimi

• 100/200/400/800G Ethernet, InfiniBand, RoCEv2 ve RDMA, Netris

• NVIDIA ConnectX/SuperNIC, Spectrum/Spectrum-X, Quantum ve BlueField DPU teknolojileri.

• BGP, EVPN/VXLAN, VRF, ECMP, VLAN, MTU, PFC, ECN, QoS ve tıkanıklık yönetimi.

• GPU doğu-batı trafiği, GPUDirect RDMA ve ağ performansı sorunlarını giderme.

Yapay Zeka Depolama ve Veri Mimarisi

• Paralel dosya sistemleri, nesne depolama, NFS, NVMe/NVMe-oF ve yüksek verimli veri hatları.

• Ceph, WEKA, VAST, Dell PowerScale, Pure FlashBlade, NetApp veya eşdeğer teknolojiler.

• Veri gölü/göl evi kavramları, meta veriler, köken, veri hareketi ve veri yaşam döngüsü.

• GPUDirect Depolama ve depolama/ağ performansı optimizasyonu.

Yapay Zeka Platformu ve Düzenleme

• Kubernetes, GPU Operatörü, konteyner çalışma süreleri ve Kubernetes GPU planlaması.

• HPC veya diğer eşdeğer iş yükü planlayıcıları.

• Model sunma/çıkarım platformları ve MLOps platform mimarisi.

• API ağ geçitleri, hizmet keşfi, sır yönetimi ve platform entegrasyonu.

Bulut ve Hibrit Mimari

• AWS ve/veya Azure AI altyapısı ve güvenlik hizmetleri.

• Hibrit bulut bağlantısı, IAM, özel ağ iletişimi, bulut depolama ve iş yükü yerleştirme.

• GPU iş yükleri için bulut maliyeti optimizasyonu, kapasite planlaması ve FinOps hususları.

Güvenlik ve Yönetişim

• Sıfır Güven, ağ segmentasyonu, IAM/RBAC, PAM ve iş yükü kimliği.

• GPU, DPU, kapsayıcı, Kubernetes, ürün yazılımı ve tedarik zinciri güvenliği.

• Bekleyen/transfer halindeki şifreleme, gizli dizi yönetimi, denetim günlüğü ve uyumluluk kontrolleri.

• Veri/model koruması, kiracı izolasyonu ve güvenli model erişimi dahil olmak üzere yapay zekaya özgü riskler.

Gözlemlenebilirlik ve Güvenilirlik

• Prometheus, Grafana, OpenTelemetry, NVIDIA DCGM ve altyapı telemetrisi.

• GPU, CPU, bellek, ağ, depolama, güç ve termal alanlarda izleme.

• Yüksek kullanılabilirlik, yedekleme/geri yükleme, olağanüstü durum kurtarma, iş sürekliliği ve arıza alanı tasarımı.

• Performans mühendisliği, darboğaz analizi, SLO/SLA tasarımı ve kapasite tahmini.

Mimari Teslimatlar

• AI Factory referans mimarisi ve çözüm planları

• Yüksek Düzey Tasarım (HLD) ve Düşük Düzey Tasarım (LLD)

• Ağ, bilgi işlem, GPU ve depolama mimarisi diyagramları

• Kapasite, performans ve ölçeklenebilirlik modelleri

• Teknoloji değerlendirmesi ve satıcı karşılaştırma belgeleri

• Güvenlik mimarisi ve tehdit modeli girdileri

• Malzeme Listesi (BOM) ve altyapı boyutlandırması

• Geçiş/dağıtım stratejisi ve uygulama yol haritası

• Operasyonel hazırlık kontrol listesi, runbook'lar ve kabul kriterleri

Deneyim ve Nitelikler

• Önemli düzeyde yapay zeka/GPU altyapısına sahip 10 yıldan fazla altyapı, bulut, kurumsal mimari veya çözüm mimarisi deneyimi.

• Büyük ölçekli kurumsal platformlar tasarlama ve iş gereksinimlerini teknik mimarilere dönüştürme konusunda kanıtlanmış deneyim.

• Fiziksel altyapı, GPU sistemleri, ağ iletişimi, depolama ve Linux platformları hakkında uygulamalı anlayış.

• Bilgisayar Bilimleri, Mühendislik, Bilgi Teknolojileri veya ilgili alanlarda lisans derecesi tercih edilir.…

Kaynak: AB Uzaktan İşler (https://euremotejobs.com/job/ai-solution-architect-2/)