NVIDIA, yapay zeka destekli kurumsal uygulamalar geliştirmeyi ve modelleri üretime dağıtmayı kolaylaştırmak için NVIDIA NIM’i (NVIDIA Inference Micro-services) duyurdu. NIM, her yerde dağıtılabilen, optimize edilmiş bulut tabanlı mikro hizmetler kümesidir. Endüstri standardı API’leri kullanarak yapay zeka modeli geliştirme ve üretim için paketlemenin karmaşıklıklarını ortadan kaldırır ve geliştirici havuzunu genişletir.

Her Yere Dağıtım

NIM, yerel iş istasyonlarından buluta ve şirket içi veri merkezlerine kadar çeşitli altyapılarda model dağıtımına olanak tanır. Buna NVIDIA DGX, NVIDIA DGX Cloud, NVIDIA Sertifikalı Sistemler, NVIDIA RTX iş istasyonları ve PC’ler dahildir.

Optimize Edilmiş Modeller

Önceden oluşturulmuş konteynerler ve Helm grafikleri, farklı NVIDIA donanım platformları, bulut hizmeti sağlayıcıları ve Kubernetes dağıtımları genelinde titizlikle doğrulanır ve karşılaştırılır. Bu, tüm NVIDIA destekli ortamlarda destek sağlar ve kuruluşların üretken yapay zeka uygulamalarını her yere dağıtabilmesini, uygulamaları ve işledikleri veriler üzerinde tam kontrol sahibi olmalarını sağlar.

Endüstri Standardı API’lerle Geliştirme

Geliştiriciler, her alan için endüstri standartlarına uygun API’ler aracılığıyla yapay zeka modellerine erişebilir ve böylece yapay zeka uygulamalarının geliştirilmesini basitleştirebilirler.

Etki Alanına Özgü Modeller

NIM, çeşitli temel özellikler aracılığıyla alana özgü çözümlere ve optimize edilmiş performansa da olan ihtiyacı karşılar. Etki alanına özgü NVIDIA CUDA kitaplıklarını ve dil, konuşma, video işleme, sağlık hizmetleri ve daha fazlası gibi çeşitli alanlara göre uyarlanmış özel kodları paketler.

Optimize Edilmiş Çıkarım Motorları

NIM, her model ve donanım kurulumu için optimize edilmiş çıkarım motorlarından yararlanarak hızlandırılmış altyapıda mümkün olan en iyi gecikmeyi ve verimi sağlar.

Kurumsal Düzeyde Yapay Zeka Desteği

NIM, özellik dalları, sıkı doğrulama, hizmet düzeyi anlaşmalarıyla kurumsal destek ve CVE için düzenli güvenlik güncellemeleri aracılığıyla kurumsal yapay zeka yazılımı için sağlam bir temel sağlayan kurumsal düzeyde bir temel konteyner ile oluşturulmuştur.

Dağıtıma Hazır Hızlandırılmış Yapay Zeka Modelleri

Topluluk modelleri, NVIDIA AI Foundation modelleri ve NVIDIA iş ortakları tarafından sağlanan özel AI modelleri gibi birçok AI modelini destekleyen NIM, birden fazla alanda AI kullanım örneklerini destekler.

NVIDIA NIM’i Kullanmaya Başlama

NVIDIA NIM’i kullanmaya başlamak kolay ve basittir. NVIDIA API kataloğunda geliştiriciler, kendi yapay zeka uygulamalarını oluşturmak ve dağıtmak için kullanılabilecek çok çeşitli yapay zeka modellerine erişebilir.