NVIDIA; yapay zekâ ajanlarının test aşamasından dağıtımına kadar geçen süreçte güvenlik kontrollerini artırmak amacıyla hazırlanan açık yazılım platformu ve referans sistem tasarımı NVIDIA Open Agent Safety Platform'u duyurdu. Çözüm, ajanları çalıştıran yazılımların yanı sıra donanım, hesaplama ve robotik katmanlarında uçtan uca yönetişim ve denetim kurmayı hedefliyor.
Platform, CPU üzerinde çalışan ajanlar için sınırlar belirleyen açık kaynaklı güvenli çalışma zamanı yazılımı NVIDIA OpenShell'i içeriyor. Genel kullanıma açılan OpenShell; açık veya kapalı kaynaklı modeller üzerinde koşan otonom AI ajanlarının görevleri nasıl yürüttüğünü denetlemek üzere bir çalışma zamanı sınırı getiriyor. Şirkete göre OpenShell, ajan odaklı yapay zekâ için tasarlanan NVIDIA Vera CPU üzerinde düşük ek yükle çalışırken; Arm ve Intel gibi üçüncü taraf işlemci platformlarına da uyarlanabiliyor.
Sistem mimarisinin donanım tarafında ise NVIDIA BlueField-4 DPU'lar üzerinde çalışan ve bant dışı (out-of-band) izleme sağlayan "NVIDIA Sentry" yer alıyor. Silikon düzeyinde güvenlik uygulaması sağlayan Sentry, bir yapay zekâ ajanının yazılımsal sınırlarının dışına çıkma girişimlerini milisaniyeler içinde tespit edip karantinaya alabiliyor. NVIDIA DOCA yazılımı üzerine kurulan Sentry; ajan istek ve yanıtlarını denetlemek, telemetri doğrulamak ve veri ile API erişimlerinde sıfır güven (zero-trust) politikalarını zorunlu kılmak için kullanılıyor.
Platform ekosisteminde teknoloji ve kurumsal çözümler üreten çok sayıda kuruluş yer alıyor. Anthropic, Claude Managed Agents altyapısını OpenShell ve BlueField entegrasyonlarıyla güçlendirdiğini açıklarken; SpaceXAI ise Cursor kodlama ajanları ve Grok modellerinde güvenlik sınırlarını korumak adına platform teknolojilerini kullanıyor. Salesforce, OpenShell'i Slack ile entegre ederek ajan aktivitelerinin ve izin onaylarının doğrudan Slack üzerinden yönetilmesini sağlıyor. SAP ise yazılımı Joule Studio ile birleştiriyor. Figure, Gecko Robotics ve Skild AI gibi robotik şirketleri de fiziksel dünyada görev alan otonom sistemlerde OpenShell denetimlerinden yararlanıyor.
OpenShell ve ilişkili becerileri kapsayan platform yazılımları, NVIDIA geliştirici kaynakları sayfası ve GitHub üzerinden erişime açıldı.
