Fiziksel AI'ı Ölçekte Devreye Almak İçin Her Katmanda Güvenlik Gerekiyor

Fiziksel AI Devreye Alma Ölçeği Büyüyor

Fiziksel AI araştırmadan büyük ölçekli devreye almaya hızla geçiyor. ABI Research, 2035 yılına kadar 49 milyon seviye 3-5 otonom araç kurulu tabanı öngörüyor. Omdia ise 2026 ile 2035 arasında yaklaşık 60 milyon endüstriyel robotun devreye alınacağını tahmin ediyor.

Bu makineler yollar, fabrikalar, depolar ve insanlarla paylaşılan diğer ortamlara girdikçe güvenliğin de onlarla birlikte ölçeklenmesi gerekiyor. Fiziksel AI güvenliği, AI ile çalışan makinelerin kararları fiziksel eyleme dönüştüğünde güvenli davrandığını kanıtlamak anlamına geliyor. Bu da güvenliğin donanım, yazılım, AI, işletim ortamı ve devreye alma yaşam döngüsü boyunca sağlanmasını gerektiriyor; devreye alma öncesi tek seferlik bir kontrol yeterli değil.

Otonom araçlar ticari olarak genişlemeye devam ediyor. Bu ilerleme, geliştiricilerin otomatik sistemlerin olası donanım ve yazılım arızalarını, amaçlanan işlevsellik sınırlamalarını ve AI'ya özgü riskleri nasıl ele aldığını göstermesini gerektirdi. Robotik de otonom makinelerin insanlarla paylaşılan ortamlara girmesiyle benzer bir dönüm noktasına yaklaşıyor.

Neden Yeni Bir Güvenlik Modeli Gerekiyor?

Dinamik ortamlar bağlam farkında güvenlik gerektiriyor. Yollar, fabrikalar ve depolar statik bölgeler veya fiziksel bariyerlerle tamamen kontrol edilemez. Otonom sistemler değişen koşulları algılamalı, davranışlarını uyarlamalı ve beklenmedik bir şey olduğunda güvenli bir duruma ulaşmalıdır.

AI davranışı kendi güvence mekanizmasını gerektiriyor. Testler, AI yazılımını geleneksel fonksiyonel güvenliğin yanı sıra tasarım zamanı, çalışma zamanı ve doğrulama zamanı koruma bariyerleri kullanarak değerlendirmelidir. ISO/IEC TS 22440 gibi gelişmekte olan standartlar AI'ya özgü riskleri ele almaya başlıyor.

Devreye alma süreklidir. Otonom araçlar ve robotlar yazılım ve model güncellemeleri, yeni görevler ve değişen çalışma koşullarıyla gelişiyor. Maddi değişiklikler ek güvenlik testleri gerektirebilir.

Ölçekte doğrulama, simülasyon ve sentetik veri gerektiriyor. Potansiyel senaryoların sayısı ve karmaşıklığı, gerçek dünya testlerinin simülasyon, sentetik veri üretimi ve senaryo yeniden yapılandırmasıyla birleştirilmesini gerektiriyor.

NVIDIA Halos: Tam Yığın Güvenlik Sistemi

NVIDIA, otonom araç güvenliğinde on yıldan fazla geliştirmeye dayanan bir güvenlik temeli üzerine Halos'u inşa etti. NVIDIA Halos, geliştiricilerin tasarım, doğrulama ve devreye almanın her katmanında güvenlik mühendisliği yapmasına yardımcı olan tam yığın güvenlik sistemi olarak tanımlanıyor. Halos ilkeleri AV'ler ve robotik arasında paylaşılsa da platformlar, standartlar ve kanıtlar her alana özgü kalıyor.

AV geliştirme tarafında NVIDIA DRIVE AGX Thor, güvenlik için tasarlanmış hızlandırılmış hesaplama sağlıyor. NVIDIA Hyperion, seviye 4 AV'ler için tam yığın araç platformu ve referans mimarisini sağlıyor. Halos OS, ASIL-D sertifikalı DriveOS üzerine kurulu birleşik bir yazılım temeli sağlıyor. Halos Core ve Halos Middleware, sistem izolasyonu, izleme ve deterministik iletişimi destekliyor.

NVIDIA Alpamayo, uzun kuyruk senaryolarına açıklanabilirlik getiren açık akıl yürütme görüntü dil eylem modelleri sunuyor. NVIDIA Halos Safety Evaluation Framework, farklı otomasyon seviyelerinde AV güvenlik vakalarını destekleyecek kanıt üretmek için araçlar ve yönergeler sağlıyor. Bu unsurlar birlikte bulut tabanlı AI geliştirme ve simülasyonu araç içi devreye alma ile bağlayarak güvenlik kanıtının araç yaşam döngüsü boyunca izlenebilir kalmasını sağlıyor.

Robotik Tarafında Halos Katmanları

NVIDIA IGX Thor, özel bir Fonksiyonel Güvenlik Adası ile hızlandırılmış hesaplama ve fonksiyonel güvenliği tek platformda birleştiren endüstriyel sınıf bir modül. IEC 61508 ve ISO 13849 gibi standartlar için geliştirilmiş sistemleri desteklemek üzere tasarlandı. Halos Core for IGX, arıza tespiti, izleme ve raporlama dahil güvenlikle ilgili işletim fonksiyonları için yazılım temeli sağlıyor.

NVIDIA Holoscan Sensor Bridge, sensör verilerini AI ve güvenlikle ilgili işlemeye bağlayarak sistemlerin geçersiz bilgileri tanımlamasına ve tanımlanmış güvenlik yanıtlarını yürütmesine yardımcı oluyor. NVIDIA Isaac Lab ve NVIDIA Omniverse kütüphaneleri, geliştiricilerin robot davranışını ilgili koşullar ve uç durumlarda test etmesine olanak tanıyor.

Açık kaynak NVIDIA Halos Outside-In Safety Blueprint, harici kameralar ve görüntü AI ajanları kullanarak farkındalığı yerleşik sensörlerin ötesine taşıyor ve tesis düzeyinde izleme ile fonksiyonel güvenlik kullanım durumlarını destekliyor.

Hem AV hem robotik tarafında NVIDIA Halos AI Systems Inspection Lab, güvenlik, siber güvenlik ve AI güvenliği gereksinimlerini tekrarlanabilir denetimlere dönüştürüyor ve Halos entegrasyonlarını üçüncü taraf kuruluşlar tarafından nihai sistem düzeyinde sertifikasyona hazırlıyor. Laboratuvar, kapsam dahilindeki Halos entegrasyonlarını denetliyor ve şirketlerin bağımsız üçüncü taraf kuruluşlar tarafından nihai sertifikasyona hazırlanmasına yardımcı oluyor.

Halos Ekosisteminde Kimler Var?

Otonom araçlarda Geely, Isuzu, Nissan (Wayve yazılımı ile) ve Einride, Halos OS destekli NVIDIA Hyperion üzerinde seviye 4'e hazır araçlar geliştiriyor. Uber, Grab, Lyft ve diğer hareketlilik sağlayıcıları robotaksi geliştirme ve devreye almayı ölçeklendirmek için Hyperion kullanıyor.

NVIDIA Halos AI Systems Inspection Lab üyeleri arasında AUMOVIO, Bosch, Gatik, Hesai, Lucid, MIRA, onsemi, PlusAI, Sony, Valeo ve Wayve yer alıyor.

Robotikte acontis ve QNX, güvenlik fonksiyonlarını öngörülebilir şekilde çalıştırmak için gereken gömülü yazılımı sağlıyor. Advantech ve NexCOBOT, güvenlik için tasarlanmış NVIDIA IGX sistemleri üretiyor. Infineon, NXP, STMicroelectronics ve Texas Instruments sensör, güvenlik mikrodenetleyicisi ve diğer yarı iletken teknolojilerine katkıda bulunuyor. KION Group, otonom forkliftler için fonksiyonel güvenlik ajanları geliştiriyor. Agility, Digit 5 insansı robotunun güvenlik sistemi için NVIDIA IGX Thor ve Halos Core'u entegre ediyor.

Bağımsız Değerlendirme ve Sertifikasyon

AV tarafında TÜV SÜD, NVIDIA'nın Automotive Product Lifecycle yazılım sürecini ve DriveOS 6.0'ı ISO 26262 ASIL D'ye sertifiye etti. TÜV SÜD ayrıca NVIDIA'nın otomotiv mühendislik süreçlerini ISO/SAE 21434'e sertifiye etti. TÜV Rheinland, NVIDIA DRIVE AV için bağımsız bir UNECE güvenlik değerlendirmesi gerçekleştirdi.

Robotik tarafında TÜV Rheinland, NVIDIA IGX Thor, Halos OS ve Holoscan Sensor Bridge'i fonksiyonel güvenlik sertifikasyon hazırlığı için inceliyor. Fiziksel AI genelinde ANAB, NVIDIA Halos AI Systems Inspection Lab'ı ISO/IEC 17020 denetim kuruluşu olarak akredite etti.

NVIDIA Blog'a göre fiziksel AI'ı ölçeklendiren şirketler yalnızca en yetenekli sistemleri değil, gerçek dünyada değerlendirilebilen, sertifiye edilebilen, devreye alınabilen ve güvenilebilen sistemleri inşa edecek. Blog ayrıca fonksiyonel güvenliğin baştan tasarlanmasının bir prototipi ölçeklenebilir bir çözümden ayıran şey olduğunu belirtiyor.