NVIDIA Open Agent Safety Platform: Έλεγχος AI agents από…

Η συνοδευτική εικόνα αποτελεί ενδεικτική εικονογράφηση AI και όχι πραγματική φωτογραφία ή ακριβή απεικόνιση προϊόντος.

Η NVIDIA ανακοίνωσε στις 28 Σεπτεμβρίου 2026 το Open Agent Safety Platform, μια ανοικτή πλατφόρμα λογισμικού και ένα σχέδιο αναφοράς για την ασφάλεια αυτόνομων AI agents από τη δοκιμή έως την παραγωγική λειτουργία. Η βασική ιδέα είναι ότι οι περιορισμοί δεν πρέπει να επιβάλλονται μόνο από το ίδιο το μοντέλο ή την εφαρμογή που το χειρίζεται, αλλά και από ανεξάρτητα επίπεδα λογισμικού και υποδομής.

Δύο επίπεδα ελέγχου

Το πρώτο βασικό συστατικό είναι το NVIDIA OpenShell, ένα λογισμικό ασφαλούς εκτέλεσης ανοικτού κώδικα. Σύμφωνα με την εταιρεία, δημιουργεί ένα εξωτερικό όριο γύρω από τον agent και εφαρμόζει πολιτικές για τις ενέργειες που επιτρέπεται να εκτελεί. Η NVIDIA αναφέρει ότι το OpenShell είναι πλέον ευρέως διαθέσιμο, έχει σχεδιαστεί ώστε να λειτουργεί με ανοικτά και κλειστά μοντέλα και μπορεί να επεκταθεί και σε υπολογιστικές πλατφόρμες τρίτων, μεταξύ άλλων από Arm και Intel.

Το δεύτερο επίπεδο είναι το NVIDIA Sentry, ένα σχέδιο αναφοράς για ανεξάρτητη παρακολούθηση μέσω των BlueField-4 DPU. Η παρακολούθηση γίνεται εκτός του βασικού συστήματος που φιλοξενεί τον agent, ώστε ο μηχανισμός ελέγχου να παραμένει απομονωμένος από το λογισμικό που επιτηρεί. Η επίσημη ανακοίνωση υποστηρίζει ότι, όταν ένας agent επιχειρεί να κινηθεί έξω από τα επιτρεπόμενα όρια, το Sentry μπορεί να τον απομονώσει και να τον σταματήσει μέσα σε χιλιοστά του δευτερολέπτου. Πρόκειται για ισχυρισμό του κατασκευαστή και όχι για ανεξάρτητη μέτρηση.

Γιατί έχει σημασία

Οι AI agents μπορούν να εκτελούν διαδοχικές εργασίες, να καλούν εργαλεία και να έχουν πρόσβαση σε αρχεία, δίκτυα ή επιχειρησιακά συστήματα. Όσο μεγαλώνει η αυτονομία τους, ένα λάθος ή μια παράκαμψη πολιτικής μπορεί να έχει συνέπειες πέρα από μια λανθασμένη απάντηση. Η προσέγγιση της NVIDIA μεταφέρει μέρος της άμυνας σε επίπεδα που ο agent δεν ελέγχει άμεσα: ασφαλές runtime, συνεχή παρατήρηση και επιβολή πολιτικών από απομονωμένο hardware.

Η εταιρεία δηλώνει ότι περισσότερες από 100 οργανώσεις συνεργάζονται γύρω από τις τεχνολογίες της πλατφόρμας. Στη λίστα περιλαμβάνονται εταιρείες λογισμικού, cloud, κυβερνοασφάλειας και συμβουλευτικών υπηρεσιών, ενώ οι Canonical, Red Hat και SUSE αναφέρονται μεταξύ όσων ενσωματώνουν σχετικά στοιχεία σε λειτουργικά και εταιρικές στοίβες λογισμικού.

Τι μένει να αποδειχθεί

Η ανακοίνωση δείχνει μια σαφή κατεύθυνση: ασφάλεια «σε βάθος» αντί για εμπιστοσύνη αποκλειστικά στις δικλίδες του μοντέλου. Ωστόσο, η πραγματική αποτελεσματικότητα θα κριθεί από ανεξάρτητες δοκιμές, την ποιότητα των πολιτικών, τη συμβατότητα με διαφορετικά περιβάλλοντα και το λειτουργικό κόστος της συνεχούς επιτήρησης. Προς το παρόν, πρόκειται για νέα πλατφόρμα και σχέδιο αναφοράς που πρέπει να αξιολογηθούν σε πραγματικές εγκαταστάσεις.

Πηγή: NVIDIA Newsroom, NVIDIA Developer Blog, Infosecurity Magazine.