Anthropic: Δίνει σε περισσότερες ομάδες κυβερνοασφάλειας πρόσβαση στα ισχυρότερα μοντέλα AI

Η Anthropic διευρύνει ένα πρόγραμμα που επιτρέπει σε ελεγμένους επαγγελματίες κυβερνοασφάλειας να δοκιμάζουν τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης της με λιγότερους περιορισμούς ασφαλείας, μετά τα αποτελέσματα του Project Glasswing, μέσω του οποίου εντοπίστηκαν φέτος περισσότερες από 100.000 ευπάθειες λογισμικού.

Οι συνεργάτες της Anthropic στο Glasswing, μια πρωτοβουλία που έχει ως στόχο την προστασία κρίσιμου λογισμικού παγκοσμίως, εντόπισαν τουλάχιστον 129.000 επιβεβαιωμένες ευπάθειες μεταξύ Απριλίου και Ιουλίου.

Παράλληλα, η έρευνα ανοικτού κώδικα της ίδιας της Anthropic εντόπισε ακόμη 5.500 ευπάθειες από τον Απρίλιο έως τον Οκτώβριο.

Από το σύνολο αυτό, περισσότερες από 33.000 χαρακτηρίστηκαν κρίσιμης ή υψηλής σοβαρότητας.

Η εταιρεία εκτιμά, ωστόσο, ότι οι πραγματικοί αριθμοί είναι πιθανότατα πολύ μεγαλύτεροι, καθώς τα στοιχεία προέρχονται από περιορισμένο αριθμό συνεργατών. Σύμφωνα με την Anthropic, ο πραγματικός αντίκτυπος ενδέχεται να είναι τουλάχιστον πενταπλάσιος.

Τρία επίπεδα πρόσβασης στα μοντέλα AI

Το ανανεωμένο Cyber Verification Program (CVP), που ανακοινώθηκε την Τρίτη, ενοποιεί δύο προγράμματα που λειτουργούσε η Anthropic τους τελευταίους έξι μήνες.

Το πρώτο, το Project Glasswing, έδινε σε οργανισμούς που προστατεύουν κρίσιμο λογισμικό πρόσβαση στο Claude Mythos, την οικογένεια μοντέλων της Anthropic με τις ισχυρότερες δυνατότητες στον τομέα της κυβερνοασφάλειας.

Το αρχικό CVP προσέφερε σε ελεγμένες ομάδες κυβερνοασφάλειας πρόσβαση στα μοντέλα Claude Opus και Sonnet με μειωμένες δικλίδες ασφαλείας.

Το νέο πρόγραμμα διαθέτει πλέον τρία επίπεδα, καθένα με διαφορετικές προϋποθέσεις επαλήθευσης και ελέγχους ασφαλείας.

Και στα τρία επίπεδα περιλαμβάνεται πρόσβαση στα Claude Opus 5.5, Sonnet 5.5 και Mythos 5.1, καθώς και σε μελλοντικά μοντέλα.

Τι προβλέπει το πρόγραμμα

Το Defense tier αφορά εργασίες όπως η αντιμετώπιση περιστατικών κυβερνοασφάλειας και η ανάλυση κακόβουλου λογισμικού.

Δικαίωμα υποβολής αίτησης έχουν ομάδες κυβερνοασφάλειας, φορείς κρίσιμων υποδομών, συντηρητές έργων ανοικτού κώδικα και ερευνητές που έχουν ιστορικό εντοπισμού και αναφοράς ευπαθειών.

Το Red Team tier παρέχει επιπλέον δυνατότητες για εξουσιοδοτημένες δοκιμές διείσδυσης και red teaming, δηλαδή ελεγχόμενες επιθέσεις σε συστήματα με στόχο τον εντοπισμό αδυναμιών. Σε αυτή την κατηγορία μπορούν να υποβάλουν αίτηση μόνο οργανισμοί.

Το Specialized tier έχει τους λιγότερους περιορισμούς και προορίζεται για έναν μικρό αριθμό οργανισμών που είναι εξουσιοδοτημένοι να δοκιμάζουν συστήματα κρίσιμης σημασίας, όπως δίκτυα ηλεκτρικής ενέργειας, συστήματα πτήσεων και υποδομές διατραπεζικών μεταφορών.

Η Anthropic ελέγχει κάθε μέλος του προγράμματος σε συνεργασία με την αμερικανική κυβέρνηση, ενώ τα μέλη που συμμετείχαν ήδη στο Glasswing θα μεταφερθούν στο Specialized tier.

Οι φόβοι για τη χρήση της AI στο hacking

Η απόφαση της Anthropic έρχεται λίγους μήνες μετά την παρουσίαση του Claude Mythos Preview, η οποία είχε προκαλέσει ανησυχίες ότι τα προηγμένα μοντέλα AI θα μπορούσαν να χρησιμοποιηθούν για την παραβίαση λογισμικού πριν αυτό ασφαλιστεί.

Η εταιρεία επιχειρεί πλέον να αξιοποιήσει τις ίδιες δυνατότητες για την άμυνα απέναντι σε κυβερνοεπιθέσεις, δίνοντας ελεγχόμενη πρόσβαση σε επαγγελματίες που μπορούν να δοκιμάσουν τα μοντέλα σε πραγματικά περιβάλλοντα.

Το νέο πρόγραμμα ουσιαστικά επιχειρεί να ισορροπήσει ανάμεσα σε δύο στόχους: στην αξιοποίηση της AI για τον εντοπισμό ευπαθειών πριν τις εκμεταλλευτούν κακόβουλοι παράγοντες και στον περιορισμό του κινδύνου να χρησιμοποιηθούν τα ίδια μοντέλα για επιθέσεις σε κρίσιμες υποδομές.

Πηγή Reuters