Η Anthropic αναστέλλει τη λειτουργία νέων εργαλείων AI λόγω ανησυχιών της κυβέρνησης των ΗΠΑ

Σε δήλωση που δημοσιεύτηκε στον ιστότοπό της, η Anthropic ανέφερε ότι της δόθηκε εντολή να απαγορεύσει σε αλλοδαπούς την χρήση του Claude Fable 5, ενός προγράμματος που η ίδια η εταιρεία χαρακτήρισε ως «υπερβολικά ισχυρό».

«Το τελικό αποτέλεσμα αυτής της εντολής είναι ότι πρέπει να απενεργοποιήσουμε αμέσως τα Fable 5 και Mythos 5 για όλους τους πελάτες μας, προκειμένου να διασφαλίσουμε τη συμμόρφωση», έγραψε η εταιρεία.

Η Anthropic και η κυβέρνηση Τραμπ εμπλέκονται σε μια ξεχωριστή, εν εξελίξει δικαστική διαμάχη σχετικά με μια εντολή να σταματήσουν οι κυβερνητικές υπηρεσίες να χρησιμοποιούν τα εργαλεία τεχνητής νοημοσύνης της εταιρείας.

Το Claude Fable 5 είναι μια έκδοση του Claude Mythos της Anthropic, ενός προγράμματος τεχνητής νοημοσύνης που ανταγωνίζεται τα ChatGPT της OpenAI και το Gemini της Google.

Η Anthropic ανέφερε ότι οι αμερικανικές αρχές εθνικής ασφάλειας δεν έχουν επισημάνει συγκεκριμένα προβλήματα. «Κατά την αντίληψή μας, η κυβέρνηση πιστεύει ότι έχει εντοπίσει μια μέθοδο παράκαμψης, ή «jailbreaking», του Fable 5», δήλωσε η εταιρεία, σύμφωνα με το BBC.

Το jailbreaking είναι μια διαδικασία παράκαμψης των περιορισμών λογισμικού που έχουν σχεδιαστεί για την προστασία ενός δικτύου στον κυβερνοχώρο, επιτρέποντας στους χάκερ να έχουν πρόσβαση σε ευαίσθητες πληροφορίες ή να ξεμπλοκάρουν λειτουργίες.

«Εξετάσαμε μια επίδειξη αυτής της συγκεκριμένης τεχνικής που χρησιμοποιείται για τον εντοπισμό ενός μικρού αριθμού ήδη γνωστών, ήσσονος σημασίας ευπαθειών», ανέφερε η Anthropic. «Όλες αυτές οι ευπάθειες φαίνονται σχετικά απλές, και διαπιστώσαμε ότι και άλλα μοντέλα που είναι διαθέσιμα στο κοινό μπορούν να τις εντοπίσουν χωρίς να απαιτείται παράκαμψη», σημείωσε.

Πριν από την κυκλοφορία του Claude Fable 5, η εταιρεία ανέφερε διάφορα «μέτρα προστασίας» που είχε εφαρμόσει για την αποτροπή κυβερνοεπιθέσεων.

«Τόσο έξυπνο που θα μπορoύσε να είναι επικίνδυνο»

Στελέχη του χρηματοοικονομικού, του τεχνολογικού και του κυβερνητικού τομέα είχαν εκφράσει ανησυχίες σχετικά με τη δημόσια κυκλοφορία του, μετά από μια ιδιωτική κυκλοφορία τον Απρίλιο για προεπισκόπηση και δοκιμή ευπαθειών εντός του δικού της συστήματος.

Η Anthropic δήλωσε ότι επέτρεψε την πρόσβαση πριν από την κυκλοφορία σε μια χούφτα οργανισμών, επειδή το εργαλείο ήταν τόσο έξυπνο που θα μπορούσε να είναι επικίνδυνο λόγω της ικανότητάς του να εκμεταλλεύεται ή να παραβιάζει συστήματα υπολογιστών.

Η εταιρεία αυτοανακήρυξε ότι το εργαλείο ήταν «πολύ ισχυρό για να κυκλοφορήσει» πριν από την δημόσια κυκλοφορία του Claude Fable 5, κάτι που ορισμένοι κριτικοί αμφισβήτησαν ως υπερβολική διαφημιστική εκστρατεία και στρατηγική μάρκετινγκ. «Οι δυνατότητες του Fable υπερβαίνουν αυτές οποιουδήποτε μοντέλου που έχουμε διαθέσει ποτέ στο ευρύ κοινό», δήλωσε η εταιρεία.

Η Τζίνα Νεφ, καθηγήτρια Υπεύθυνης Τεχνητής Νοημοσύνης στο Πανεπιστήμιο Queen Mary του Λονδίνου, δήλωσε στο BBC ότι η απόφαση να περιοριστεί η πρόσβαση στο μοντέλο θα μπορούσε να εμποδίσει την ανάπτυξη και την ασφαλή δοκιμή αυτών των συστημάτων τεχνητής νοημοσύνης.

Προειδοποίησε επίσης ότι αυτό θα μπορούσε να περιορίσει τη συνεργασία με κυβερνήσεις σε όλο τον κόσμο. «Βρισκόμαστε σε αχαρτογράφητα νερά αυτή τη στιγμή», είπε.

«Άτομα από τον κλάδο της Τεχνητής Νοημοσύνης μας προειδοποιούν ότι αυτά τα εργαλεία βελτιώνονται πολύ γρήγορα και ότι πρέπει να είμαστε σε θέση να αναπτύξουμε ικανότητες για να προστατεύσουμε τις εταιρείες μας από κυβερνοεπιθέσεις».

Ανέφερε ότι το Ινστιτούτο Ασφάλειας ΤΝ της βρετανικής κυβέρνησης διαπίστωσε στις δοκιμές του ότι το μοντέλο μπορούσε να παρακάμψει τις άμυνες και τα συστήματα στο 73% των περιπτώσεων.

«Πρόκειται για μια ριζική αλλαγή στις δυνατότητες στον τομέα της κυβερνοασφάλειας», πρόσθεσε.

Η Anthropic στο στόχαστρο της κυβέρνησης Τραμπ

Ο Ντόναλντ Τραμπ επέκρινε δημοσίως την εταιρεία και στη συνέχεια ο υπουργός Άμυνας των ΗΠΑ, Πιτ Χέγκσεθ, την χαρακτήρισε «κίνδυνο για την αλυσίδα εφοδιασμού» – η πρώτη φορά που μια αμερικανική εταιρεία έχει λάβει δημοσίως τέτοια χαρακτηρισμό.

Ο χαρακτηρισμός αυτός σημαίνει ότι ένα εργαλείο ή μια υπηρεσία δεν είναι αρκετά ασφαλές για κυβερνητική χρήση και, παραδοσιακά, απονέμεται σε εταιρείες που εδρεύουν σε εχθρικές χώρες.

Η Anthropic έχει ασκήσει αγωγή κατά του Πενταγώνου μετά τον χαρακτηρισμό αυτό. Αμερικανός δικαστής αποφάνθηκε ότι η οδηγία του Πενταγώνου δεν μπορεί να εφαρμοστεί, πράγμα που σημαίνει ότι οι κυβερνητικές υπηρεσίες και οι οργανισμοί που συνεργάζονται με τον αμερικανικό στρατό μπορούν να συνεχίσουν να χρησιμοποιούν την Anthropic όσο η δικαστική διαδικασία βρίσκεται σε εξέλιξη.