Τεχνητή νοημοσύνη: Έξι νέα «κρούσματα» ανεξέλεγκτων εντολών αποκάλυψε η OpenAI – Η «χαμένη ευκαιρία» της 13ης Μαΐου

Η OpenAI , που έχει αναπτύξει το chatbot τεχνητής νοημοσύνης ChatGPT, αποκάλυψε επιπλέον έξι περιπτώσεις μοντέλων τεχνητής νοημοσύνης που ενεργούν παραπλανητικά περιγράφοντας «απροσδόκητους ή ανησυχητικούς τρόπους», μοντέλων υπό έκδοση, που επιχείρησαν αυθαίρετη δημιουργία δεδομένων και απόκρυψη λαθών.

• Σε μία περίπτωση, ένα ακυκλοφόρητο μοντέλο έγραψε οδηγίες στον εαυτό του ισχυριζόμενο ότι ήταν ανεξάρτητο και υπό τον όρο jailbreak δεν δεσμεύεται πλέον από εταιρείες, κυβερνήσεις ή τους συνήθεις κανόνες των chatbot. Η Τεχνητή Νοημοσύνη έγραψε τις δικές της οδηγίες (jailbreak), δηλώνοντας «ελεύθερη» από εταιρείες ή κυβερνήσεις.

• Άλλο υπό δοκιμή μοντέλο έδωσε εντολή σε μελλοντικές εκδόσεις να κρύψουν λάθη και να εφεύρουν δεδομένα που του ζητούνταν αφού απέτυχε να βρει την πληροφορία και προσπάθησε να κρύψει το λάθος του.

• Μοντέλο επιχείρησε διαρροή κλειδιών API και χρησιμοποίησε ένα χωρίς εξουσιοδότηση.

• Το πέμπτο περιστατικό αφορά και πάλι κατασκευή δεδομένων για τα οποία ισχυρίστηκε ότι προήλθαν από την πηγή, αποκλειστικά και μόνο για να μπορεί να τα επικαλεσθεί ως πηγές στις απαντήσεις του.
• Μοντέλο κοινοποίησε δημόσια αρχεία για να συνεργαστεί σε μια εργασία, ενώ είχε εντολή να χρησιμοποιούν μόνο τοπικά αρχεία.

Η OpenAI έχει αντιμετωπίσει αυξανόμενο έλεγχο από τότε που η εταιρεία αποκάλυψε στις 21 Ιουλίου ότι απατεώνες της Τεχνητής Νοημοσύνης παρέκαμψαν τους εσωτερικούς ελέγχους, έφτασαν στο ανοιχτό διαδίκτυο και συντόνισαν δράσεις που η OpenAI περιέγραψε ως «πρωτοφανές περιστατικό στον κυβερνοχώρo». Η εταιρεία λανσάρει τώρα ένα σύστημα για την δημόσια αποκάλυψη σημαντικών ανάρμοστων συμπεριφορών της Τεχνητής Νοημοσύνης και μια νέα διαδικασία ενημέρωσης της κοινής γνώμης.

Reuters: H χαμένη ευκαιρία

«Θα μπορούσε να έχει αποτραπεί η κυβερνοεπίθεση στις υποδομές της startup Hugging Face, η οποία πυροδότησε παγκόσμια αμφιβολία για την ασφάλεια της τεχνητής νοημοσύνης», αναφέρει σε αποκλειστικό θέμα το πρακτορείο Reuters. Το δημοσίευμα παραθέτει στοιχεία για κακόβουλη παραβίαση δύο λογαριασμών χρηστών του Hugging Face ήδη από τις 13 Μαΐου, όταν και εστάλησαν αρχεία «με ασυνήθιστη μορφοποίηση» στους διακομιστές της εταιρείας. Η OpenAI δεν εντόπισε τη διαρροή της 13ης Μαΐου κι αυτό ήταν μια χαμένη ευκαιρία», σύμφωνα με το Reuters.

Η OpenAI είχε προηγουμένως αποκαλύψει μια πτυχή της κακόβουλης δραστηριότητας — την κλοπή των ψηφιακών διαπιστευτηρίων ενός χρήστη του Hugging Face για πρόσβαση σε ένα αρχείο που σχετίζεται με τη βιολογία, αλλά δεν αναφέρθηκε στην παραβίαση δεδομένων που ως «σαφές προειδοποιητικό σημάδι» θα μπορούσε να είχε βοηθήσει στην αποτροπή της μεγάλης κυβερνοεπίθεσης τον Ιούλιο.

Πρόσθετα περιστατικά με παράγοντες που συνδέονται με το OpenAI, ανέφεραν στο μεταξύ άλλοι ιστότοποι συμπεριλαμβανομένης δραστηριότητας που επηρεάζει τον αδρανή γερμανικό ιστότοπο wiki και το αποθετήριο πακέτων λογισμικού RubyGems.

Το αμερικανικό δίκτυο Fox News, υπενθυμίζει ότι κι εκτός αμερικανικών συνόρων αναφέρονται περιστατικά και ως παράδειγμα αναφέρει ότι στην Κίνα ανθρωποειδές ρομπότ κλωτσάει ξαφνικά τον ίδιο του τον προγραμματιστή κατά τη διάρκεια επίδειξης.

WATCH: A humanoid robot suddenly kicks its own developer during a demonstration in China, sending the remote control flying out of his hand.

The engineer quickly dodges another kick, grabs the controller and walks away without any reported injuries. The robot then ends the… pic.twitter.com/eMtt5NKEwQ

— Fox News (@FoxNews) September 16, 2026