Χάκερ αξιοποιούν AI για εντοπισμό κενών ασφαλείας, προειδοποιεί η Google

Η τεχνητή νοημοσύνη έχει κάνει πιο εύκολη τη σύνταξη emails, τη δημιουργία υπολογιστικών φύλλων και τον προγραμματισμό διακοπών, όπως αποδεικνύει και η ευρεία δημοτικότητα των διαφόρων μοντέλων AI.

ΔΙΑΦΉΜΙΣΗ

Έχει επίσης, σύμφωνα με πρόσφατη έκθεση της Google, διευκολύνει σημαντικά τον εντοπισμό κενών στο λογισμικό των συστημάτων μας που μέχρι σήμερα ήταν άγνωστα ή πρακτικά αδύνατο να προβλεφθούν.

Η Ομάδα Ανάλυσης Απειλών της Google ανέφερε ότι για πρώτη φορά εντόπισε χάκερ που αξιοποιούν την AI για να ανακαλύψουν και να εκμεταλλευτούν μια λεγόμενη ευπάθεια zero-day, δηλαδή ένα κενό ασφαλείας που ο δημιουργός του λογισμικού δεν γνωρίζει ακόμη ότι υπάρχει και για το οποίο δεν υπάρχει διαθέσιμη διόρθωση.

Στόχος ήταν ένα δημοφιλές διαδικτυακό εργαλείο διαχείρισης συστημάτων και η ευπάθεια επέτρεπε στους επιτιθέμενους να παρακάμπτουν την επαλήθευση δύο παραγόντων, εκείνο το δεύτερο επίπεδο ασφαλείας που οι περισσότεροι θεωρούν ότι προστατεύει τους λογαριασμούς τους.

Η Google ανέφερε ότι εντόπισε την επίθεση προτού μπορέσει να εξαπλωθεί σε μεγάλη κλίμακα και ενημέρωσε διακριτικά τον κατασκευαστή του λογισμικού.

«Ο συγκεκριμένος εγκληματικός παράγοντας απειλής σχεδίαζε να το χρησιμοποιήσει σε ένα μαζικό περιστατικό εκμετάλλευσης, όμως η προληπτική ανίχνευσή μας ενδέχεται να απέτρεψε τη χρήση του», σημειώνεται στην έκθεση.

«Δρώντες απειλής που συνδέονται με τη Λαϊκή Δημοκρατία της Κίνας (PRC) και τη Λαοκρατική Δημοκρατία της Κορέας (DPRK) έχουν επίσης δείξει έντονο ενδιαφέρον να αξιοποιήσουν την AI για τον εντοπισμό ευπαθειών.»

Ένα κενό που δεν βλέπουν οι προγραμματιστές

Η συγκεκριμένη ευπάθεια zero-day δεν είναι ένα συνηθισμένο σφάλμα. Τα παραδοσιακά εργαλεία ελέγχου ασφαλείας αναζητούν κρασαρίσματα και σφάλματα μνήμης, το αντίστοιχο ενός ορθογράφου που ψάχνει για το ψηφιακό ισοδύναμο του τυπογραφικού λάθους· όμως αυτή η ευπάθεια ήταν θαμμένη στη λογική του κώδικα, σε μια λεπτή, ενσωματωμένη υπόθεση του προγραμματιστή που κανένας αυτοματοποιημένος σαρωτής δεν θα μπορούσε να εντοπίσει.

Πρόκειται για το είδος λάθους όπου όλα φαίνονται σωστά στην επιφάνεια, αλλά η υποκείμενη συλλογιστική είναι λανθασμένη. Σκεφτείτε ένα θησαυροφυλάκιο τράπεζας με μια κλειδαριά που λειτουργεί κανονικά, αλλά ανοίγει για όποιον γνωρίζει ότι υπάρχει μια εξαίρεση, επειδή ο σχεδιαστής, χωρίς να το καταλάβει, την ενσωμάτωσε.

Αυτού του είδους τις αντιφάσεις η τεχνητή νοημοσύνη εντοπίζει ιδιαίτερα καλά. «Τα προηγμένα μεγάλα γλωσσικά μοντέλα (frontier LLMs) διαπρέπουν στον εντοπισμό τέτοιου είδους σφαλμάτων υψηλού επιπέδου και στατικών ανωμαλιών που είναι ενσωματωμένες στον κώδικα», συνεχίζει η έκθεση.

Παρότι τα frontier LLMs δυσκολεύονται να διαχειριστούν την περίπλοκη λογική εξουσιοδότησης μεγάλων οργανισμών, «αποκτούν ολοένα μεγαλύτερη ικανότητα να πραγματοποιούν συλλογιστική με βάση το πλαίσιο… και να [εντοπίζουν] τις αντιφάσεις των ενσωματωμένων εξαιρέσεων», καταλήγει.

Αυτή η δυνατότητα επιτρέπει στα μοντέλα να αναδεικνύουν λογικά σφάλματα που παραμένουν σε λανθάνουσα κατάσταση και φαίνονται λειτουργικά σωστά στα παραδοσιακά εργαλεία, αλλά είναι προβληματικά από πλευράς ασφάλειας.

Όχι μόνο ένα κόλπο

Αν και η ευπάθεια zero-day ήταν το βασικό εύρημα, η πλήρης έκθεση δεν αφήνει περιθώρια εφησυχασμού.

Κινέζοι και Βορειοκορεάτες χάκερ που δρουν με την υποστήριξη κρατικών φορέων χρησιμοποιούν την AI για να εντοπίζουν ευπάθειες σε βιομηχανική κλίμακα, στέλνοντας αυτοματοποιημένα prompts που ελέγχουν για αδυναμίες σε οτιδήποτε, από τα οικιακά routers έως τα εταιρικά δίκτυα.

Η Google παρατήρησε μία βορειοκορεατική ομάδα «να στέλνει χιλιάδες επαναλαμβανόμενα prompts που αναλύουν αναδρομικά διαφορετικά CVE και επικυρώνουν PoC exploits», δημιουργώντας, όπως αναφέρει η έκθεση, «ένα πιο ανθεκτικό οπλοστάσιο δυνατοτήτων εκμετάλλευσης, το οποίο θα ήταν πρακτικά αδύνατο να διαχειριστεί κανείς χωρίς τη βοήθεια της AI».

Ομάδες που συνδέονται με τη Ρωσία, από την άλλη, χρησιμοποιούν την AI για να αναπτύξουν κακόβουλο λογισμικό που ξαναγράφει τον εαυτό του σε πραγματικό χρόνο ώστε να αποφεύγει τον εντοπισμό, μια δυνατότητα που μέχρι πρόσφατα απαιτούσε σημαντική ανθρώπινη τεχνογνωσία.

Η AI μεταμορφώνει επίσης το phishing. Αντί να στέλνουν μαζικά γενικά emails, οι επιτιθέμενοι χρησιμοποιούν πλέον την AI για να χαρτογραφούν τις ιεραρχίες των επιχειρήσεων, να εντοπίζουν συγκεκριμένους στόχους με πρόσβαση σε ευαίσθητα δεδομένα και να δημιουργούν, όπως αναφέρει η έκθεση, «δέλεαρ phishing υψηλότερης ποιότητας, προσαρμοσμένο σε άτομα με διαχειριστικά δικαιώματα», που υπερβαίνει κατά πολύ «τις τυποποιημένες τακτικές του παραδοσιακού μαζικού phishing».

Η Google προειδοποιεί ότι η ευρύτερη μετατόπιση είναι από την AI ως ερευνητικό εργαλείο στην AI ως ένα είδος ενεργού παίκτη στο πεδίο της κυβερνοασφάλειας.

«Το LLM δεν είναι πλέον απλώς ένας παθητικός σύμβουλος, αλλά ενεργός κρίκος στην αλυσίδα της επίθεσης, ικανός να συντονίζει σύνθετα εργαλεία και να λαμβάνει τακτικές αποφάσεις με ταχύτητα μηχανής.»

Τα ίδια τα εργαλεία AI της Google εντόπισαν την ευπάθεια zero-day προτού προκαλέσει ζημιά, κάτι που αποτελεί τη θετική πλευρά της υπόθεσης. Η εταιρεία επιστρατεύει δικούς της AI agents για να εντοπίζει και να διορθώνει ευπάθειες πιο γρήγορα απ’ όσο θα μπορούσαν να το κάνουν οι ανθρώπινες ομάδες.