Voice cloning: Απάτες με AI φωνές αδειάζουν τραπεζικούς λογαριασμούς – Πώς οι δράστες μιμούνται συγγενείς και εξαπατούν θύματα

Μια μητέρα στην Καλιφόρνια δήλωσε ότι έχασε χιλιάδες δολάρια μέσα σε έναν μήνα, αφού δέχθηκε τηλεφώνημα στο οποίο άκουσε αυτό που πίστεψε ότι ήταν η κόρη της σε κατάσταση πανικού. Όπως υποστηρίζει, πλέον θεωρεί ότι επρόκειτο για απάτη που δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης, σε ένα από τα ολοένα και πιο διαδεδομένα περιστατικά λεγόμενης «κλωνοποίησης φωνής» (voice cloning).

Το περιστατικό εντάσσεται σε ένα ευρύτερο κύμα απάτης που αξιοποιεί εργαλεία AI, τα οποία επιτρέπουν τη δημιουργία εξαιρετικά πειστικών αντιγράφων ανθρώπινων φωνών ακόμη και από λίγα δευτερόλεπτα πραγματικού ηχητικού υλικού. Σύμφωνα με στοιχεία του Ομοσπονδιακού Γραφείου Ερευνών των ΗΠΑ (FBI), οι Αμερικανοί έχασαν πάνω από 893 εκατομμύρια δολάρια το περασμένο έτος σε απάτες σχετιζόμενες με την τεχνητή νοημοσύνη, συμπεριλαμβανομένων επιθέσεων με κλωνοποιημένες φωνές, phishing emails που παράγονται από AI.

Οι αρχές και ειδικοί προειδοποιούν ότι οι επιθέσεις αυτές μπορούν να μιμηθούν οποιονδήποτε – από μέλη οικογένειας και φίλους μέχρι συναδέλφους ή ακόμη και επαγγελματίες υπηρεσιών. Τράπεζες, όπως η βρετανική Starling και η Commonwealth Bank of Australia, έχουν ήδη προειδοποιήσει τους πελάτες τους για τέτοιου είδους απάτες. Παράλληλα, ειδικοί σημειώνουν ότι η τεχνολογία έχει εξελιχθεί σε τέτοιο βαθμό ώστε οι περισσότεροι άνθρωποι δεν μπορούν πλέον να διακρίνουν αξιόπιστα μια συνθετική φωνή από μια πραγματική.

«Για τον μέσο άνθρωπο, δεν είναι δίκαιο να περιμένουμε ότι θα μπορεί να εντοπίσει τέτοιου είδους απάτες», δήλωσε ο Henry Ajder, ειδικός σε περιεχόμενο που παράγεται από τεχνητή νοημοσύνη. «Ακόμη κι εγώ δυσκολεύομαι. Οι περισσότεροι δυσκολεύονται».

Οι απάτες με φωνητική κλωνοποίηση λειτουργούν συνήθως με τη χρήση ενός μικρού ηχητικού δείγματος από το θύμα-στόχο, το οποίο συχνά αντλείται από τα social media ή από προηγούμενες κλήσεις. Οι δράστες στη συνέχεια χρησιμοποιούν αυτό το υλικό για να δημιουργήσουν ένα ψηφιακό αντίγραφο της φωνής και να σκηνοθετήσουν επεισόδια κρίσης, όπως υποτιθέμενες απαγωγές ή συλλήψεις, απαιτώντας άμεση μεταφορά χρημάτων.

«Δεν υπήρχε χρόνος να σκεφτώ», είχε δηλώσει στο CNN ο δικηγόρος από τη Φιλαδέλφεια Gary Schildhorn, ο οποίος είχε στοχοποιηθεί από παρόμοια απάτη που μιμούνταν τη φωνή του γιου του. «Ήταν μόνο: πρέπει να αντιδράσω για να βοηθήσω τον γιο μου. Είναι σε κίνδυνο».

Σε πιο εξελιγμένες περιπτώσεις, οι επιτιθέμενοι μπορούν να χρησιμοποιούν εργαλεία text-to-speech ή τεχνικές «voice skinning», που επιτρέπουν τη ζωντανή παραμόρφωση της φωνής του δράστη ώστε να μοιάζει με το θύμα, διευκολύνοντας ακόμη και διαδραστικές συνομιλίες με το θύμα-στόχο. Παράλληλα, τεχνικές όπως το caller ID spoofing μπορούν να κάνουν μια κλήση να εμφανίζεται ως προερχόμενη από γνωστό αριθμό, ενισχύοντας την αξιοπιστία της απάτης.

Όσον αφορά την προστασία από τέτοιες επιθέσεις, οι ειδικοί σημειώνουν ότι τα παραδοσιακά «σημάδια» τεχνητής φωνής – όπως παύσεις ή αφύσικες διακυμάνσεις – πλέον δεν είναι αξιόπιστα λόγω της προόδου της τεχνολογίας. Αντί γι’ αυτό, προτείνουν την αναγνώριση γενικών ενδείξεων απάτης, όπως η πίεση χρόνου, η απαίτηση μυστικότητας και η πίεση για άμεση μεταφορά χρημάτων.

Σε πολλές περιπτώσεις, η πιο αποτελεσματική άμυνα είναι η επαλήθευση της ταυτότητας του καλούντος μέσω άλλων καναλιών, όπως ένα μήνυμα ή μια δεύτερη τηλεφωνική κλήση σε γνωστό αριθμό. Ορισμένοι ειδικοί προτείνουν ακόμη και την καθιέρωση ενός προκαθορισμένου «κωδικού λέξης» μεταξύ μελών οικογένειας, που μπορεί να χρησιμοποιηθεί για επιβεβαίωση ταυτότητας σε περιπτώσεις έκτακτης ανάγκης.

«Αν υποψιάζεστε ότι κάτι δεν πάει καλά, είναι πολύ καλύτερο να σας κοροϊδέψει το παιδί σας ή ο φίλος σας επειδή νομίσατε ότι είναι ρομπότ», σημείωσε ο Ajder, «παρά να τρέχετε ενδεχομένως σε ένα ΑΤΜ».