Σκάνδαλο Grok: Οι πρώτες χώρες που απέκλεισαν το δημιούργημα του Μασκ λόγω «διάδοσης deepfake πορνογραφικού περιεχομένου

Η Μαλαισία και η Ινδονησία έγιναν οι πρώτες χώρες που μπλόκαραν το Grok, το chatbot τεχνητής νοημοσύνης που αναπτύχθηκε από την xAI του Έλον Μασκ, και προκάλεσε καταιγισμό αντιδράσεων από τη δημιουργία πλαστών εικόνων γυναικών και ανηλίκων σεξουαλικού περιεχομένου.

Το Grok, που κυκλοφόρησε το 2023, είναι δωρεάν για χρήση στο X, ενώ το περασμένο καλοκαίρι η εταιρεία πρόσθεσε την επίμαχη εφαρμογή Grok Imagine, η οποία με την «λειτουργία spicy» παράγει πορονογραφικές εικόνες γυναικών σε άσεμνες πόζες, ακόμη και παιδιών, αλλοιώνοντας ή τροποποιώντας φωτογραφίες και βίντεο αληθινών προσώπων.

Οι περιορισμοί στη Νοτιοανατολική Ασία έρχονται εν μέσω αυξανόμενου ελέγχου του Grok αλλού, συμπεριλαμβανομένων της Ευρωπαϊκής Ένωσης, της Βρετανίας, της Ινδίας και της Γαλλίας.

Οι ρυθμιστικές αρχές στις δύο χώρες της Νοτιοανατολικής Ασίας δήλωσαν ότι οι υπάρχοντες έλεγχοι δεν εμπόδιζαν τη δημιουργία και τη διάδοση ψεύτικου πορνογραφικού περιεχομένου, ιδιαίτερα σε περιπτώσεις γυναικών και ανηλίκων. Η κυβέρνηση της Ινδονησίας μπλόκαρε προσωρινά την πρόσβαση στο Grok το Σάββατο, ακολουθούμενη από τη Μαλαισία την Κυριακή.

Η απενεργοποίηση της λειτουργίας του Grok μόνο για μη συνδρομητές χαρακτηρίστηκε από εκπρόσωπο του βρετανού πρωθυπουργού «προσβλητική για τα θύματα». Σύμφωνα με τον ίδιο, το μέτρο «μετατρέπει απλώς μια λειτουργία που επιτρέπει τη δημιουργία παράνομων εικόνων σε premium service», αποτελώντας «προσβολή προς τα θύματα του μισογυνισμού και της σεξουαλικής βίας».

Παραβίαση ανθρωπίνων δικαιωμάτων

«Η κυβέρνηση θεωρεί τα μη συναινετικά σεξουαλικά deepfakes ως σοβαρή παραβίαση των ανθρωπίνων δικαιωμάτων, της αξιοπρέπειας και της ασφάλειας των πολιτών στον ψηφιακό χώρο», δήλωσε το Σάββατο ο υπουργός Επικοινωνιών και Ψηφιακών Υποθέσεων της Ινδονησίας, Μεούτια Χαφίντ.

Τα αρχικά ευρήματα έδειξαν ότι το Grok δεν διαθέτει αποτελεσματικές δικλείδες ασφαλείας για να εμποδίσει τους χρήστες να δημιουργούν και να διανέμουν πορνογραφικό περιεχόμενο βασισμένο σε πραγματικές φωτογραφίες κατοίκων της Ινδονησίας, δήλωσε σε ξεχωριστή δήλωση ο Alexander Sabar, γενικός διευθυντής εποπτείας ψηφιακού χώρου. Είπε ότι τέτοιες πρακτικές ενέχουν κίνδυνο παραβίασης των δικαιωμάτων απορρήτου και εικόνας όταν οι φωτογραφίες χειραγωγούνται ή κοινοποιούνται χωρίς συγκατάθεση, προκαλώντας ψυχολογική, κοινωνική και βλάβη στη φήμη.

Στην Κουάλα Λουμπούρ, η Επιτροπή Επικοινωνιών και Πολυμέσων της Μαλαισίας διέταξε προσωρινό αποκλεισμό στο Grok επισημαίνοντας: «Ο περιορισμός επιβάλλεται ως προληπτικό και αναλογικό μέτρο, ενώ οι νομικές και κανονιστικές διαδικασίες βρίσκονται σε εξέλιξη», ανέφερε, προσθέτοντας ότι η πρόσβαση θα παραμείνει αποκλεισμένη μέχρι να τεθούν σε εφαρμογή αποτελεσματικά μέτρα ασφαλείας.

Πηγή: Associated Press