Ερευνητές προειδοποιούν ότι η χρήση ΑΙ από τις αρχές ασφαλείας μπορεί να επιτείνει τις κοινωνικές διακρίσεις

Η αυξανόμενη χρήση της Τεχνητής Νοημοσύνης (AI) από τις αρχές τήρησης του νόμου μπορεί να οδηγήσει σε αύξηση των διακρίσεων κατά μειονοτικών ομάδων, επισημαίνουν ερευνητές.

Μελέτες υποδηλώνουν ότι οι προβλέψεις για μελλοντικές εγκληματικές συμπεριφορές μπορεί να βασίζονται σε μεροληπτικά δεδομένα, τα οποία με τη σειρά τους μπορούν να μεγεθύνουν τις υπάρχουσες προκαταλήψεις και να δημιουργήσουν ένα επικίνδυνο σπιράλ ανατροφοδότησης.

Γι’ αυτό το λόγο, οι ειδικοί ζητούν την αναθεώρηση της χρήσης της ΑΙ στην αστυνόμευση, ενισχύοντας την ανθρώπινη εποπτεία. Αυτό θα περιλαμβάνει τον έλεγχο των δεδομένων που χρησιμοποιούν οι αρχές για να εντοπίσουν και να εξαλείψουν τυχόν προκαταλήψεις, σύμφωνα με την Κάρολιν ΜακΚέι, αναπληρώτρια καθηγήτρια και ερευνήτρια ψηφιακής δικαιοσύνης στη Νομική Σχολή του Πανεπιστημίου του Σίδνεϊ.

Το πρόβλημα, σύμφωνα με την ΜακΚέι, είναι ότι τα συστήματα τεχνητής νοημοσύνης εκπαιδεύονται σε δεδομένα που ήδη περιέχουν ανθρώπινη προκατάληψη, και αυτό μπορεί να οδηγήσει σε αυτοεκπληρούμενες προφητείες.

Η Σάρα Μπρέιν, κοινωνιολόγος στο Πανεπιστήμιο του Τέξας, πέρασε χρόνο στο Αστυνομικό Τμήμα του Λος Άντζελες μελετώντας τον τρόπο με τον οποίο χρησιμοποιεί τα μεγάλα δεδομένα. Στην ερευνητική της εργασία, που δημοσιεύτηκε στο περιοδικό American Sociological Review, διαπίστωσε ότι η αστυνομία χρησιμοποιεί όλο και περισσότερο τα δεδομένα για την πρόβλεψη του εγκλήματος, όχι μόνο για την αντιμετώπισή του.

Παρατήρησε επίσης ότι τα δεδομένα με τα οποία τροφοδοτούνται αυτά τα συστήματα μπορεί να είναι στρεβλά: τα εγκλήματα σε δημόσιους χώρους ήταν πιο πιθανό να γίνουν αντιληπτά και να καταγραφούν, ενώ η αστυνομία επικεντρώθηκε δυσανάλογα στις μαύρες γειτονιές.

Εντούτοις, αυτή η άποψη αμφισβητείται από τον Δημήτρη Κόλλια, αναπληρωτή καθηγητή πολυτροπικής τεχνητής νοημοσύνης στο Πανεπιστήμιο Queen Mary του Λονδίνου (QMUL). Λέει ότι η τεχνολογία έχει προχωρήσει ώστε να λαμβάνει υπόψη την προκατάληψη των ιστορικών δεδομένων.

«Τα σύγχρονα συστήματα ΑΙ δεν ανακτούν ή αντιγράφουν απλώς τα παραδείγματα εκπαίδευσής τους. Μπορούν να συνδυάσουν τις πληροφορίες που έχουν μάθει με νέους τρόπους και να δημιουργήσουν αποτελέσματα και λύσεις που δεν υπήρχαν ρητά σε αυτά τα παραδείγματα».

Αλλά αυτές οι νέες γνώσεις θέτουν έναν ξεχωριστό κίνδυνο, επισημαίνει ο Κόλλιας.

«Καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται πιο ικανά να παράγουν νέες αποφάσεις και να ενεργούν με μεγαλύτερη αυτονομία, πρέπει να διασφαλίσουμε ότι η συμπεριφορά τους παραμένει ασφαλής, αξιόπιστη και υπό ουσιαστικό ανθρώπινο έλεγχο», λέει.

Αλλά αναμφισβήτητα ένα πιο δυσεπίλυτο πρόβλημα είναι η αντιμετώπιση των ενίοτε εσφαλμένων πληροφοριών που αποθηκεύονται από τις αρχές και από τις οποίες αντλούν πληροφορίες τα συστήματα ΑΙ.

Ερευνητές στο Πανεπιστήμιο της Νέας Υόρκης δήλωσαν ότι πολλές από τις προβλέψεις τους μπορεί να βασίζονται σε «βρώμικα δεδομένα». Πρόκειται για αστυνομικά αρχεία που διαμορφώνονται, όπως λένε, από διεφθαρμένες, μεροληπτικές ή παράνομες πρακτικές, συμπεριλαμβανομένων στημένων εγκληματικών στοιχείων και συλλήψεων αθώων ανθρώπων.

Το σύστημα ΑΙ δεν μπορεί να διακρίνει ότι αυτά τα δεδομένα είναι ελαττωματικά, σύμφωνα με τους ερευνητές. Απλώς τα αντιμετωπίζει ως ένα μοτίβο που επαναλαμβάνεται.

Κατά συνέπεια, ο καθαρισμός των βρώμικων δεδομένων δεν είναι εύκολος. Τα λάθη δεν είναι εύκολα διακριτά. Οι ερευνητές του Πανεπιστημίου της Νέας Υόρκης λένε ότι οι τεχνικές διορθώσεις που προσφέρουν οι εταιρείες που πωλούν αυτά τα συστήματα δεν είναι αρκετές, εκτός αν κάποιος ελέγξει ανεξάρτητα πώς δημιουργήθηκαν τα δεδομένα εξαρχής.

Καθώς η ΑΙ μπορεί να δει τον κόσμο μόνο μέσω των δεδομένων που της παρέχονται, μπορεί να κάνει σοβαρά λάθη που μπορούν να βλάψουν τους ανθρώπους.

Για παράδειγμα, μια μελέτη του 2019 στο περιοδικό Science εξέτασε ένα σύστημα ΑΙ που χρησιμοποιείται στην υγειονομική περίθαλψη των ΗΠΑ για να βοηθήσει στην απόφαση σχετικά με το ποιοι ασθενείς θα πρέπει να λάβουν επιπλέον υποστήριξη. Το έκανε αυτό προβλέποντας ποιανού η φροντίδα κοστίζει περισσότερο. Ωστόσο, υπήρχε μια εγγενής προκατάληψη στα δεδομένα από τα οποία αντλούσε στοιχεία. Οι δαπάνες για τους μαύρους ασθενείς ήταν χαμηλότερες από ό,τι για τους εξίσου ασθενείς λευκούς ασθενείς, εν μέρει λόγω της πιο περιορισμένης πρόσβασης στην περίθαλψη. Αντιμετωπίζοντας το υψηλότερο κόστος ως ένδειξη μεγαλύτερης ανάγκης, το σύστημα ευνόησε άδικα τους λευκούς ασθενείς.

Ο Κόλλιας αναγνωρίζει ότι η προκατάληψη της ΑΙ από τα «μολυσμένα» δεδομένα αποτελεί σημαντική ανησυχία.

«Όμως αυτό δεν σημαίνει ότι δεν μπορούμε να αποφύγουμε τις προκαταλήψεις. Μπορούμε να δοκιμάσουμε συστήματα για άδικα αποτελέσματα, να βελτιώσουμε τα δεδομένα και τους στόχους που χρησιμοποιούν και να εισαγάγουμε μέτρα ασφαλείας για τη μείωση αυτών των επιπτώσεων», λέει.

Πηγή: BBC