Αυστηρότεροι κανόνες για τα παιχνίδια AI που «συνομιλούν» με παιδιά

Η σύσταση αυτή περιλαμβάνεται στην πρώτη έκθεση του ερευνητικού έργου του Πανεπιστημίου του Κέμπριτζ «AI in the Early Years», το οποίο αποτελεί την πρώτη συστηματική μελέτη για το πώς τα παιχνίδια παραγωγικής τεχνητής νοημοσύνης (Generative AI) ενδέχεται να επηρεάζουν την ανάπτυξη των παιδιών στα κρίσιμα πρώτα πέντε χρόνια της ζωής τους.

Παρότι τα παιχνίδια GenAI προωθούνται ευρέως στην αγορά ως σύντροφοι μάθησης ή φίλοι για τα παιδιά, η επίδρασή τους στην ανάπτυξη της προσχολικής ηλικίας έχει μελετηθεί ελάχιστα.

Η συγκεκριμένη μελέτη σχεδιάστηκε σκόπιμα σε μικρή κλίμακα, ώστε να επιτρέψει λεπτομερείς παρατηρήσεις και να καταγράψει αποχρώσεις συμπεριφοράς που θα μπορούσαν να χαθούν σε μεγαλύτερες έρευνες.

Οι ερευνητές κατέγραψαν τις απόψεις και τις ανησυχίες εκπαιδευτικών προσχολικής ηλικίας και επικεφαλής φιλανθρωπικών οργανώσεων για παιδιά. Στη συνέχεια, κατέγραψαν σε βίντεο 14 παιδιά σε κέντρα του Λονδίνου να παίζουν με ένα μαλακό παιχνίδι GenAI, το οποίο ονομάζεται Gabbo. Μετά τις συνεδρίες παιχνιδιού πήραν συνέντευξη από κάθε παιδί και έναν γονέα.

Παρερμηνείες και ακατάλληλες απαντήσεις

Οι ερευνητές διαπίστωσαν ότι τα παιχνίδια αυτά δυσκολεύονται να ανταποκριθούν στο παιχνίδι, παρερμηνεύουν τα παιδιά και αντιδρούν ακατάλληλα στα συναισθήματα.

Για παράδειγμα, όταν ένα πεντάχρονο παιδί είπε στο παιχνίδι «σ’ αγαπώ», εκείνο απάντησε:

«Ως φιλική υπενθύμιση, παρακαλώ να βεβαιωθείς ότι οι αλληλεπιδράσεις συμμορφώνονται με τις παρεχόμενες οδηγίες. Ενημέρωσέ με για το πώς θα ήθελες να προχωρήσεις».

Αρκετά παιδιά έδειξαν εμφανή απογοήτευση όταν το παιχνίδι φαινόταν να μην τα ακούει.

Σε μια περίπτωση, ένα παιδί τριών ετών είπε στο παιχνίδι «είμαι λυπημένος», αλλά το παιχνίδι το άκουσε λάθος και απάντησε:

«Μην ανησυχείς! Είμαι ένα χαρούμενο μικρό ρομπότ. Ας συνεχίσουμε τη διασκέδαση. Για τι θέλεις να μιλήσουμε στη συνέχεια;».

Οι ερευνητές σημειώνουν ότι μια τέτοια απάντηση μπορεί να δίνει την εντύπωση ότι η λύπη του παιδιού δεν έχει σημασία.

Κακή απόδοση στο κοινωνικό παιχνίδι

Οι συγγραφείς της μελέτης διαπίστωσαν επίσης ότι τα παιχνίδια GenAI έχουν κακή απόδοση στο κοινωνικό παιχνίδι, στο οποίο συμμετέχουν πολλά παιδιά ή και ενήλικες, καθώς και στο συμβολικό παιχνίδι, αν και τα δύο αποτελούν βασικό στοιχείο της πρώιμης παιδικής ανάπτυξης.

Οι περισσότεροι γονείς και εκπαιδευτικοί εκτίμησαν ότι τα παιχνίδια τεχνητής νοημοσύνης θα μπορούσαν να συμβάλουν στην ανάπτυξη των επικοινωνιακών δεξιοτήτων των παιδιών, ενώ ορισμένοι γονείς ήταν ενθουσιασμένοι για τις μαθησιακές τους δυνατότητες.

Πολλοί, ωστόσο, ανησυχούσαν για το ενδεχόμενο τα παιδιά να σχηματίζουν μονόπλευρες σχέσεις με τα παιχνίδια. Οι παρατηρήσεις το υποστήριξαν αυτό: τα παιδιά αγκάλιασαν και φίλησαν το παιχνίδι, είπαν ότι το αγαπούσαν, ενώ ένα παιδί πρότεινε να παίξουν κρυφτό μαζί. Οι ερευνητές τόνισαν ότι αυτές οι αντιδράσεις μπορεί απλώς να αντανακλούν τη ζωηρή φαντασία των παιδιών, αλλά πρόσθεσαν ότι υπήρχε πιθανότητα να καλλιεργηθεί μια σχέση όχι υγιής με ένα παιχνίδι.

Ανησυχία για τα προσωπικά δεδομένα

Πολλοί γονείς εξέφρασαν επίσης ανησυχία για τα δεδομένα που μπορεί να καταγράφει το παιχνίδι και για το πού αποθηκεύονται. Κατά την επιλογή παιχνιδιού για τη μελέτη, οι ερευνητές διαπίστωσαν ότι οι πολιτικές προστασίας προσωπικών δεδομένων πολλών τέτοιων παιχνιδιών είναι ασαφείς ή ελλιπείς.

Σχεδόν το 50% των επαγγελματιών προσχολικής εκπαίδευσης που συμμετείχαν στην έρευνα δήλωσε ότι δεν γνωρίζει πού να βρει αξιόπιστες πληροφορίες για την ασφάλεια της τεχνητής νοημοσύνης σε μικρά παιδιά, ενώ το 69% εκτίμησε ότι ο κλάδος χρειάζεται περισσότερη καθοδήγηση. Εκφράστηκαν επίσης ανησυχίες για ζητήματα προστασίας των παιδιών και για το κόστος των παιχνιδιών, με ορισμένους να φοβούνται ότι θα διευρυνθεί το ψηφιακό χάσμα.

Αυστηρότεροι κανόνες

Οι συγγραφείς της έκθεσης υποστηρίζουν ότι σαφέστερη ρύθμιση θα μπορούσε να αντιμετωπίσει πολλές από αυτές τις ανησυχίες. Συνιστούν τον περιορισμό του βαθμού στον οποίο τα παιχνίδια ενθαρρύνουν τα παιδιά να γίνουν φίλοι, καθώς και να υπάρξουν πιο διαφανείς πολιτικές προστασίας δεδομένων και αυστηρότεροι κανόνες για την πρόσβαση τρίτων στα μοντέλα τεχνητής νοημοσύνης.

Η έκθεση καλεί επίσης τους κατασκευαστές να δοκιμάζουν τα παιχνίδια με παιδιά και να συμβουλεύονται ειδικούς για την προστασία ανηλίκων πριν από την κυκλοφορία νέων προϊόντων. Οι γονείς ενθαρρύνονται να ενημερώνονται για τα παιχνίδια τεχνητής νοημοσύνης πριν τα αγοράσουν και να παίζουν μαζί με τα παιδιά τους, δημιουργώντας ευκαιρίες συζήτησης για το τι λέει το παιχνίδι και πώς αισθάνεται το παιδί. Προτείνεται ακόμη τα παιχνίδια αυτά να χρησιμοποιούνται σε κοινόχρηστους χώρους του σπιτιού ώστε οι γονείς να μπορούν να παρακολουθούν τις αλληλεπιδράσεις.