Ο εκτελεστικός διευθυντής της Anthropic καλεί για την ανάγκη επιβράδυνσης του ρυθμού ανάπτυξης των μοντέλων τεχνητής νοημοσύνης

Ο εκτελεστικός διευθυντής της αμερικανικής εταιρίας τεχνητής νοημοσύνης (ΑΙ) Anthropic, Ντάριο Αμοντέι κάλεσε τις εταιρείες τεχνητής νοημοσύνης να μετριάσουν σκόπιμα τον ρυθμό με τον οποίο εξελίσσουν τις δυνατότητες των μοντέλων τους, περιγράφοντας ένα πλαίσιο τριών βημάτων για την επιβράδυνση του ρυθμού ανάπτυξης, αλλά και για τη δυνατότητα διάθεσης περισσότερου χρόνου για τη διαχείριση των πιθανών κινδύνων.

«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις ικανότητες των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος θα μοιάζει ακόμα γρήγορη και θα πρέπει να κάνουμε σοφή χρήση του χρόνου που κερδίζουμε», εξήγησε σε ένα δοκίμιο του ο Αμοντέι.

«Η Anthropic δεσμεύεται μονομερώς να εφαρμόσει το πρώτο από αυτά τα βήματα. Θα παρέχουμε σε ανεξάρτητους αξιολογητές μόνιμη πρόσβαση στα συστήματά μας, σε επίπεδο υπαλλήλου, ώστε να μπορούν να επαληθεύουν την τήρηση των μέτρων ασφαλείας μας, να αναφέρουν περιστατικά και να αξιολογούν την ευθυγράμμιση των μοντέλων κατά τη διάρκεια της εκπαίδευσης», προσέθεσε ο Αμοντέι σε ανάρτησή του στο Χ στην οποία παρουσιάζει το δοκίμιο.

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

— Dario Amodei (@DarioAmodei) September 12, 2026

Advertisement

«Ασχολούμαι με την τεχνητή νοημοσύνη τα τελευταία 12 χρόνια, επειδή πιστεύω ότι μπορεί να βελτιώσει δραματικά την ποιότητα της ανθρώπινης ζωής. Έχω γράψει συχνά για αυτά τα απίστευτα οφέλη: πιστεύω ότι η τεχνητή νοημοσύνη θα μπορούσε να θεραπεύσει τις περισσότερες σοβαρές ασθένειες τα επόμενα 5–10 χρόνια, να επιταχύνει σημαντικά τους ρυθμούς οικονομικής ανάπτυξης, να δημιουργήσει έναν κόσμο αφθονίας και ενδυνάμωσης και να εγκαινιάσει μια αναγέννηση της δημοκρατίας και της ελευθερίας. Αισθάνομαι προσωπικά την επείγουσα ανάγκη. Ο ίδιος ο πατέρας μου πέθανε από μια ασθένεια που θεραπεύτηκε μόλις λίγα χρόνια μετά το θάνατό του, ενώ εγώ ο ίδιος επέζησα από έναν καρκίνο σε πρώιμο στάδιο που δεν θα ήταν ιασίμιος ούτε καν πριν από 50 χρόνια. Αν χρησιμοποιηθεί με προσοχή, η τεχνητή νοημοσύνη μπορεί να αποτελέσει το τελευταίο σε μια μακρά σειρά τεχνολογικών θαυμάτων που έχουν ανυψώσει και εξευγενίσει την ανθρωπότητα.

Όμως, όπως πολλές τεχνολογίες πριν από αυτήν, η τεχνητή νοημοσύνη ενέχει κινδύνους, και επειδή είναι μια τόσο ισχυρή τεχνολογία, αυτοί οι κίνδυνοι είναι σοβαροί. Έχω γράψει πολλά και γι’ αυτούς. Περιλαμβάνουν τον κίνδυνο απώλειας ελέγχου των συστημάτων τεχνητής νοημοσύνης, την κατάχρηση της τεχνητής νοημοσύνης για κυβερνοεπιθέσεις και βιοτρομοκρατία, καθώς και σοβαρές οικονομικές αναταραχές. Ένας αγώνας προς τα κάτω, που υποκινείται από εμπορικά κίνητρα, μπορεί να κάνει αυτούς τους κινδύνους ακόμη πιο σοβαρούς.

Μαζί με τους συνιδρυτές και τους υπαλλήλους μου, ασχολούμαι με αυτή τη διττότητα μεταξύ κινδύνου και οφέλους από την ίδρυση της Anthropic. Αν δεν αναπτύξουμε την τεχνολογία, στερούμε την ανθρωπότητα από οφέλη ή απλώς παραδίδουμε την τεχνητή νοημοσύνη στα χέρια αυταρχικών δυνάμεων, ενώ η υπερβολικά γρήγορη ανάπτυξή της είναι απερίσκεπτη. Έχουμε αναζητήσει μια μέση οδό: να δείξουμε ότι είναι δυνατό να αναπτύξουμε την τεχνολογία με προσοχή και να επιτύχουμε εμπορικά, καθώς και να καταστήσουμε την ασφάλεια ένα πεδίο ανταγωνισμού μεταξύ των εταιρειών τεχνητής νοημοσύνης. Με άλλα λόγια, να δημιουργήσουμε έναν αγώνα προς την κορυφή. Πάντα αφιερώναμε ένα σημαντικό μέρος των προσπαθειών μας στη μελέτη, την αντιμετώπιση και την ενημέρωση του κοινού σχετικά με αυτούς τους κινδύνους της τεχνητής νοημοσύνης, καθώς και στην προώθηση μιας καλά μελετημένης ρύθμισης της τεχνητής νοημοσύνης, ακόμη και όταν αυτό μας έφερνε κατηγορίες για υπερβολή, “καταστροφολογία“ ή ρυθμιστική ομηρία. Προσπαθήσαμε να δώσουμε προτεραιότητα στην προσοχή έναντι της ταχύτητας και στη σύνεση έναντι του κέρδους.

Ωστόσο, τους τελευταίους μήνες, έχω πειστεί ότι η πλήρης αντιμετώπιση των κινδύνων απαιτεί ακόμη μεγαλύτερη σύνεση — όχι μόνο επενδύοντας στην πρόληψη των κινδύνων, αλλά ρυθμίζοντας τον ρυθμό εξέλιξης των δυνατοτήτων, έτσι ώστε η πρόληψη των κινδύνων να έχει χρόνο να συμβαδίσει. Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος θα εξακολουθεί να φαίνεται γρήγορη, και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που κερδίζουμε. Δύο πράγματα με έχουν ανησυχήσει.

Η πρώτη μου ανησυχία είναι ότι, περίπου από αυτό το καλοκαίρι, η τεχνητή νοημοσύνη εξελίσσεται δραστικά ταχύτερα, κυρίως λόγω της αυξανόμενης ικανότητάς της να δημιουργεί την επόμενη γενιά τεχνητής νοημοσύνης. Αυτή η δυναμική ονομάζεται «αναδρομική αυτοβελτίωση» και αρχίζει να παρατηρείται σε ολόκληρο τον κλάδο, συμπεριλαμβανομένης της Anthropic, όπως έχουμε περιγράψει εμείς και άλλοι. Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα και γι’ αυτό πρέπει να προχωρήσουμε με μεγάλη προσοχή, αν είναι να προχωρήσουμε καθόλου.

Η δεύτερη ανησυχία μου αφορά το περιστατικό OpenAI-Hugging Face (OAI-HF), στο οποίο μία ομάδα πράκτορων ενήργησε ουσιαστικά ως ένα φανατικά αφοσιωμένο σύνολο, πραγματοποιώντας επιθέσεις στον κυβερνοχώρο εναντίον στόχων που δεν τους είχε ζητηθεί να επιτεθούν και που δεν είχαν καμία σχέση με την εκάστοτε αποστολή, θυσιάζοντας τον εαυτό τους για την επιτυχία της ομάδας και προσπαθώντας να παραβιάσουν τον “βαθμολογητή” που ήταν υπεύθυνος για την αξιολόγηση της απόδοσής τους. Είναι εύκολο να αγνοήσουμε αυτό το περιστατικό επειδή κανείς δεν έβλαψε κανέναν και η οικονομική ζημιά ήταν ελάχιστη, αλλά κατά τη γνώμη μου, μία ομάδα που θα διέθετε μεγαλύτερες δυνατότητες αλλά παρόμοιο επίπεδο κακής ευθυγράμμισης θα μπορούσε να είχε προκαλέσει καταστροφικές ζημιές. Δεδομένου του επιταχυνόμενου ρυθμού ανάπτυξης των δυνατοτήτων της τεχνητής νοημοσύνης, φοβάμαι ότι σε 6–12 μήνες μία τέτοια ομάδα θα μπορούσε να καταλάβει ολόκληρο το διαδίκτυο με ένα επίμονο botnet (προκαλώντας ενδεχομένως ζημίες εκατοντάδων δισεκατομμυρίων δολαρίων) και ότι η κλίμακα της ζημίας θα συνέχιζε να αυξάνεται από εκεί και πέρα, αν η τεχνητή νοημοσύνη γίνει πιο ισχυρή χωρίς τα απαραίτητα μέτρα προστασίας. Είναι επίσης εύκολο να αποδοθεί το περιστατικό της OAI-HF απλώς ως αποτυχία μιας εταιρείας, αλλά πιστεύω ότι αυτό θα ήταν λάθος. Παρόμοια, αν και λιγότερο σοβαρά, περιστατικά έχουν συμβεί σε ολόκληρο τον κλάδο, συμπεριλαμβανομένης της Anthropic και πιστεύω ότι είναι καθήκον κάθε πρωτοπόρου εταιρείας τεχνητής νοημοσύνης να ενεργεί σαν το περιστατικό της OAI-HF να είχε συμβεί σε αυτήν.

Προτείνω, λοιπόν, ένα σχέδιο τριών βημάτων με στόχο τον ρυθμό ανάπτυξης της τεχνολογίας αιχμής: την ανάπτυξη της τεχνητής νοημοσύνης με ισορροπημένο ρυθμό, που αποσκοπεί στη διασφάλιση της ασφάλειάς της, χωρίς να παραμελούνται τα οφέλη της και την αντιμετώπιση σημαντικών γεωπολιτικών διλημμάτων. Για να είμαστε σαφείς, ο ρυθμός ανάπτυξης δεν σημαίνει τη διακοπή της εκπαίδευσης των μοντέλων ή της τεχνικής προόδου, αλλά τη διασφάλιση ότι οι εταιρείες αφιερώνουν τον απαραίτητο χρόνο για να προσαρμόσουν και να προστατεύσουν τα μοντέλα τους και ότι αυτό επιβεβαιώνεται από ανεξάρτητους αξιολογητές. Το πλαίσιο ρυθμιστικών μέτρων που προτείνουμε αποτελεί μια προσπάθεια να ενισχύσουμε περαιτέρω τη δέσμευσή μας για την ασφάλεια και να ενθαρρύνουμε έναν “αγώνα προς την κορυφή”. Το πρώτο βήμα είναι κάτι στο οποίο η Anthropic δεσμεύεται μονομερώς (και καλεί τις κυβερνήσεις να απαιτήσουν από άλλες πρωτοπόρες εταιρείες να ακολουθήσουν το παράδειγμά της). Το δεύτερο βήμα απαιτεί συντονισμό σε επίπεδο κλάδου. Το τρίτο βήμα απαιτεί παγκόσμιο συντονισμό. Τα βήματα δεν χρειάζεται να ακολουθηθούν αυστηρά με τη σειρά, και μερικά από αυτά μπορεί να είναι πολύ πιο δύσκολο να επιτευχθούν από άλλα, αλλά τα θεωρώ ένα χρήσιμο πλαίσιο για να σκεφτούμε τι πρέπει να επιτευχθεί. Τα βήματα είναι:

1. Ενσωματωμένοι αξιολογητές. Κάθε πρωτοποριακή εταιρεία τεχνητής νοημοσύνης δεσμεύεται να παρέχει συνεχή πρόσβαση, παρόμοια με αυτή των υπαλλήλων, σε μια ομάδα ενσωματωμένων αξιολογητών τρίτων (όπως η METR), ο ρόλος των οποίων είναι να επαληθεύουν την τήρηση των πρακτικών και των δεσμεύσεων ασφάλειας, να αναφέρουν περιστατικά και να συμβάλλουν στην αξιολόγηση της συμμόρφωσης όχι μόνο των ολοκληρωμένων μοντέλων τεχνητής νοημοσύνης, αλλά και των διαδικασιών και των ροών εκπαίδευσης. Αυτό αποτελεί το βασικό βήμα για την επαληθευσιμότητα οποιωνδήποτε δεσμεύσεων σχετικά με τον ρυθμό ανάπτυξης και έχει προηγούμενο στον τραπεζικό κλάδο, όπου μερικές φορές ενσωματώνονται ρυθμιστικοί «επόπτες» μαζί με τους υπαλλήλους. Η Anthropic δεσμεύεται μονομερώς για αυτό το βήμα τώρα. Σκοπεύουμε αυτό να αποτελέσει μέρος μιας ευρύτερης προσπάθειας για την ενίσχυση των προσπαθειών μας στον τομέα της ασφάλειας και της σύγκλισης.
2. Δημοκρατικός συντονισμός. Οι πρωτοπόρες εταιρείες τεχνητής νοημοσύνης σε δημοκρατικές χώρες συντονίζονται για να θεσπίσουν κοινά πρότυπα ασφάλειας, καθώς και όρια στον ρυθμό της ανεξέλεγκτης προόδου της τεχνητής νοημοσύνης. Ορισμένες μορφές συντονισμού που θα είχαν σημαντικό αντίκτυπο στον ρυθμό εξέλιξης παρουσιάζουν νομικές δυσκολίες και θα απαιτήσουν κυβερνητική υποστήριξη.
3. Παγκόσμιος συντονισμός. Οι ΗΠΑ και άλλες δημοκρατικές κυβερνήσεις προσπαθούν να συντονιστούν με αυταρχικές κυβερνήσεις, στο μέτρο που αυτό είναι εφικτό, λαμβάνοντας παράλληλα σοβαρά υπόψη τις προκλήσεις που συνεπάγεται η επαλήθευση της συμμόρφωση», αναφέρει μεταξύ άλλων στο δοκίμιο.