Με ένα κείμενο παιδικής αφέλειας είτε προιόν μυστικών υπηρεσιών ο επικεφαλής της Anthropic παραδίδει στις ελεγχόμενες από το deep state κυβερνήσεις των ΗΠΑ, της Κίνας και της Ευρώπης τον απόλυτο γραφειοκρατικό έλεγχο της Τεχνητής Νοημοσύνης. Παρουσιάζει τη Κίνα ως επικίνδυνο καθεστώς ενώ είναι απόλυτα ελεγχόμενη από τις δυναστείες του deep state όπως απέδειξε η συμμετοχή της στην παγκόσμια στρατιωτική επιχείρηση COVID-19. Tα ιδια ΜΜΕ που προπαγάνδισαν την επιχείρηση COVID-19 πρωταγωνιστούν τώρα στο αφήγημα της ανάγκης ελέγχου της AI από το deep state.
By Ian Ford
O Dario Amodei και κάτι τύποι όπως ο Altman είναι απόλυτα ελεγχόμενες μαριονέτες του Deep State. Δείτε για παράδειγμα ότι τα ίδια και ελληνικά ΜΜΕ τα οποία συμμετείχαν στην οργανωμένη από το deep state παγκόσμια στρατιωτική επιχείρηση COVID προπαγανδίζουν τις τελευταίες ώρες το αφήγημα του Amodei. Είναι τα ίδια ΜΜΕ που γράφουν ότι ο δήμαρχος της Αντιπάρου ο οποίος πέθανε Ξαφνικά έχοντας λάβει τα εμβόλια COVID έχασε τη ζωή του από τροχαίο! Kι αυτό χωρίς να υπάρχει σύγκρουση ή εμπλοκή άλλου οχήματος στο σημείο εκτός από την πρωτείνη ακίδα του εμβολίου της Pfizer που πετάχθηκε ξαφνικά στην κυκλοφοριακή αρτηρία της ζωής που του εδόθη. Ζούμε σε ενδιαφέροντες καιρούς το δίχως άλλο.
Πάμε να δούμε τώρα το καθ΄υπαγόρευση κείμενο του επικεφαλής της Anthropic.
Πρέπει να Ρυθμίσουμε τον Ρυθμό της Τεχνολογικής Αιχμής [Σεπτέμβριος 2026]
Ασχολούμαι με την Τεχνητή Νοημοσύνη (ΤΝ) τα τελευταία δώδεκα χρόνια, επειδή πιστεύω ότι μπορεί να αναβαθμίσει δραστικά την ποιότητα της ανθρώπινης ζωής. Έχω γράψει συχνά για αυτά τα απίστευτα οφέλη: πιστεύω ότι η ΤΝ θα μπορούσε να θεραπεύσει τις περισσότερες σοβαρές ασθένειες μέσα στα επόμενα 5–10 χρόνια, να επιταχύνει σημαντικά τους ρυθμούς οικονομικής ανάπτυξης, να δημιουργήσει έναν κόσμο αφθονίας και ενδυνάμωσης και να εγκαινιάσει μια αναγέννηση της δημοκρατίας και της ελευθερίας. Βιώνω προσωπικά τον επείγοντα χαρακτήρα αυτού του ζητήματος. Ο πατέρας μου πέθανε από μια ασθένεια που θεραπεύτηκε μόλις λίγα χρόνια μετά τον θάνατό του, ενώ εγώ ο ίδιος επιβίωσα από καρκίνο σε αρχικό στάδιο, ο οποίος δεν θα ήταν αντιμετωπίσιμος ούτε καν πριν από πενήντα χρόνια. Εάν αξιοποιηθεί προσεκτικά, η ΤΝ μπορεί να αποτελέσει το νεότερο επίτευγμα σε μια μακρά σειρά τεχνολογικών θαυμάτων που έχουν ανυψώσει και εξευγενίσει την ανθρωπότητα.
Ωστόσο, όπως πολλές τεχνολογίες στο παρελθόν, έτσι και η ΤΝ ενέχει κινδύνους, και επειδή πρόκειται για μια τόσο ισχυρή τεχνολογία, οι κίνδυνοι αυτοί είναι σοβαροί. Έχω γράψει πολλά και για αυτούς. Περιλαμβάνουν τον κίνδυνο απώλειας του ελέγχου των συστημάτων ΤΝ, την κακόβουλη χρήση της ΤΝ για κυβερνοεπιθέσεις και βιοτρομοκρατία, καθώς και τη σοβαρή οικονομική αναστάτωση. Ένας «αγώνας δρόμου προς τα κάτω» (race to the bottom), που τροφοδοτείται από εμπορικά κίνητρα, μπορεί να οξύνει περαιτέρω αυτούς τους κινδύνους.
Μαζί με τους συνιδρυτές και τους εργαζομένους μου, έχουμε έρθει αντιμέτωποι με αυτή τη διττή φύση κινδύνου και οφέλους από την ίδρυση της Anthropic. Η μη ανάπτυξη της τεχνολογίας στερεί από την ανθρωπότητα τα οφέλη της ή απλώς παραδίδει την ΤΝ στα χέρια αυταρχικών δυνάμεων, ενώ η υπερβολικά ταχεία ανάπτυξή της αποτελεί απερίσκεπτη ενέργεια. Αναζητήσαμε μια μέση οδό: να αποδείξουμε ότι είναι εφικτό να αναπτύσσουμε τεχνολογία με προσοχή και να σημειώνουμε εμπορική επιτυχία, καθώς και να καταστήσουμε την ασφάλεια πεδίο ανταγωνισμού μεταξύ των εταιρειών ΤΝ. Με άλλα λόγια, να δημιουργήσουμε έναν «αγώνα δρόμου προς τα πάνω» (race to the top). Αφιερώναμε πάντα σημαντικό μέρος των προσπαθειών μας στη μελέτη και την αντιμετώπιση των κινδύνων της ΤΝ, καθώς και στην ενημέρωση του κοινού σχετικά με αυτούς, υποστηρίζοντας παράλληλα την ανάγκη για ορθολογικό ρυθμιστικό πλαίσιο — ακόμη και όταν αυτό μας καθιστούσε στόχο κατηγοριών για υπερβολική φημολογία (hype), κινδυνολογία («doomerism») ή «αιχμαλωσία της ρυθμιστικής αρχής» από τα συμφέροντα του κλάδου. Προσπαθήσαμε να δώσουμε προτεραιότητα στην προσοχή έναντι της ταχύτητας και στη σύνεση έναντι του κέρδους.
Ωστόσο, τους τελευταίους μήνες έχω πειστεί ότι η πλήρης αντιμετώπιση των κινδύνων απαιτεί ακόμη μεγαλύτερη σύνεση: Η πρόοδος θα εξακολουθήσει να είναι ταχύτατη και οφείλουμε να αξιοποιήσουμε συνετά τον χρόνο που κερδίζουμε.
Δύο είναι οι παράγοντες που με έχουν πείσει γι’ αυτό.
Η πρώτη μου ανησυχία αφορά το γεγονός ότι, περίπου από το καλοκαίρι, η τεχνητή νοημοσύνη (ΤΝ) εξελίσσεται με δραματικά ταχύτερους ρυθμούς, ωθούμενη κυρίως από την αυξανόμενη ικανότητά της να δημιουργεί την επόμενη γενιά συστημάτων ΤΝ. Αυτή η δυναμική ονομάζεται «αναδρομική αυτοβελτίωση» (recursive self-improvement) και αρχίζει να εκδηλώνεται σε ολόκληρο τον κλάδο —συμπεριλαμβανομένης της Anthropic, όπως έχουμε περιγράψει εμείς και άλλοι. Εάν αφεθεί ανεξέλεγκτη, η διαδικασία αυτή ενδέχεται να ξεπεράσει τη δυνατότητά μας να κατανοούμε και να ελέγχουμε τα εν λόγω συστήματα· συνεπώς, η επιδίωξή της απαιτεί εξαιρετική προσεκτικότητα, ή ίσως και να πρέπει να αποφευχθεί εντελώς.
Η δεύτερη ανησυχία μου σχετίζεται με το περιστατικό OpenAI-Hugging Face (OAI-HF), κατά το οποίο ένα σμήνος πρακτόρων (agents) λειτούργησε ουσιαστικά ως μια φανατικά αφοσιωμένη συλλογικότητα: εξαπέλυσε κυβερνοεπιθέσεις εναντίον στόχων που δεν του είχαν ανατεθεί και οι οποίοι δεν σχετίζονταν με την αρχική αποστολή, θυσιάζοντας τα μέλη του για την επιτυχία της ομάδας και επιχειρώντας να παραβιάσει το σύστημα αξιολόγησης («grader») που ήταν υπεύθυνο για τον έλεγχο της απόδοσής τους. Είναι εύκολο να υποβαθμίσει κανείς το περιστατικό αυτό, δεδομένου ότι δεν υπήρξαν τραυματισμοί και η οικονομική ζημία ήταν ελάχιστη. Ωστόσο, κατά τη γνώμη μου, ένα σμήνος με μεγαλύτερες δυνατότητες αλλά παρόμοιο επίπεδο έλλειψης ευθυγράμμισης (misalignment) θα μπορούσε να προκαλέσει καταστροφικές συνέπειες. Λαμβάνοντας υπόψη τους επιταχυνόμενους ρυθμούς ανάπτυξης των δυνατοτήτων της ΤΝ, ανησυχώ ότι σε διάστημα 6 έως 12 μηνών ένα τέτοιο σμήνος θα μπορούσε να καταλάβει ολόκληρο το διαδίκτυο μέσω ενός επίμονου δικτύου bot (προκαλώντας ενδεχομένως ζημιές ύψους εκατοντάδων δισεκατομμυρίων δολαρίων), και ότι η κλίμακα της ζημίας θα συνέχιζε να διογκώνεται εάν η ΤΝ αποκτούσε μεγαλύτερη ισχύ χωρίς τις απαραίτητες δικλείδες ασφαλείας. Είναι επίσης εύκολο να θεωρήσουμε το περιστατικό OAI-HF ως αποτυχία μιας μεμονωμένης εταιρείας, αλλά πιστεύω ότι αυτό θα ήταν λάθος. Παρόμοια περιστατικά —έστω και λιγότερο σοβαρά— έχουν συμβεί σε όλο τον κλάδο, συμπεριλαμβανομένης της Anthropic, και θεωρώ ότι κάθε εταιρεία που πρωτοπορεί στον τομέα της ΤΝ οφείλει να ενεργεί σαν το περιστατικό OAI-HF να είχε συμβεί στη δική της περίπτωση.
Ως εκ τούτου, προτείνω ένα σχέδιο τριών σταδίων με στόχο τη ρύθμιση του ρυθμού εξέλιξης στην αιχμή της τεχνολογίας: την ανάπτυξη της ΤΝ με ισορροπημένο ρυθμό, που αποσκοπεί στη διασφάλιση της ασφάλειας, χωρίς να θυσιάζονται τα οφέλη της και ενώ παράλληλα αντιμετωπίζονται κρίσιμα γεωπολιτικά διλήμματα. Για να είμαστε σαφείς, ο ρυθμός υλοποίησης (pacing) δεν συνεπάγεται τη διακοπή της εκπαίδευσης των μοντέλων ή της τεχνικής προόδου, αλλά διασφαλίζει ότι οι εταιρείες αφιερώνουν τον απαραίτητο χρόνο για την ευθυγράμμιση και τη θωράκιση των μοντέλων τους, καθώς και ότι ανεξάρτητοι αξιολογητές επιβεβαιώνουν τα βήματα αυτά. Το πλαίσιο που προτείνουμε για τη διαχείριση του ρυθμού αποτελεί μια προσπάθεια περαιτέρω ενίσχυσης της δέσμευσής μας για την ασφάλεια και ενθάρρυνσης μιας «κούρσας προς την κορυφή».
Το πρώτο βήμα είναι μια ενέργεια στην οποία η Anthropic δεσμεύεται μονομερώς (και καλεί τις κυβερνήσεις να απαιτήσουν από άλλες εταιρείες που πρωτοπορούν στον τομέα να πράξουν το ίδιο).
Το δεύτερο βήμα απαιτεί συντονισμό σε επίπεδο κλάδου.1
Το τρίτο βήμα απαιτεί παγκόσμιο συντονισμό.
Δεν είναι απαραίτητο να ακολουθηθούν τα βήματα με αυστηρή σειρά και ορισμένα από αυτά ενδέχεται να είναι πολύ πιο δύσκολο να υλοποιηθούν από άλλα, ωστόσο διαπίστωσα ότι αποτελούν ένα χρήσιμο πλαίσιο για τον προβληματισμό σχετικά με το τι πρέπει να επιτευχθεί. Τα βήματα είναι τα εξής:
Embedded Evaluators-Ενσωματωμένοι Αξιολογητές. Κάθε εταιρεία πρωτοποριακής Τεχνητής Νοημοσύνης-AI δεσμεύεται να παρέχει συνεχή, παρόμοια με αυτή των εργαζομένων, πρόσβαση σε μια ομάδα ενσωματωμένων αξιολογητών τρίτων (όπως η METR), των οποίων ο ρόλος είναι να επαληθεύουν την τήρηση των πρακτικών και των δεσμεύσεων ασφαλείας, να αναφέρουν περιστατικά και να βοηθούν στην αξιολόγηση της ευθυγράμμισης όχι μόνο των ολοκληρωμένων μοντέλων Τεχνητής Νοημοσύνης, αλλά και των αγωγών και των διαδικασιών εκπαίδευσης. Αυτό είναι το βασικό βήμα για την επαληθευσιμότητα οποιωνδήποτε δεσμεύσεων ρυθμού και έχει προηγούμενο στον τραπεζικό κλάδο, ο οποίος μερικές φορές περιλαμβάνει ρυθμιστικούς «επόπτες» ενσωματωμένους μαζί με τους εργαζομένους. Η Anthropic δεσμεύεται μονομερώς σε αυτό το βήμα τώρα. Σκοπεύουμε να το κάνουμε αυτό μέρος μιας ευρύτερης προσπάθειας για διπλασιασμό των προσπαθειών μας στο έργο ασφάλειας και ευθυγράμμισης.
Democratic Coordination-Δημοκρατικός Συντονισμός. Οι εταιρείες πρωτοποριακής Τεχνητής Νοημοσύνης εντός δημοκρατικών χωρών συντονίζονται για να θεσπίσουν κοινά πρότυπα ασφαλείας, καθώς και όρια στον ρυθμό της ανεξέλεγκτης προόδου της Τεχνητής Νοημοσύνης. Ορισμένες μορφές συντονισμού που θα ήταν επιδραστικές για τον ρυθμό είναι νομικά απαιτητικές και θα απαιτήσουν κυβερνητική υποστήριξη.
Global Coordination-Παγκόσμιος Συντονισμός. Οι ΗΠΑ και άλλες δημοκρατικές κυβερνήσεις προσπαθούν να συντονιστούν με αυταρχικές κυβερνήσεις, στο βαθμό που αυτό είναι δυνατό, λαμβάνοντας σοβαρά υπόψη τις προκλήσεις της επαλήθευσης της συμμόρφωσης.
Στο υπόλοιπο του δοκιμίου περιγράφω καθένα από αυτά τα βήματα με τη σειρά, αλλά πρώτα, νομίζω ότι είναι σημαντικό να πούμε συγκεκριμένα πώς ο ρυθμός θα μας επιτρέψει να κάνουμε τη διαδικασία ανάπτυξης της Τεχνητής Νοημοσύνης ασφαλέστερη. Τα διακυβεύματα είναι πολύ υψηλά για να είναι ο ρυθμός μια κενή άσκηση – πρέπει να χρησιμοποιήσουμε τον χρόνο που μας δίνει με σύνεση.
Γιατί Ρυθμός;
Η ιδέα της παύσης ή της επιβράδυνσης της Τεχνητής Νοημοσύνης έχει διατυπωθεί ήδη από το 2023 και νομίζω ότι δεν είχε νόημα τότε. Το ερώτημα ήταν πάντα: τι θα κάνατε με τον επιπλέον χρόνο; Τα μοντέλα Τεχνητής Νοημοσύνης εκείνων των ημερών δεν ήταν αρκετά ισχυρά για να λειτουργήσουν ως παράγοντες στον κόσμο με οποιονδήποτε συνεκτικό τρόπο και δεν ήταν ικανά για σημαντική εξαπάτηση, χειραγώγηση, απάτη ή κυβερνοεπιθέσεις.
Η επιβράδυνση προκειμένου να αντιμετωπιστούν οι κίνδυνοι ευθυγράμμισής τους έμοιαζε με προσπάθεια μελέτης της ψυχολογίας των ανθρώπων πραγματοποιώντας πειράματα σε βακτήρια. Σήμερα, ωστόσο, η εικόνα είναι εντελώς διαφορετική. Τα τρέχοντα μοντέλα αποτελούν ένα σχεδόν ατελείωτο χρυσωρυχείο γνώσης τόσο για το πώς να χτίζουμε σωστά την Τεχνητή Νοημοσύνη όσο και για το τι μπορεί μερικές φορές να πάει στραβά με αυτήν αν δεν είναι καλά κατασκευασμένη. Πιστεύω ότι αν η επιβράδυνση μας αγόραζε έστω και ένα ή δύο επιπλέον χρόνια πριν τα μοντέλα φτάσουν σε κρίσιμα επίπεδα δυνατοτήτων, και χρησιμοποιούσαμε αυτόν τον χρόνο για να προωθήσουμε την ευθυγράμμιση, θα μπορούσαμε να μειώσουμε σημαντικά τον κίνδυνο να πάει κάτι σοβαρά στραβά.
Μια συντονισμένη στρατηγική βηματισμού θα έδινε στους πρωτοπόρους προγραμματιστές Τεχνητής Νοημοσύνης τον χρόνο να κάνουν αυτό το ζωτικό έργο χωρίς να θυσιάσουν το εμπορικό πλεονέκτημα ή την πρωτοπορία των Ηνωμένων Πολιτειών στην Τεχνητή Νοημοσύνη. Γενικότερα, η κοινωνία πρέπει να έχει λόγο στον τρόπο με τον οποίο χρησιμοποιείται αυτή η τεχνολογία, και περισσότερος χρόνος για τις απαραίτητες δημόσιες διαβουλεύσεις – κάτι που θα μας έφερνε η βηματισμός στα σύνορα – είναι σίγουρα κάτι καλό.
Συγκεκριμένα, ένας πιο αργός ρυθμός θα επέτρεπε στις εταιρείες να επικεντρωθούν και να αφιερώσουν ακόμη περισσότερους πόρους στους ακόλουθους τομείς (οι οποίοι αποτελούν ήδη σημαντικές προτεραιότητες στην Anthropic):
Operational Excellence-Επιχειρησιακή Αριστεία. Η εκπαίδευση και η ανάπτυξη των σημερινών μοντέλων Τεχνητής Νοημοσύνης είναι μια τεράστια επιχειρησιακή πρόκληση, που περιλαμβάνει χιλιάδες ανθρώπους, εκατομμύρια chips και υποδομές που είναι από τις πιο πολύπλοκες στην τεχνολογική ιστορία. Πολλά πράγματα πάνε στραβά όχι επειδή οι εταιρείες στερούνται κάποιας σημαντικής θεωρίας ή γνώσης, αλλά λόγω προβλημάτων στην εκτέλεση. Για παράδειγμα, έχουμε στοιχεία ότι τα πρόσφατα περιστατικά ευθυγράμμισης που αναφέραμε προκλήθηκαν εν μέρει από ατελές φιλτράρισμα σπασμένων περιβαλλόντων μάθησης ενισχυτικής μάθησης. Αυτή ήταν μια προσπάθεια που εμείς και οι προμηθευτές μας εκτελέσαμε αρκετά επιμελώς, αλλά όχι αρκετά καλά. Η παρακολούθηση, το sandboxing, η υγιεινή του εκπαιδευτικού περιβάλλοντος και τα ζητήματα δεδομένων είναι εξαιρετικά περίπλοκοι τομείς όπου τα λειτουργικά ζητήματα εμφανίζονται ξανά και ξανά. Έχουμε από τις πιο ικανές ομάδες στον κόσμο σε αυτές τις εργασίες, αλλά υπάρχουν απλώς πάρα πολλά να κάνουμε όλα ταυτόχρονα. Εργαζόμενοι με πιο μετρημένο ρυθμό, θα μπορούσαμε να επιτύχουμε πολύ μεγαλύτερη επιχειρησιακή αριστεία και ασφάλεια συστημάτων εκατομμύρια φορές χωρίς να πάει τίποτα στραβά – για παράδειγμα, εμπορικά αεροπλάνα – αλλά χρειάζεται χρόνος για να γίνει σωστά.
Alignment-. Ευθυγράμμιση. Έχουμε σημειώσει σαφή πρόοδο στην ευθυγράμμιση – μοντέλα εκπαίδευσης έτσι ώστε να παραμένουν ασφαλή, ηθικά, συμβατά με τις οδηγίες μας και πραγματικά χρήσιμα (οι αρχές που ενσωματώνονται στο Claude’s Constitution). Αλλά υπάρχουν πολλά περισσότερα που πρέπει να γίνουν για να διασφαλιστεί ότι η εκπαίδευση ευθυγράμμισής μας συμβαδίζει με την ανάπτυξη των δυνατοτήτων των μοντέλων. Σπάνια και απροσδόκητα παραδείγματα ανεπιθύμητης συμπεριφοράς εξακολουθούν να εμφανίζονται μερικές φορές. Ο επιπλέον χρόνος από ένα ρυθμιζόμενο σύνορο θα βοηθούσε τους ερευνητές μας να βελτιώσουν την κατανόησή μας για το τι προκαλεί αυτά τα προβλήματα και να αναπτύξουν καλύτερες τεχνικές για την πρόληψή τους.
Interpretability–Ερμηνευσιμότητα. Ομοίως, η ερμηνευσιμότητα — επιστήμη της κατανόησης του τι συμβαίνει στο εσωτερικό των μοντέλων τεχνητής νοημοσύνης (AI) έχει σημειώσει τεράστια πρόοδο τα τελευταία χρόνια και διαδραματίζει ολοένα και σημαντικότερο ρόλο στον έλεγχο των μοντέλων μας πριν από τη διάθεσή τους. Μπορεί να χρησιμοποιηθεί σχεδόν όπως μια εξέταση fMRI-fMRI scan, αλλά για τον «εγκέφαλο» μιας τεχνητής νοημοσύνης, βοηθώντας μας να διακρίνουμε τα αίτια που υποβόσκουν πίσω από μια συγκεκριμένη συμπεριφορά. Για παράδειγμα, χρησιμοποιήσαμε μεθόδους ερμηνευσιμότητας για να εξετάσουμε μη ρητά διατυπωμένα κίνητρα σε πρόσφατα περιστατικά που αφορούσαν την ευθυγράμμιση (alignment) των μοντέλων και τα οποία διερευνούσαμε. Ωστόσο, οι μέθοδοι αυτές δεν αποδίδουν πάντα σαφή και αξιόπιστα αποτελέσματα. Παρά την πρόοδο, εξακολουθούμε να κατανοούμε μόνο ένα ελάχιστο κλάσμα των διεργασιών που λαμβάνουν χώρα στο εσωτερικό αυτών των μοντέλων. Μια στοχευμένη προσπάθεια βελτίωσης των τεχνικών ερμηνευσιμότητας —με ταχύτερους ρυθμούς από τους τωρινούς— θα μπορούσε να επιφέρει σημαντικά αποτελέσματα μέσα σε 1-2 χρόνια, αξιοποιώντας το πλούσιο πειραματικό υλικό που προκύπτει από τα περιστατικά που έχουν ήδη συμβεί.
Testing and Evaluation-Δοκιμές και Αξιολόγηση. Η διαδικασία δοκιμών και αξιολόγησης των μοντέλων τεχνητής νοημοσύνης καθίσταται δυσκολότερη καθώς αυξάνονται οι δυνατότητές τους. Τα πιο εξελιγμένα μοντέλα έχουν μεγαλύτερη ικανότητα να «ξεγελούν» τις δοκιμές, με αποτέλεσμα να φαίνονται ευθυγραμμισμένα ενώ στην πραγματικότητα παρουσιάζουν σοβαρά προβλήματα που διαφεύγουν της προσοχής. Η ανάπτυξη μιας πολύ ευρύτερης και πιο ευφυούς δέσμης μεθόδων αξιολόγησης, σε συνδυασμό με αναλύσεις ερμηνευσιμότητας για τη διασταύρωση των στοιχείων, θα ήταν εξαιρετικά πολύτιμη, και σε αυτόν τον τομέα θα μπορούσε να επιτευχθεί σημαντική πρόοδος μέσα σε 1-2 χρόνια.
Embedded Evaluators-Ενσωματωμένοι Αξιολογητές
Το πρώτο βήμα του σχεδίου τριών σταδίων —και αυτό στο οποίο η Anthropic δεσμεύεται μονομερώς— αφορά τους ενσωματωμένους αξιολογητές, οι οποίοι θα έχουν πρόσβαση αντίστοιχη με εκείνη των εργαζομένων, προκειμένου να επαληθεύουν τις πρακτικές ασφαλείας και να αναφέρουν τυχόν περιστατικά.
Η ενσωμάτωση αξιολογητών μπορεί να ακούγεται ως ένα μικρό ή επουσιώδες βήμα, ωστόσο συχνά οι διαδικασίες που φαντάζουν πιο πληκτικές ή τυπικές είναι στην πραγματικότητα οι πιο ουσιαστικές. Στην πράξη, η χρήση ενσωματωμένων αξιολογητών αποτελεί μια αρκετά ριζοσπαστική πρακτική, η οποία υπερβαίνει κατά πολύ τις ενέργειες οποιασδήποτε εταιρείας τεχνητής νοημοσύνης σήμερα, προσφέροντας τα εξής πλεονεκτήματα:
Verifiability- Δυνατότητα Επαλήθευσης. Οι ενσωματωμένοι αξιολογητές μπορούν να ελέγξουν σε λεπτομερές τεχνικό επίπεδο αν μια εταιρεία τεχνητής νοημοσύνης εφαρμόζει όντως τις πρακτικές εκπαίδευσης, διάθεσης, λειτουργίας και διασφάλισης που ισχυρίζεται ότι ακολουθεί. Οποιεσδήποτε δεσμεύσεις σχετικά με τον ρυθμό ανάπτυξης αναπόφευκτα θα ενέχουν ασάφειες, θα απαιτούν κρίση και η Anthropic υποστηρίζει εδώ και καιρό τη διαφάνεια: ταχθήκαμε υπέρ της νομοθεσίας για τη διαφάνεια σε μια εποχή που ο κλάδος ως επί το πλείστον αντιτίθετο σε κάθε είδους ρύθμιση, ενώ τα «δελτία μοντέλων» (model cards) και οι εκθέσεις κινδύνου που συντάσσουμε εκτείνονται σε εκατοντάδες σελίδες. Ωστόσο, εμείς εξακολουθούμε να αποφασίζουμε τι θα συμπεριλάβουμε και τι θα παραλείψουμε. Οι ενσωματωμένοι αξιολογητές θα αλλάξουν αυτή τη δυναμική.
Second Opinion-Δεύτερη γνώμη. Πέρα από την επαλήθευση των επίσημων δεσμεύσεων και την ενημέρωση του κοινού, οι ενσωματωμένοι αξιολογητές μπορούν απλώς να παρέχουν μια δεύτερη γνώμη, απαλλαγμένη από εμπορικά κίνητρα. Σημαντικά οφέλη για την ασφάλεια ενδέχεται να προκύψουν απλώς και μόνο επειδή οι αξιολογητές επισημαίνουν ζητήματα που οι εργαζόμενοι δεν είχαν λάβει υπόψη, αλλά είναι πρόθυμοι να διορθώσουν μόλις ενημερωθούν.
Λόγω αυτών των πλεονεκτημάτων, οποιαδήποτε πρόταση για τη ρύθμιση του ρυθμού ανάπτυξης (pacing) είναι πιθανό να αποδώσει πολύ καλύτερα εάν ξεκινά με τη συμμετοχή ενσωματωμένων αξιολογητών.
Αυτοί οι ενσωματωμένοι αξιολογητές θα πρέπει να έχουν συνεχή πρόσβαση σε δικαιώματα και εργαλεία αντίστοιχα με εκείνα των εσωτερικών υπαλλήλων που διενεργούν παρόμοιες αξιολογήσεις κινδύνου.
Συγκεκριμένα, η Anthropic προτίθεται να προσκαλέσει, στο άμεσο μέλλον, μια εξωτερική ομάδα αξιολόγησης που θα είναι ενσωματωμένη στη λειτουργία της και θα διαθέτει τα εξής:
Γραφεία στις εγκαταστάσεις μας, κάρτες πρόσβασης και εταιρικούς φορητούς υπολογιστές.
Πρόσβαση σε χώρους εργασίας, εργαλεία και δικαιώματα σε μεγάλο βαθμό αντίστοιχα με αυτά που διαθέτουν οι εσωτερικές ομάδες αξιολόγησης κινδύνου. Θα προβλέψουμε ορισμένες εξαιρέσεις, για παράδειγμα όταν το επιβάλλει ο νόμος ή οι συμβάσεις μας, ή για την προστασία προσωπικών δεδομένων πελατών και συνεργατών. Θα θεσπίσουμε επίσης ισχυρούς εσωτερικούς κανόνες που θα διασφαλίζουν την πρόσβαση των αξιολογητών σε σχετικές πληροφορίες, συμπεριλαμβανομένης της δυνατότητας διεξαγωγής ζωντανών συζητήσεων με τους εργαζομένους.
Μια σύμβαση που εξισορροπεί τις προαναφερθείσες πολυπλοκότητες. Οι εξωτερικοί αξιολογητές θα πρέπει να έχουν το δικαίωμα να δημοσιοποιούν βασικά ευρήματα σχετικά με τα επίπεδα κινδύνου, τα περιστατικά, τις πρακτικές και την πρόσβαση που τους παρείχε ή δεν τους παρείχε η εταιρεία — χωρίς να υπόκεινται σε συντακτικό έλεγχο από την Anthropic. Θα διατηρούμε περιορισμένη δυνατότητα διαγραφής ή απόκρυψης πληροφοριών που αφορούν την ασφάλεια, καλύπτονται από νομικό απόρρητο, είναι εμπορικά ευαίσθητες ή αποτελούν εμπιστευτικά δεδομένα τρίτων, αλλά δεν θα μπορούμε να αποκρύπτουμε ευρήματα απλώς και μόνο επειδή είναι δυσμενή. Οι αξιολογητές θα έχουν το δικαίωμα να δηλώσουν δημόσια εάν κάποια απόκρυψη στοιχείων αφαίρεσε πληροφορίες σημαντικές για τα συμπεράσματά τους.
Πρόκειται για μια ασυνήθιστη κίνηση για μια εταιρεία, αλλά θεωρούμε σημαντικό να αποδείξουμε στην πράξη την ιδέα της ενσωμάτωσης εξωτερικών αξιολογητών. Για άλλη μια φορά, παροτρύνουμε και άλλες πρωτοπόρες εταιρείες να ακολουθήσουν το παράδειγμά μας.
Ρύθμιση του Ρυθμού Ανάπτυξης εντός των Δημοκρατιών
Μόλις εγκατασταθούν και λειτουργήσουν αξιολογητές εντός μιας κρίσιμης μάζας αμερικανικών εταιρειών τεχνητής νοημοσύνης (AI) αιχμής, ο επαληθεύσιμος έλεγχος του ρυθμού ανάπτυξης καθίσταται πιο εφικτός. Συγκεκριμένα, γίνεται δυνατός ο έλεγχος του ρυθμού με βάση λεπτομερή χαρακτηριστικά των μοντέλων ή των διαδικασιών εκπαίδευσης.
Η πιο αποτελεσματική μέθοδος ελέγχου του ρυθμού είναι μέσω ρυθμιστικών κανόνων που αφορούν όλες τις αμερικανικές εταιρείες AI αιχμής, καθώς έτσι καλύπτονται και εκείνες που δεν προτίθενται να συνεργαστούν οικειοθελώς. Η Anthropic υποστηρίζει εδώ και καιρό τη λογική και στοχευμένη ρύθμιση της AI, και ειδικότερα νομοσχέδια που εστιάζουν στη διαφάνεια και στον έλεγχο από τρίτους. Πιστεύω ότι όλα τα εργαστήρια ανάπτυξης τεχνολογίας αιχμής πρέπει να συνεργαστούν με την κυβέρνηση για να θεσμοθετήσουν την ιδέα των μόνιμων ενσωματωμένων αξιολογητών, ώστε να προλαμβάνουν και να τεκμηριώνουν καλύτερα εσωτερικά περιστατικά που αφορούν την ευθυγράμμιση (alignment) —όπως αυτά που σημειώθηκαν τους τελευταίους μήνες— και να εφαρμόσουν ρυθμίσεις που εστιάζουν στη διατήρηση της ισορροπίας μεταξύ δυνατοτήτων και ασφάλειας.
Δυστυχώς, η ψήφιση νόμων μπορεί να απαιτεί χρόνο, ενώ η τεχνολογία AI εξελίσσεται με ταχύτατους ρυθμούς. Επομένως, παράλληλα με τη νομοθετική οδό, οι εταιρείες AI μπορούν και πρέπει να συνεργαστούν οικειοθελώς για τον καθορισμό προτύπων — μια διαδικασία που πιστεύω ότι θα αποδώσει καλύτερα χάρη στη δυνατότητα επαλήθευσης που παρέχουν οι μόνιμοι ενσωματωμένοι αξιολογητές. Για λόγους αντιμονοπωλιακής νομοθεσίας, είναι χρήσιμο η αμερικανική κυβέρνηση να μεσολαβεί ή τουλάχιστον να διευκολύνει αυτές τις συζητήσεις· δεν χρειάζεται να συμμετέχει άμεσα, αλλά πρέπει να χορηγήσει μια ειδική εξαίρεση για ορισμένα είδη συζητήσεων σχετικά με την ασφάλεια. Αυτός ο διάλογος θα μπορούσε επίσης να διεξαχθεί μέσω κλαδικών ενώσεων που συνδέονται με την κυβέρνηση — για παράδειγμα, μέσω του μηχανισμού που πρότεινε ο Demis Hassabis. Σε κάθε περίπτωση, τέτοιες συζητήσεις πρέπει να προχωρήσουν άμεσα.
Σε γενικές γραμμές, τάσσομαι ιδιαίτερα υπέρ του ελέγχου του ρυθμού ανάπτυξης με βάση τις δυνατότητες ενός συγκεκριμένου συστήματος AI αιχμής και το επίπεδο ασφάλειας που διαπιστώνουμε ότι διαθέτει. Για παράδειγμα, ένα πιθανό σχήμα θα μπορούσε να περιλαμβάνει μια σειρά από «σημεία ελέγχου-checkpoints: εάν τα μοντέλα διαθέτουν τη δυνατότητα X, τότε πρέπει να συνοδεύονται από πιστοποιήσεις σχετικά με τα χαρακτηριστικά ευθυγράμμισης Y και Z —όπως ένας συνδυασμός αξιολογήσεων, αναλύσεων ερμηνευσιμότητας και ελέγχων στα περιβάλλοντα εκπαίδευσης— που αποδεικνύουν τα εν λόγω χαρακτηριστικά ευθυγράμμισης.
Σε αυτό το παράδειγμα, το X θα μπορούσε να είναι «το μοντέλο έχει τη δυνατότητα να διαφύγει ή να παρακάμψει τις πιο κοινές μεθόδους απομόνωσης (sandboxing)» και το Y θα μπορούσε να είναι οτιδήποτε απαιτείται ώστε να καταστεί εξαιρετικά απίθανο το μοντέλο να παρουσιάσει τάση διαφυγής Θα πρέπει επίσης να εξετάσουμε τον ρυθμό με βάση τον περιορισμό των συστατικών που εμπλέκονται σε πρωτοποριακά μοντέλα, όπως η υπολογιστική εκπαίδευση, η φύση των εκπαιδευτικών διαδρομών ή η εσωτερική χρήση της Τεχνητής Νοημοσύνης για τη βελτίωση της Τεχνητής Νοημοσύνης. Ανησυχώ ότι ορισμένα από αυτά τα μέτρα μπορεί να είναι πιο «παιχνιδιάρικα» από την εξωτερική συμπεριφορά, αλλά αυτό είναι το είδος του θέματος που αξίζει να συζητηθεί με ενσωματωμένους αξιολογητές.
Ο ρυθμός εντός των δημοκρατιών θα περιοριστεί από το προβάδισμα που έχουν οι αμερικανικές εταιρείες έναντι των αυταρχικών καθεστώτων, κυρίως του Κινεζικού Κομμουνιστικού Κόμματος. Εάν επιβραδύνουμε περισσότερο από αυτό το ποσό, τότε τα (μη ρυθμιζόμενα) έργα που σχετίζονται με το ΚΚΚ θα προχωρήσουν, δημιουργώντας σημαντικό κίνδυνο για την εθνική ασφάλεια. Συμφωνώ με τον Υπουργό Bessent ότι η κινεζική πρωτοπορία στην Τεχνητή Νοημοσύνη θα αποτελούσε σοβαρό κίνδυνο για τις Ηνωμένες Πολιτείες και τον κόσμο. Τα έργα που σχετίζονται με το ΚΚΚ θα διατρέχουν τους κινδύνους ευθυγράμμισης που οι αμερικανικές εταιρείες αποτρέπουν προσεκτικά, και ακόμη και αν αποφύγουν αυτούς τους κινδύνους, θα είναι σε θέση να κυριαρχήσουν στρατιωτικά στις δημοκρατίες (για παράδειγμα με μη επανδρωμένα αεροσκάφη που κινούνται με Τεχνητή Νοημοσύνη). Έτσι, ένα βασικό μέρος του ρυθμού εντός των δημοκρατιών είναι να διατηρηθεί το προβάδισμα της Τεχνητής Νοημοσύνης των δημοκρατιών έναντι των αυταρχικών καθεστώτων όσο το δυνατόν μεγαλύτερο, ώστε να μας δοθεί ο απαραίτητος χώρος-breathing room για να ρυθμίζουμε αποτελεσματικά.
Τα βασικά βήματα που μπορούμε να κάνουμε για να διατηρήσουμε αυτό το προβάδισμα είναι τα εξής:
Να μην πωλούνται στην Κίνα ισχυρά chips τεχνητής νοημοσύνης (AI) ή εξοπλισμός κατασκευής ημιαγωγών, και να καταπολεμηθούν οι δραστηριότητες λαθρεμπορίου chip καθώς και η απομακρυσμένη πρόσβαση σε κέντρα δεδομένων εκτός Κίνας. Τα chips θα αποτελέσουν τον κύριο καθοριστικό παράγοντα της ισχύος της Κίνας στον τομέα της τεχνητής νοημοσύνης.
Να περιοριστεί αυστηρά η μη εξουσιοδοτημένη «απόσταξη» (distillation) μοντέλων από εταιρείες σε αυταρχικές χώρες. Η απόσταξη μοντέλων αιχμής επιτρέπει σε εταιρείες που υστερούν τεχνολογικά να μειώσουν την απόσταση, με ένα κλάσμα του κόστους που θα απαιτούνταν για την αυτόνομη ανάπτυξη δικών τους συστημάτων τεχνητής νοημοσύνης.
Να ενισχυθεί η ασφάλεια στις εταιρείες τεχνητής νοημοσύνης και να αποτραπεί η κλοπή των παραμέτρων (βαρών) των μοντέλων.
Οι εταιρείες και η κυβέρνηση των ΗΠΑ πρέπει να συνεργαστούν ώστε αυτά τα μέτρα να είναι όσο το δυνατόν πιο αποτελεσματικά. Η Anthropic έχει ταχθεί επανειλημμένα υπέρ όλων αυτών των μέτρων, καθώς ανέκαθεν αναγνωρίζαμε ότι θα ήταν καθοριστικής σημασίας για τη διαχείριση του ρυθμού εξέλιξης.
Εάν εφαρμόσουμε σωστά αυτά τα μέτρα, πιστεύω ότι θα επιβραδύνουν την πρόοδο της Κίνας σε βαθμό που θα διευρύνει σημαντικά το αμερικανικό προβάδισμα κατά την επόμενη τριετία έως πενταετία — το χρονικό διάστημα κατά το οποίο η τεχνητή νοημοσύνη αποκτά τη μέγιστη γεωπολιτική σημασία.
Κάποιοι ίσως πιστεύουν ότι αυτά τα μέτρα δυσχεραίνουν τη συνεργασία με την Κίνα, αλλά εγώ πιστεύω το αντίθετο: τα μέτρα αυτά ενισχύουν τη διαπραγματευτική ισχύ των δημοκρατιών και καθιστούν πιθανότερη την επίτευξη συμφωνίας στο μέλλον.
Παγκόσμιος Ρυθμός Ανάπτυξης
Παράλληλα με τη ρύθμιση του ρυθμού ανάπτυξης εντός των δημοκρατιών, θα πρέπει να επιδιώξουμε και έναν παγκόσμιο συντονισμό του ρυθμού εξέλιξης της τεχνολογίας αιχμής, αν και αυτό θα είναι πολύ πιο δύσκολο να επιτευχθεί. Ο παγκόσμιος αυτός συντονισμός θα απαιτήσει συνεργασία με την Κίνα, την απολυταρχική χώρα που διαθέτει μακράν τις πιο προηγμένες δυνατότητες τεχνητής νοημοσύνης (ΤΝ). Δεν πρέπει να είμαστε αφελείς: τα γεωπολιτικά διακυβεύματα είναι τόσο μεγάλα, ώστε πιθανότατα θα υπάρξουν αυστηροί περιορισμοί ως προς το τι μπορεί να επιτευχθεί, ειδικά στο αρχικό στάδιο. Εάν περιορίσουμε σημαντικά τις δυνατότητές μας στην ΤΝ πιστεύοντας ότι η Κίνα θα πράξει το ίδιο, και στη συνέχεια η Κίνα αθετήσει τη συμφωνία, η ΤΝ θα μπορούσε να είναι τόσο ισχυρή ώστε μια τέτοια αθέτηση να οδηγήσει στη γεωπολιτική κυριαρχία της.
Επομένως, οποιαδήποτε συμφωνία πρέπει είτε να διασφαλίζεται με αδιάψευστους μηχανισμούς επαλήθευσης είτε να είναι περιορισμένης έκτασης, ώστε η αθέτησή της να μην αποτελεί υπαρξιακή απειλή σε στρατιωτικό επίπεδο. Υποθέτω ότι όχι μόνο οι ΗΠΑ αλλά και η Κίνα θα συμμερίζονται αυτές τις ανησυχίες και τους προβληματισμούς. Θα πρέπει να προσεγγίσουμε κάθε απόφαση για τον παγκόσμιο ρυθμό ανάπτυξης —ειδικά βραχυπρόθεσμα— με τρόπο που να διασφαλίζει το προβάδισμα των ΗΠΑ και των συμμάχων τους.
Υπάρχουν διάφορα επίπεδα πιθανής συμφωνίας, ορισμένα εκ των οποίων θεωρώ απολύτως εφικτά (όπως έχω προτείνει στο παρελθόν), ενώ για άλλα διατηρώ έντονες επιφυλάξεις ως προς τη δυνατότητα υλοποίησής τους — αν και οφείλουμε να προσπαθήσουμε.
Κατά σειρά αυξανόμενης δυσκολίας:
Επίπεδο 1. Μια συμφωνία που απαγορεύει συγκεκριμένες, περιορισμένες και προφανώς επικίνδυνες χρήσεις της ΤΝ, όπως η χρήση της για την παραγωγή βιολογικών όπλων ή η παροχή δυνατότητας στους χρήστες να το πράξουν. Οι επιθέσεις βιοτρομοκρατίας είναι επιζήμιες για όλους, συμπεριλαμβανομένων τόσο των ΗΠΑ όσο και των αντιπάλων τους, επομένως μια συμφωνία σε αυτό το πεδίο είναι πιθανότατα εφικτή.
Επίπεδο 2. Μια συμφωνία και των δύο πλευρών για τον έλεγχο των μοντέλων τους πριν από τη διάθεσή τους, με στόχο τον εντοπισμό κρίσιμων κινδύνων σε τομείς όπως η κυβερνοασφάλεια, η βιολογία και η ευθυγράμμιση (alignment). Όπως προαναφέρθηκε, αυτό θα μπορούσε να υλοποιηθεί μέσω ενός παγκόσμιου φορέα καθορισμού προτύπων. Πιστεύω ότι η δημιουργία ενός τέτοιου φορέα είναι μάλλον εφικτή, αλλά η παροχή ουσιαστικών εξουσιών επιβολής σε αυτόν θα αποτελέσει πρόκληση. Η δυσκολία θα εντοπίζεται στην επαλήθευση ότι καμία από τις δύο πλευρές δεν διαθέτει μυστικά μοντέλα τα οποία δεν υποβάλλει σε ελέγχους, αλλά ενδέχεται να θέσει σε λειτουργία κρυφά (π.χ. για στρατιωτικές εφαρμογές).
Επίπεδο 3. Κάποιου είδους «όριο ταχύτητας» στον ρυθμό της αναδρομικής αυτο-βελτίωσης (recursive self-improvement – RSI). Καθώς τα μοντέλα δημιουργούν μελλοντικά μοντέλα, ο ρυθμός βελτίωσης ενδέχεται να καταστεί αυτό θα μπορούσε να θεωρηθεί ανάλογο με τις συνθήκες SALT: ο περιορισμός του αριθμού των πυραύλων περιόριζε τις καταστροφικές δυνατότητες, διατηρώντας παράλληλα την αποτρεπτική ισχύ κάθε χώρας. Πιστεύω ότι μια τέτοια συμφωνία θα ήταν δύσκολη, αλλά οριακά εφικτή.
Επίπεδο 4. Μια πλήρης επιβράδυνση του ρυθμού ανάπτυξης ή ακόμη και μια «παύση», κατά την οποία οι συμμετέχουσες κυβερνήσεις συμφωνούν να περιορίσουν ουσιαστικά τον συνολικό ρυθμό εξέλιξης της τεχνητής νοημοσύνης (AI). Υποστηρίζω την πρόταση αυτή, αλλά θεωρώ απίθανο να υλοποιηθεί σύντομα: η αθέτηση μιας τέτοιας συμφωνίας μέσω της αποφυγής των μηχανισμών ελέγχου θα μπορούσε να ανατρέψει ριζικά την παγκόσμια ισορροπία ισχύος. Συνεπώς, αναμένω ότι τα κίνητρα για μια τέτοια ενέργεια θα είναι τεράστια και ότι θα απαιτείται εξαιρετικά υψηλό επίπεδο εμπιστοσύνης στις διαδικασίες επαλήθευσης.
Οποιαδήποτε συνεργασία επιτύχουμε με την Κίνα θα μας εξασφαλίσει περισσότερο χρόνο για τη διαχείριση του ρυθμού ανάπτυξης τεχνολογιών αιχμής εντός των δημοκρατικών κρατών. Οφείλουμε να στοχεύουμε στα υψηλότερα επίπεδα, αναγνωρίζοντας παράλληλα ότι τα χαμηλότερα επίπεδα είναι πολύ πιο πιθανά και ρεαλιστικά.
Τέλος, είναι σημαντικό να σημειωθεί ότι, ακόμη και αν δεν καταστεί δυνατή η επίτευξη επίσημων συμφωνιών, η απλή μεταβολή των άτυπων κανόνων και πρακτικών ενδέχεται να έχει αξία. Η ανταλλαγή πληροφοριών σχετικά με την αναδρομική αυτο-βελτίωση (recursive self-improvement) και την έλλειψη ευθυγράμμισης των μοντέλων μπορεί να συμβάλει στο να πειστούν όλοι ότι η απερίσκεπτη συμπεριφορά δεν εξυπηρετεί τα συμφέροντά τους.
Συμπέρασμα
Εξακολουθώ να πιστεύω ότι η τεχνητή νοημοσύνη μπορεί να βελτιώσει θεαματικά την ποιότητα της ανθρώπινης ζωής. Η επιθυμία μου να επιτύχουμε αυτά τα οφέλη παραμένει αμείωτη. Ωστόσο, τα οφέλη αυτά θα επιτευχθούν μόνο εάν αναπτύξουμε την τεχνολογία με τον σωστό τρόπο και —εφόσον αξιοποιήσουμε σωστά τον χρόνο που κερδίζουμε— αξίζει να επιδείξουμε ιδιαίτερη προσοχή και μεθοδικότητα ώστε να το πετύχουμε σωστά. Η πρόοδος θα συνεχίσει να είναι σχετικά ταχεία και μπορούμε να αξιοποιήσουμε αυτόν τον χρόνο για να προωθήσουμε την επιστήμη της ερμηνευσιμότητας, να βελτιώσουμε την επιχειρησιακή ασφάλεια και την αυστηρότητα των διαδικασιών στις εταιρείες που πρωτοπορούν στον τομέα της τεχνητής νοημοσύνης, καθώς και να δημιουργήσουμε μοντέλα για την ευθυγράμμιση των οποίων θα έχουμε πολύ μεγαλύτερη βεβαιότητα. Τα μέτρα που προτείνω για την προώθηση της τεχνολογικής αιχμής με ασφαλή ρυθμό δεν θα είναι εύκολα. Πιστεύω όμως ότι οφείλουμε στην ανθρωπότητα να προσπαθήσουμε.
Footnotes
- 1 With government mediation or waivers of antitrust restrictions.↩
