Όταν η Anthropic ανακοίνωσε στον κόσμο αυτόν τον μήνα ότι είχε κατασκευάσει ένα μοντέλο Τεχνητής Νοημοσύνης τόσο ισχυρό που είναι πολύ επικίνδυνο να δημοσιοποιηθεί ευρέως, η εταιρεία ονόμασε 11 οργανισμούς ως συνεργάτες για να βοηθήσουν στην οργάνωση μιας άμυνας. Όλοι προέρχονται από τις Ηνωμένες Πολιτείες.
Μέσα σε δύο εβδομάδες, το μοντέλο, που ονομάζεται Mythos, πυροδότησε μια παγκόσμια αναμέτρηση που δεν έχει ξαναδεί ποτέ η εποχή της Τεχνητής Νοημοσύνης.
Το Mythos, το οποίο, σύμφωνα με την Anthropic, είναι παράξενα ικανό να βρίσκει και να εκμεταλλεύεται κρυμμένα ελαττώματα στο λογισμικό που διαχειρίζονται τράπεζες, δίκτυα ηλεκτρικής ενέργειας και κυβερνήσεις, έγινε πλέον ένα γεωπολιτικό τσιπ – και το κατέχει μια αμερικανική εταιρεία.
Παγκόσμιοι ηγέτες δυσκολεύτηκαν να καταλάβουν αμέσως την κλίμακα των κινδύνων ασφαλείας και πώς να τους διορθώσουν, με την Anthropic να μοιράζεται το Mythos μόνο με τη Βρετανία εκτός των Ηνωμένων Πολιτειών. Ο διοικητής της Τράπεζας της Αγγλίας προειδοποίησε δημόσια ότι η Anthropic μπορεί να βρήκε έναν τρόπο να «σπάσει ολόκληρο τον κόσμο του κυβερνοκινδύνου».
Η Ευρωπαϊκή Κεντρική Τράπεζα άρχισε να αμφισβητεί σιωπηλά τις τράπεζες σχετικά με τις άμυνές τους. Ο υπουργός Οικονομικών του Καναδά συνέκρινε την απειλή με το κλείσιμο του Πορθμού του Hormuz. Για τους αντιπάλους των ΗΠΑ, όπως η Κίνα και η Ρωσία, το Mythos υπογραμμίζει τις συνέπειες στην ασφάλεια από την οπισθοδρόμηση στον αγώνα για την Τεχνητή Νοημοσύνη. Ένα ρωσικό, φιλο-Κρεμλινικό μέσο αποκάλεσε το μοντέλο «χειρότερο από μια πυρηνική βόμβα».
Οι απαντήσεις κατέδειξαν μια πραγματικότητα για την οποία οι ερευνητές της Τεχνητής Νοημοσύνης προειδοποιούν εδώ και καιρό, κυρίως σε θεωρητικούς όρους: Όποιος ηγηθεί στην κατασκευή των πιο ισχυρών μοντέλων Τεχνητής Νοημοσύνης θα αποκτήσει τεράστια γεωπολιτικά πλεονεκτήματα.
Οι σημαντικές ανακαλύψεις στην Τεχνητή Νοημοσύνη αρχίζουν να λειτουργούν λιγότερο σαν λανσαρίσματα προϊόντων και περισσότερο σαν δοκιμές όπλων, και τα περισσότερα έθνη θέλουν να κατανοήσουν πώς λειτουργούν οι τεχνολογίες και ποιες προστασίες χρειάζονται.
Καθώς στη θεμελιώδη Τεχνητή Νοημοσύνη «τα μοντέλα γίνονται πιο συνεπή, η πρόσβαση γίνεται πιο γεωπολιτική», δήλωσε ο Eduardo Levy Yeyati, πρώην επικεφαλής οικονομολόγος στην Κεντρική Τράπεζα της Αργεντινής και περιφερειακός σύμβουλος για την ανάπτυξη και την Τεχνητή Νοημοσύνη στην Διαμερικανική Τράπεζα Ανάπτυξης. «Θα θεωρούσα αυτό το επεισόδιο ως ένα κάλεσμα αφύπνισης για την πολιτική. Οι κυβερνήσεις δεν μπορούν πλέον να αγνοούν το ζήτημα».
Ακόμα και η κυβέρνηση των ΗΠΑ, η οποία έχει εμπλακεί σε μια σύγκρουση με την Anthropic σχετικά με τη χρήση της Τεχνητής Νοημοσύνης σε πολέμους, έχει λάβει υπόψη το Mythos.
Την περασμένη Παρασκευή, ο Dario Amodei, διευθύνων σύμβουλος της Anthropic, συναντήθηκε με αξιωματούχους του Λευκού Οίκου, αφού ορισμένοι στην κυβέρνηση Trump σημείωσαν την πιθανότητα το νέο μοντέλο να προκαλέσει χάος στα συστήματα υπολογιστών.
Dario Amodei
Η Anthropic, η οποία εδρεύει στο Σαν Φρανσίσκο, δήλωσε στους New York Times ότι διατηρεί μικρή πρόσβαση στο Mythos λόγω ανησυχιών για την ασφάλεια. Έχει επικεντρωθεί στην κοινή χρήση του μοντέλου με περισσότερους από 40 οργανισμούς που παρέχουν τεχνολογία η οποία χρησιμοποιείται στη συντήρηση κρίσιμων παγκόσμιων υποδομών όπως το διαδίκτυο ή τα δίκτυα ηλεκτρικής ενέργειας.
Η Anthropic κατονόμασε 11 από τους οργανισμούς, συμπεριλαμβανομένων των Amazon, Apple και Microsoft, που δεσμεύτηκαν να βοηθήσουν στην ανάπτυξη διορθώσεων ασφαλείας για τα τρωτά σημεία που εντοπίστηκαν από το μοντέλο.
Η εταιρεία δήλωσε ότι δεν έχει άμεσο χρονοδιάγραμμα για την ευρεία επέκταση της πρόσβασης, αλλά ότι θα συνεργαστεί με την κυβέρνηση των ΗΠΑ και τους εταίρους της βιομηχανίας για να καθορίσει τα επόμενα βήματα. Ανέφερε ότι δέχθηκε κλήσεις από κυβερνήσεις, εταιρείες και άλλους οργανισμούς που αναζητούν πρόσβαση και πληροφορίες, αλλά ότι αυτοί οι οργανισμοί θα μπορούσαν να έχουν ποικίλα επίπεδα εμπειρογνωμοσύνης για να αξιολογήσουν με ασφάλεια ένα τόσο ισχυρό μοντέλο A.I..
Η Anthropic πρόσθεσε ότι αναμένει από άλλες ομάδες να κυκλοφορήσουν μοντέλα Tεχνητής Νοημοσύνης με παρόμοιες κυβερνοδυναμίες σε ευρύτερο επίπεδο εντός τουλάχιστον 18 μηνών, δίνοντας στους οργανισμούς περιορισμένο χρόνο για να κάνουν τις απαραίτητες διορθώσεις ασφαλείας.
Την Τρίτη, η Anthropic δήλωσε ότι διερευνά μια αναφορά ότι μη εξουσιοδοτημένοι χρήστες απέκτησαν πρόσβαση σε μια έκδοση του Mythos.
Η διαμάχη για το Mythos έρχεται σε μια στιγμή ελάχιστης διεθνούς συνεργασίας για την Τεχνητή Νοημοσύνη. Οι κυβερνήσεις βλέπουν η μία την άλλη με καχυποψία, καθώς οι εταιρείες αγωνίζονται να ξεπεράσουν τους ανταγωνιστές τους. Δεν υπάρχει ισοδύναμο της Συνθήκης για τη Μη Διάδοση των Πυρηνικών Όπλων, δεν υπάρχουν κοινές επιθεωρήσεις και δεν υπάρχουν συμφωνημένοι κανόνες για τον τρόπο χειρισμού κάτι σαν του Mythos.
Όταν η Anthropic ανακοίνωσε τη δημιουργία του νέου μοντέλου, πολλοί ειδικοί επαίνεσαν την προσοχή της εταιρείας στον περιορισμό τού ποιος μπορεί να δοκιμάσει το μοντέλο, αλλά εξέφρασαν ανησυχίες για την έλλειψη διεθνούς συντονισμού για την αντιμετώπιση του κινδύνου.
Η Βρετανία είναι το μόνο άλλο έθνος που απέκτησε πρόσβαση.
Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης, ένας οργανισμός που υποστηρίζεται από τη βρετανική κυβέρνηση, δοκίμασε το Mythos και δημοσίευσε μια ανεξάρτητη αξιολόγηση την περασμένη εβδομάδα, επιβεβαιώνοντας ότι θα μπορούσε να πραγματοποιήσει πολύπλοκες κυβερνοεπιθέσεις που κανένα προηγούμενο μοντέλο A.I. δεν έχει ολοκληρώσει.
«Αυτό αντιπροσωπεύει μια αναβάθμιση των δυνατοτήτων στον κυβερνοχώρο της Τεχνητής Νοημοσύνης», δήλωσε την περασμένη εβδομάδα στα μέσα κοινωνικής δικτύωσης ο Kanishka Narayan, υπουργός Τεχνητής Νοημοσύνης της Βρετανίας, λέγοντας ότι η χώρα λαμβάνει μέτρα για την προστασία «κρίσιμων εθνικών υποδομών».
Ωστόσο, άλλοι έλαβαν λιγότερες πληροφορίες. Η Ευρωπαϊκή Επιτροπή, το εκτελεστικό όργανο της Ευρωπαϊκής Ένωσης των 27 κρατών, έχει συναντηθεί με την Anthropic τουλάχιστον τρεις φορές από την κυκλοφορία του Mythos, δήλωσε αξιωματούχος της ΕΕ. Ωστόσο, η εταιρεία δεν έχει παράσχει πρόσβαση στο μοντέλο επειδή οι δύο πλευρές δεν έχουν συμφωνήσει για τον τρόπο κοινοποίησης του στην επιτροπή, δήλωσε ο αξιωματούχος.
Σε ανακοίνωσή της, η επιτροπή ανέφερε ότι «αξιολογεί πιθανές επιπτώσεις» του Mythos, το οποίο «επιδεικνύει πρωτοφανείς δυνατότητες στον κυβερνοχώρο».
Η Claudia Plattner, πρόεδρος της γερμανικής υπηρεσίας κυβερνοασφάλειας, γνωστής ως B.S.I., δήλωσε ότι δεν έχει λάβει πρόσβαση στο Mythos, αλλά συναντήθηκε πρόσφατα με υπαλλήλους της Anthropic στο Σαν Φρανσίσκο για την παροχή μιας «ουσιαστικής εικόνας» σχετικά με τον τρόπο λειτουργίας του. Οι δυνατότητες υποδεικνύουν «μια αλλαγή παραδείγματος στη φύση των κυβερνοαπειλών», ανέφερε η Plattner σε ανακοίνωσή της.
Μεταξύ των αντιπάλων των ΗΠΑ, η αντίδραση είναι πιο συγκρατημένη. Παρά την πρόσφατη σύγκρουση της Anthropic με την κυβέρνηση Trump, ο Amodei έχει καταστήσει σαφές ότι η Τεχνητή Νοημοσύνη θα πρέπει να χρησιμοποιείται για την υπεράσπιση των Ηνωμένων Πολιτειών και άλλων δημοκρατιών και την ήττα των αυταρχικών αντιπάλων.
Ούτε το Πεκίνο ούτε η Μόσχα έχουν κάνει κάποια σημαντική δημόσια δήλωση για το Mythos.
Εντός της Κίνας, οι ερευνητές και η ευρύτερη κοινότητα της Τεχνητής Νοημοσύνης παρακολουθούν στενά, σύμφωνα με αναλυτές που μελετούν την τεχνολογική κοινότητα της χώρας. Πολλές από τις τράπεζες, τις ενεργειακές εταιρείες και τις κυβερνητικές υπηρεσίες της χώρας χρησιμοποιούν το ίδιο λογισμικό στο οποίο βρήκε τρωτά σημεία το Mythos — αλλά προς το παρόν, δεν έχουν θέση στο τραπέζι.
«Για την Κίνα, νομίζω ότι αυτή είναι η δεύτερη αφύπνιση μετά το ChatGPT», δήλωσε ο Matt Sheehan, ανώτερος συνεργάτης στο Carnegie Endowment for International Peace. Πρόσθεσε ότι η πολιτική των ΗΠΑ να εμποδίσουν την Κίνα να αποκτήσει τους πιο εξελιγμένους ημιαγωγούς για την κατασκευή προηγμένων συστημάτων Α.Ι. βοηθά στην επέκταση του πρωτοποριακού ρόλου των ΗΠΑ.
Ορισμένοι ερευνητές Τεχνητής Νοημοσύνης στην Κίνα έχουν εκφράσει κατ’ ιδίαν την ανησυχία τους ότι η χώρα θα μπορούσε να μείνει περαιτέρω πίσω, χάνοντας τα πλεονεκτήματα που προκύπτουν από την κατασκευή ενός θεμελιώδους μοντέλου πρώτα, δήλωσε ο Jeffrey Ding, καθηγητής πολιτικών επιστημών στο Πανεπιστήμιο George Washington.
Ο Liu Pengyu, εκπρόσωπος της κινεζικής πρεσβείας στην Ουάσιγκτον, δήλωσε ότι η Κίνα δεν είναι εξοικειωμένη με τις λεπτομέρειες του Mythos, αλλά υποστηρίζει έναν ειρηνικό, ασφαλή και ανοιχτό κυβερνοχώρο.
Το Mythos είναι το πιο πρόσφατο σημάδι ενός αυξανόμενου παγκόσμιου χάσματος Τεχνητής Νοημοσύνης. Έθνη χωρίς ισχυρή υπολογιστική υποδομή και μοντέλα Τεχνητής Νοημοσύνη κινδυνεύουν να εξαρτηθούν από εταιρείες όπως η Anthropic, η Google και η OpenAI, ενώ παράλληλα έχουν ελάχιστη επιρροή στον τρόπο σχεδιασμού και προστασίας των προϊόντων και υπηρεσιών τους, δήλωσε ο Yeyati.
«Η ιδέα ότι η πρόσβαση στην πρωτοποριακή Τεχνητή Νοημοσύνη είναι κάτι που μια εταιρεία μπορεί να περιορίσει μονομερώς, χρησιμοποιώντας κριτήρια που είναι αδιαφανή, θα πρέπει να αποτελεί πραγματική ανησυχία», είπε.
