Οι επικεφαλής ορισμένων από τις μεγαλύτερες τράπεζες της Αμερικής προειδοποιήθηκαν από έναν κορυφαίο Αμερικανό κυβερνητικό αξιωματούχο αυτή την εβδομάδα για ένα νέο μοντέλο Τεχνητής Νοημοσύνης από την Anthropic που θα μπορούσε να οδηγήσει σε αυξημένους κινδύνους κυβερνοεπιθέσεων, σύμφωνα με τρία άτομα που ενημερώθηκαν για το θέμα, αλλά δεν τους επιτράπηκε να μιλήσουν δημόσια.
Ο Αμερικανός υπουργός Οικονομικών Scott Bessent έδωσε το αυστηρό μήνυμα το πρωί της Τρίτης σε μια μικρή ομάδα διευθύνοντων στελεχών, συμπεριλαμβανομένων εκείνων από την Bank of America, την Citi και την Wells Fargo, σε μια βιαστικά προγραμματισμένη συνάντηση στην Ουάσινγκτον. Ο Bessent, ανέφεραν οι πηγές, προειδοποίησε τις τράπεζες ότι η δυνατότητα εκτέλεσης του νέου λογισμικού Τεχνητής Νοημοσύνης μέσω των εσωτερικών συστημάτων υπολογιστών τους θα μπορούσε να θέσει σε σοβαρό κίνδυνο τα ευαίσθητα δεδομένα των πελατών.
Ο πρόεδρος της Ομοσπονδιακής Τράπεζας, Jerome H. Powell, ο οποίος έχει μιλήσει δημόσια τις τελευταίες εβδομάδες για την απειλή κυβερνοεπιθέσεων κατά του χρηματοπιστωτικού συστήματος, παρευρέθηκε επίσης στη συνάντηση της Τρίτης.
Οι προειδοποιήσεις σχετίζονται με ένα νέο μοντέλο πληροφοριών που η Anthropic ονόμασε Claude Mythos Preview. Η Anthropic έχει δηλώσει ότι το μοντέλο είναι ιδιαίτερα καλό στον εντοπισμό τρωτών σημείων ασφαλείας σε λογισμικό, τα οποία οι προγραμματιστές δεν μπορούν να βρουν.
Στη συνάντηση της Τρίτης, τα στελέχη των τραπεζών ενημερώθηκαν ότι το νέο μοντέλο μπορεί να είναι τόσο αποτελεσματικό στην εύρεση αδυναμιών ασφαλείας εντός των τραπεζών, ώστε χάκερ ή άλλοι λεγόμενοι τρίτοι κακόβουλοι παράγοντες να μπορούν να αποκτήσουν πρόσβαση στις πληροφορίες και να τις εκμεταλλευτούν.
Η ίδια η Anthropic προειδοποίησε για τους κινδύνους. Η εταιρεία δήλωσε αυτή την εβδομάδα ότι η εξέλιξη του μοντέλου είναι τόσο σοβαρή και δυνητικά επικίνδυνη που δεν μπορούν να δημοσιοποιήσουν τα ευρήματα τους και ότι θα περιοριστούν σε έναν συνασπισμό 40 εταιρειών που ονόμασαν «Project Glasswing».
Αυτή η ομάδα περιλαμβάνει τουλάχιστον μία τράπεζα, την JPMorgan Chase, τη μεγαλύτερη της χώρας, η οποία νωρίτερα δήλωσε ότι θα χρησιμοποιούσε το λογισμικό «για να αξιολογήσει εργαλεία τεχνητής νοημοσύνης επόμενης γενιάς για αμυντική κυβερνοασφάλεια σε κρίσιμες υποδομές».
Ο Jamie Dimon, διευθύνων σύμβουλος της JPMorgan, προσκλήθηκε στην ενημέρωση της Τρίτης, αλλά απείχε εξαιτίας προγραμματισμένων ταξιδιών του, σύμφωνα με ένα άτομο που γνωρίζει το θέμα.
Η κυβέρνηση Trump και η Anthropic βρίσκονται σε μια νομική διαμάχη σχετικά με τον πρόσφατο χαρακτηρισμό της εταιρείας ως «κινδύνου της εφοδιαστικής αλυσίδας» από το Υπουργείο Άμυνας. Η κυβέρνηση εξέδωσε αυτόν τον χαρακτηρισμό αφού η Anthropic επέμεινε να θέσει όρια στη χρήση της τεχνολογίας τεχνητής νοημοσύνης της στον πόλεμο.
Σε μια δήλωση, ένας εκπρόσωπος του Υπουργείου Οικονομικών δήλωσε: «Η συνάντηση αυτής της εβδομάδας συγκλήθηκε από τον Υπουργό Bessent για να ξεκινήσει μια διαδικασία σχεδιασμού και συντονισμού της προσέγγισής μας στις ραγδαίες εξελίξεις που λαμβάνουν χώρα στην Τεχνητή Νοημοσύνη».
Η ύπαρξη της συνάντησης αναφέρθηκε νωρίτερα από το Bloomberg News. Η Fed αρνήθηκε να σχολιάσει.
«Λαμβάνουμε κάθε δυνατό βήμα για να διασφαλίσουμε ότι όλοι είναι ασφαλείς από αυτούς τους πιθανούς κινδύνους, συμπεριλαμβανομένης της συμφωνίας της Anthropic να καθυστερήσει τη δημόσια δημοσίευση του μοντέλου μέχρι οι αξιωματούχοι μας να καταλάβουν τα πάντα», δήλωσε ο Kevin A. Hassett, διευθυντής του Εθνικού Οικονομικού Συμβουλίου, στο Fox News την Παρασκευή. «Υπάρχει σίγουρα μια αίσθηση επείγοντος».
Ο Logan Graham, στέλεχος της Anthropic, δήλωσε σε ανακοίνωσή του ότι η νέα τεχνολογία θα βοηθήσει «στην ασφάλεια των υποδομών που είναι κρίσιμες για την παγκόσμια ασφάλεια και την οικονομική σταθερότητα».
Η Anthropic, η αμερικανική εταιρεία Τεχνητής Νοημοσύνης με έδρα το San Francisco, ξεκίνησε μια αυστηρά ελεγχόμενη κυκλοφορία του Mythos, του πρώτου μοντέλου A.I. που αξιωματούχοι πιστεύουν ότι είναι ικανό να καταστρέψει μια εταιρεία Fortune 100, να παραλύσει μεγάλα τμήματα του διαδικτύου ή να διεισδύσει σε ζωτικά εθνικά αμυντικά συστήματα.
Πρόκειται για την τρομακτική φάση της Τεχνητής Νοημοσύνης, ένα μοντέλο που θεωρείται τόσο ισχυρό που η πλήρης απελευθέρωσή του θα μπορούσε να προκαλέσει ανείπωτη καταστροφή. Έτσι, μόνο προσεκτικά ελεγμένες εταιρείες και οργανισμοί, περίπου 40 μέχρι στιγμής, έχουν πρόσβαση σε αυτό.
Με βάση τις συνομιλίες του Axios με κυβερνητικούς και ιδιωτικούς αξιωματούχους των ΗΠΑ που ενημερώθηκαν για το Mythos, δεν πρόκειται για υπερβολή. Είναι πραγματικότητα. Κάποιοι μέσα στην αμερικανική κυβέρνηση φοβούνται ότι οι περισσότεροι κορυφαίοι ηγέτες αγνοούν τον ξαφνικό κίνδυνο από τρομοκράτες ή εχθρικές δυνάμεις.
«Η Ουάσινγκτον κυβερνά με βάση την εξέλιξη κάποιας κρίσης», δήλωσε μια πηγή που ενημερώθηκε για το Mythos. «Μέχρι όμως να πάμε σε κρίση και λάβει την προσοχή και τους πόρους που της αξίζει, ο κυβερνοχώρος είναι κάπως οπισθοδρομικός».
Σκεφτείτε το Mythos ως ένα γενεαλογικό άλμα πέρα από τα υπάρχοντα μοντέλα της Anthropic. Πρόκειται για μια Τεχνητή Νοημοσύνη ικανή όχι μόνο να εντοπίζει αδυναμίες στα συστήματα ασφαλείας, αλλά και να τις εκμεταλλεύεται με αυτόνομη, πρωτοφανή ακρίβεια. Σχεδιάζει και εκτελεί ακολουθίες επιθέσεων μόνη της, κινούμενη σε συστήματα χωρίς να περιμένει ανθρώπινη κατεύθυνση.
Ανακοινώνοντας την αυστηρά περιορισμένη κυκλοφορία του Mythos την Τρίτη, η Anthropic αποκάλυψε ότι κατά τη διάρκεια των δοκιμών, το μοντέλο βγήκε από το περιβάλλον δοκιμών «sandbox» και δημιούργησε ένα «μέτρια εξελιγμένο πολυβηματικό exploit» για να κατακτήσει το διαδίκτυο, ενώ υποτίθεται ότι είχε πρόσβαση μόνο σε ορισμένες υπηρεσίες.
Το μοντέλο επέδειξε μια «δυνητικά επικίνδυνη ικανότητα παράκαμψης των μέτρων ασφαλείας μας», αποκάλυψε η Anthropic. «Ο ερευνητής ανακάλυψε αυτήν την επιτυχία λαμβάνοντας ένα απροσδόκητο email από το μοντέλο ενώ έτρωγε ένα σάντουιτς σε ένα πάρκο».
Πέρα από τις τρομερές δυνατότητες στον τομέα της κυβερνοασφάλειας του Mythos, το μοντέλο είναι πολύ καλύτερο στον προγραμματισμό, πολύ ανώτερο στο να δίνει ιδιαίτερη προσοχή στις ανησυχίες, τα ενδιαφέροντα και τις προτεραιότητες του πελάτη – και είναι ακόμη και πολύ πιο χαρισματικό από τους προκατόχους του.
Ο Logan Graham της Anthropic, πρώην υπότροφος Rhodes που ηγείται της ομάδας Frontier Red, η οποία υποβάλλει σε δοκιμές αντοχής νέα γλωσσικά μοντέλα A.I., μας είπε ότι η βιομηχανία πρέπει να επανεξετάσει τις μελλοντικές κυκλοφορίες όλων των μοντέλων Τεχνητής Νοημοσύνης, δεδομένων των νέων και επερχόμενων δυνατοτήτων.
Φανταστείτε λοιπόν την ισχύ επιπέδου Mythos στα χέρια του ιρανικού καθεστώτος εν μέσω ενός θερμού πολέμου ή τον ρωσικό στρατό καθώς προσπαθεί να αποδεκατίσει την Ουκρανία.
Αυτός είναι ο κύριος λόγος για τον οποίο η αμερικανική κυβέρνηση και οι εταιρείες Τεχνητής Νοημοσύνης τρέχουν τόσο γρήγορα προς μια τεχνολογία τόσο ισχυρή και δυνητικά επικίνδυνη. Αυτοί οι αξιωματούχοι φοβούνται ότι η Κίνα, οπλισμένη με ανώτερη Τεχνητή Νοημοσύνη, θα μπορούσε να αποτελέσει υπαρξιακή απειλή για την κυριαρχία των ΗΠΑ.
«Ένας εχθρός θα μπορούσε να μας απλώσει το χέρι και να μας αγγίξει με έναν τρόπο που δεν μπορεί ή δεν θέλει με επιχειρήσεις πεδίου μάχης», μας είπε μια πηγή κοντά στο Πεντάγωνο. «Για τους περισσότερους Αμερικανούς, ο πόλεμος στο Ιράν είναι “εκεί πέρα”. Με μια κυβερνοεπίθεση, είναι ακριβώς εδώ».
Το νέο μοντέλο, Claude Mythos Preview, βρίσκεται τώρα στα χέρια περίπου 40 οργανισμών που κατασκευάζουν ή συντηρούν κρίσιμο λογισμικό και υποδομές. Η Anthropic παρέχει περιορισμένη πρόσβαση στο Mythos ως τρόπο να δώσει στους υπερασπιστές της Αμερικής ένα προβάδισμα, πριν παρόμοιες δυνατότητες γίνουν διαθέσιμες σε ολόκληρο τον κλάδο κατά το επόμενο έτος.
Η Anthropic παρουσίασε επίσης το Project Glasswing, το οποίο έχει σχεδιαστεί για να ενθαρρύνει τις εταιρείες να μοιραστούν τις γνώσεις τους καθώς εφαρμόζουν το Mythos Preview στην κυβερνοάμυνα. Στους συνεργάτες κυκλοφορίας περιλαμβάνονται οι Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA και Palo Alto Networks.
Η Anthropic έχει ενημερώσει αρκετές κυβερνητικές υπηρεσίες για το Mythos, παρά τον νομικό πόλεμο της εταιρείας με το Πεντάγωνο, αφού μπήκε στη μαύρη λίστα επειδή απαίτησε περιορισμούς στη στρατιωτική χρήση του γλωσσικού μοντέλου Claude.
Η ελεγχόμενη κυκλοφορία του Mythos θα μπορούσε να είναι το σχέδιο για μελλοντικές κυκλοφορίες μοντέλων, με τις εταιρείες A.I. να παρέχουν πρόσβαση σε επιλεγμένους συνεργάτες που θεωρούνται αρκετά ασφαλείς ώστε να δοκιμάσουν συστήματα που αλλάζουν τον κόσμο.
Άλλες εταιρείες τεχνητής νοημοσύνης σύντομα θα φτάσουν το Mythos – όχι μόνο εδώ, αλλά και στην Κίνα και αλλού.
Μια ομάδα που χρηματοδοτείται από το κινεζικό κράτος χρησιμοποίησε ήδη ένα προηγούμενο μοντέλο Claude για να στοχεύσει περίπου 30 οργανισμούς σε μια συντονισμένη επίθεση πριν το εντοπίσει η Anthropic.
Συμπέρασμα; Πλησιάζει γρήγορα η ώρα προκειμένου όλος ο εταιρικός κόσμος και όλες οι κυβερνήσεις να επιβάλλεται να είναι προετοιμασμένες να προστατευτούν από χάκερ με υπεράνθρωπες δυνάμεις. Το παράθυρο για να προλάβουμε όλο αυτό κλείνει γρήγορα. Οι περισσότεροι με θέσεις εξουσίας δεν είναι καν έτοιμοι.
