Η Anthropic διερευνά εάν μια ομάδα χρηστών απέκτησε μη εξουσιοδοτημένη πρόσβαση στο μοντέλο Claude Mythos, το οποίο κυκλοφόρησε μόνο σε μια χούφτα αξιόπιστων εταιρειών λόγω των προηγμένων δυνατοτήτων του στον τομέα της κυβερνοασφάλειας. Πρόκειται για την τρομακτική φάση της Τεχνητής Νοημοσύνης, ένα μοντέλο που θεωρείται τόσο ισχυρό που η πλήρης απελευθέρωσή του θα μπορούσε να προκαλέσει ανείπωτη καταστροφή. Έτσι, μόνο προσεκτικά ελεγμένες εταιρείες και οργανισμοί, περίπου 40 μέχρι στιγμής, έχουν πρόσβαση σε αυτό.
Συγκεκριμένα, το εργαστήριο Τεχνητής Νοημοσύνης δήλωσε την Τρίτη ότι εξετάζει αναφορές ότι μια ομάδα ατόμων είχε πρόσβαση στο μοντέλο μέσω ενός συστήματος που έχει οριστεί για τρίτες εταιρείες που εργάζονται για την Anthropic.
«Διερευνούμε μια αναφορά που ισχυρίζεται μη εξουσιοδοτημένη πρόσβαση στο Claude Mythos Preview μέσω ενός από τα περιβάλλοντα τρίτων προμηθευτών μας» ανέφερε σε δήλωση της η εταιρεία.
Το περιστατικό εγείρει ανησυχίες σχετικά με το εάν το εργαστήριο Τεχνητής Νοημοσύνης, αξίας 380 δισεκατομμυρίων δολαρίων, μπορεί να διατηρήσει την τεχνολογία που αναπτύσσει μακριά από τα χέρια κακών παραγόντων.
Η Anthropic περιόρισε την κυκλοφορία του Claude Mythos Preview σε μια μικρή ομάδα αξιόπιστων εταιρειών τεχνολογίας, επικαλούμενη τον κίνδυνο να κάνουν κακή χρήση του μοντέλου άτομα προκειμένου να διεξάγουν κυβερνοεπιθέσεις σε κλίμακα και ταχύτητα πέρα από τις ανθρώπινες δυνατότητες.
Ο κίνδυνος μη εξουσιοδοτημένης πρόσβασης θα προσθέσει στο άγχος για το Mythos, το οποίο έχει προκαλέσει σοκ στις αγορές και συζητήσεις υψηλού επιπέδου μεταξύ χρηματοπιστωτικών ιδρυμάτων και παγκόσμιων ρυθμιστικών αρχών.
Ένα από τα άτομα που απέκτησαν μη εξουσιοδοτημένη πρόσβαση μπόρεσε να χρησιμοποιήσει τα δικαιώματά του ως ανάδοχος για την Anthropic προκειμένου να αξιοποιήσει το Mythos, σύμφωνα με το Bloomberg, το οποίο ανέφερε πρώτο το περιστατικό.
Η Anthropic δήλωσε ότι δεν έχει στοιχεία δραστηριότητας που να εκτείνονται πέρα από το «περιβάλλον του προμηθευτή», το οποίο χρησιμοποιούν τρίτα μέρη για την πρόσβαση σε συστήματα για την ανάπτυξη μοντέλων.
Τα εργαστήρια Τεχνητής Νοημοσύνης χρησιμοποιούν συνήθως τρίτους αναδόχους για εργασίες όπως η δοκιμή μοντέλων, αν και δεν είναι σαφές ποιος προμηθευτής εμπλέκεται στο περιστατικό.
Η Anthropic λάνσαρε το Mythos νωρίτερα αυτόν τον μήνα σε εταιρείες όπως οι Amazon, Microsoft, Apple, Cisco και CrowdStrike.
Η εταιρεία με έδρα το Σαν Φρανσίσκο δήλωσε ότι αυτοί οι συνεργάτες θα είναι σε θέση να ανιχνεύουν και να ασφαλίζουν τις ευπάθειες στον κυβερνοχώρο, χρησιμοποιώντας τις προηγμένες δυνατότητες του Mythos πριν το μοντέλο κυκλοφορήσει στο κοινό.
Οι ειδικοί ασφαλείας έχουν προειδοποιήσει ότι, σε λάθος χέρια, οι χάκερ θα μπορούσαν να εκμεταλλευτούν σφάλματα πιο γρήγορα από ό,τι μπορούν να τα διορθώσουν οι οργανισμοί.
Οι διαδικασίες ασφαλείας της Anthropic έχουν τεθεί υπό έντονο έλεγχο μετά την ανακάλυψη περιγραφών του μοντέλου, συμπεριλαμβανομένου του ονόματός του, σε μια δημόσια προσβάσιμη προσωρινή μνήμη δεδομένων τον Μάρτιο. Το εργαστήριο τεχνητής νοημοσύνης το απέδωσε σε ανθρώπινο λάθος.
Νωρίτερα αυτόν τον μήνα, δημοσιοποιήθηκε επίσης εσωτερικός πηγαίος κώδικας για τον βοηθό προγραμματισμού της εταιρείας, Claude Code, σε ένα δεύτερο περιστατικό.
Πέρα από τις τρομερές δυνατότητες στον τομέα της κυβερνοασφάλειας του Mythos, το μοντέλο είναι πολύ καλύτερο στον προγραμματισμό, πολύ ανώτερο στο να δίνει ιδιαίτερη προσοχή στις ανησυχίες, τα ενδιαφέροντα και τις προτεραιότητες του πελάτη – και είναι ακόμη και πολύ πιο χαρισματικό από τους προκατόχους του.
Ο Logan Graham της Anthropic, πρώην υπότροφος Rhodes που ηγείται της ομάδας Frontier Red, η οποία υποβάλλει σε δοκιμές αντοχής νέα γλωσσικά μοντέλα A.I., ανέφερε στο Axios ότι η βιομηχανία πρέπει να επανεξετάσει τις μελλοντικές κυκλοφορίες όλων των μοντέλων Τεχνητής Νοημοσύνης, δεδομένων των νέων και επερχόμενων δυνατοτήτων.
Φανταστείτε λοιπόν την ισχύ επιπέδου Mythos στα χέρια του ιρανικού καθεστώτος εν μέσω ενός θερμού πολέμου ή τον ρωσικό στρατό καθώς προσπαθεί να αποδεκατίσει την Ουκρανία.
Αυτός είναι ο κύριος λόγος για τον οποίο η αμερικανική κυβέρνηση και οι εταιρείες Τεχνητής Νοημοσύνης τρέχουν τόσο γρήγορα προς μια τεχνολογία τόσο ισχυρή και δυνητικά επικίνδυνη. Αυτοί οι αξιωματούχοι φοβούνται ότι η Κίνα, οπλισμένη με ανώτερη Τεχνητή Νοημοσύνη, θα μπορούσε να αποτελέσει υπαρξιακή απειλή για την κυριαρχία των ΗΠΑ.
«Ένας εχθρός θα μπορούσε να μας απλώσει το χέρι και να μας αγγίξει με έναν τρόπο που δεν μπορεί ή δεν θέλει με επιχειρήσεις πεδίου μάχης», είπε μια πηγή κοντά στο Πεντάγωνο στο Axios τον περασμένο μήνα.
«Για τους περισσότερους Αμερικανούς, ο πόλεμος στο Ιράν είναι “εκεί πέρα”. Με μια κυβερνοεπίθεση, είναι ακριβώς εδώ».
