Ερευνητές στο Πανεπιστήμιο του Τορόντο υποστηρίζουν ότι βρήκαν έναν τρόπο να χρησιμοποιήσουν την Τεχνητή Νοημοσύνη προκειμένου να δημιουργήσουν ένα επικίνδυνο «σκουλήκι» («worm», αυτόνομο κακόβουλο λογισμικό) υπολογιστή ικανό να στοχεύσει οποιοδήποτε γνωστό ελάττωμα στους υπολογιστές όλου του κόσμου και να εξαπλώσει γρήγορα το χάος σε όλο το διαδίκτυο.
Οι επιστήμονες υπολογιστών ανέφεραν σε μια εργασία που δημοσιεύτηκε την Τρίτη το βράδυ ότι αυτό το πρόγραμμα θα μπορούσε πράγματι να κατασκευαστεί από κάποιους και ότι ένα πρωτότυπο που δημιούργησαν δοκιμάστηκε σε ένα δοκιμαστικό δίκτυο χωρίς ανθρώπινη παρέμβαση.
Οι ερευνητές διατήρησαν το δοκιμαστικό τους δίκτυο απομονωμένο από το δημόσιο διαδίκτυο. Επίσης, αφαίρεσαν ορισμένες λεπτομέρειες από την εργασία που περιέγραφε πώς κατασκεύασαν το «σκουλήκι», ώστε οι χάκερ να μην μπορούν να χρησιμοποιήσουν την εργασία ως σχέδιο για επιθέσεις.
Ωστόσο, η εργασία τους είναι πιθανό να εγείρει νέους φόβους ότι η Τεχνητή Νοημοσύνη οδηγεί σε μια νέα εποχή hacking υπολογιστών, από την οποία θα είναι δύσκολο να αμυνθεί κανείς. Προσθέτει επίσης στις αυξανόμενες ενδείξεις ότι οι εξελίξεις στην Τεχνητή Νοημοσύνη δημιουργούν κινδύνους για τα δίκτυα υπολογιστών, τους οποίους θα ήταν δύσκολο να φανταστεί κανείς πριν από λίγα χρόνια.
Η εταιρεία Τεχνητής Νοημοσύνης Anthropic δήλωσε τον Απρίλιο ότι η τελευταία της τεχνολογική ανακάλυψη, το Claude Mythos, είναι πολύ ισχυρή για να τη μοιραστεί δημόσια με το κοινό, επειδή οι χάκερ θα μπορούσαν να τη χρησιμοποιήσουν για να εκμεταλλευτούν τα κενά ασφαλείας στα δίκτυα υπολογιστών πιο γρήγορα από ό,τι μπορούσαν ποτέ πριν. Η Anthropic περιόρισε την κυκλοφορία του Claude Mythos σε περίπου 40 οργανισμούς που διατηρούν κρίσιμη υποδομή υπολογιστών, ώστε να μπορούν να χρησιμοποιήσουν το σύστημα για να διορθώσουν τα τρωτά σημεία ασφαλείας πριν οι χάκερ τα εκμεταλλευτούν.
Μια εβδομάδα αργότερα, η OpenAI, ο κύριος ανταγωνιστής της Anthropic, δήλωσε ότι περιορίζει την κυκλοφορία μιας παρόμοιας τεχνολογίας. Η OpenAI μοιράστηκε το νέο της σύστημα με εκατοντάδες οργανισμούς πριν επεκτείνει την κυκλοφορία σε χιλιάδες συνεργάτες της τις επόμενες εβδομάδες. (Οι New York Times μήνυσαν την OpenAI και τη Microsoft το 2023, ισχυριζόμενες παραβίαση πνευματικών δικαιωμάτων για περιεχόμενο ειδήσεων που σχετίζεται με συστήματα A.I.. Οι δύο εταιρείες έχουν αρνηθεί αυτούς τους ισχυρισμούς.)
Η εργασία του Πανεπιστημίου του Τορόντο προσθέτει μια νέα τροπή στους φόβους για την Τεχνητή Νοημοσύνη. Επειδή η τεχνολογία A.I. που τροφοδότησε το «σκουλήκι» ήταν «ανοιχτού κώδικα» ή «ανοιχτού βάρους» – που σημαίνει ότι έχει κοινοποιηθεί ελεύθερα στο διαδίκτυο – κανείς δεν μπορεί να περιορίσει τον τρόπο χρήσης της. Έτσι, είναι ξεκάθαρο πλέον ότι το τζίνι είναι έξω από το μπουκάλι.
Nicolas Papernot
«Πρέπει να έχετε ένα απόλυτα ασφαλές σύστημα για να αμυνθείτε ενάντια σε αυτό — και γνωρίζουμε ότι αυτό δεν είναι εφικτό προς το παρόν», δήλωσε ο Nicolas Papernot, καθηγητής μηχανικής υπολογιστών στο Πανεπιστήμιο του Τορόντο, ο οποίος ηγήθηκε της ομάδας που κατασκεύασε και δοκίμασε το πρωτότυπο.
Ο Dr. Papernot και η ομάδα του, η οποία δημοσίευσε την εργασία στον ιστότοπο του εργαστηρίου του, κατάφεραν να δημιουργήσουν αυτό που ουσιαστικά είναι μια έκδοση των «σκουληκιών» υπολογιστών με Τεχνητή Νοημοσύνη που οι χάκερ άρχισαν να απελευθερώνουν στο διαδίκτυο πριν από δύο δεκαετίες.
Σε αντίθεση με άλλα είδη ιών υπολογιστών, τα «σκουλήκια» εξαπλώνονταν από μηχανή σε μηχανή μόνα τους, χωρίς τη βοήθεια ανθρώπων.
Με ονόματα όπως SQL Slammer, Conficker και Stuxnet, καθένα από αυτά τα αυτοαναπαραγόμενα προγράμματα λογισμικού εκμεταλλεύονταν μια συγκεκριμένη ευπάθεια σε υπολογιστές, παίρνοντας τον έλεγχο εκατομμυρίων μηχανών, κλέβοντας τα δεδομένα τους, διαγράφοντας τα αρχεία τους και γενικά προκαλώντας χάος.
Μετά από μια δεκαετία επιθέσεων, πολλοί χρήστες υπολογιστών έμαθαν να επιδιορθώνουν γρήγορα τα πιο κραυγαλέα τρωτά τους σημεία. Αλλά η απειλή δεν εξαφανίστηκε ποτέ. Το 2017, ένα άλλο «σκουλήκι», το WannaCry, στόχευσε ένα άλλο σημαντικό ελάττωμα στα μηχανήματα όλου του κόσμου και μόλυνε πάνω από 300.000 σε 150 χώρες, παίρνοντας ομήρους τα δεδομένα τους και απαιτώντας πληρωμές λύτρων σε bitcoin.
Το πρωτότυπο που κατασκευάστηκε από τους ερευνητές του Τορόντο πηγαίνει αυτό το είδος αυτοαναπαραγόμενου «σκουληκιού» ένα βήμα παραπέρα. Μπορεί να εξαπλωθεί γρήγορα σε ένα δίκτυο προσαρμόζοντας μια νέα επίθεση για κάθε μηχάνημα που συναντά. Όπως το περιέγραψε ο Dr. Papernot, το «σκουλήκι» θα μπορούσε να «αποκτήσει λογική» μέσω νέων στρατηγικών επίθεσης.
«Αυτό καθιστά σημαντικά πιο δύσκολο να σταματήσει η εξάπλωση του κακόβουλου λογισμικού», είπε. «Δεν υπάρχει πλέον ούτε μία λύση μέσω λογισμικού που να μπορείτε να εφαρμόσετε στις συσκευές για να τις προστατεύσετε από το “σκουλήκι”».
Το «σκουλήκι» (κακόβουλο λογισμικό) θα μπορούσε να εκτελεστεί σε υπολογιστές που χρησιμοποιούν είτε το λειτουργικό σύστημα Windows είτε το Linux. Και παρόλο που το «σκουλήκι», λόγω της πολυπλοκότητάς του, δεν μπορεί να λειτουργήσει χωρίς να βρει ένα πιο ισχυρό μηχάνημα, θα μπορούσε να επιτεθεί σε λιγότερο ισχυρά μηχανήματα στο ίδιο δίκτυο, συμπεριλαμβανομένων φορητών υπολογιστών, εκτυπωτών και φωτογραφικών μηχανών.
Οι ειδικοί ασφαλείας δεν εκπλήσσονται που η Τεχνητή Νοημοσύνη μπορεί να προσαρμόσει τις επιθέσεις. Τον τελευταίο χρόνο, εταιρείες στις Ηνωμένες Πολιτείες, την Κίνα και άλλα μέρη του κόσμου έχουν κατασκευάσει συστήματα Τεχνητής Νοημοσύνης που είναι ιδιαίτερα καλά στη σύνταξη κώδικα υπολογιστή. Εάν ένα σύστημα Τεχνητής Νοημοσύνης μπορεί να γράψει κώδικα, μπορεί ενδεχομένως να εκμεταλλευτεί τρωτά σημεία σε εφαρμογές λογισμικού.
Ωστόσο, κορυφαία συστήματα από εταιρείες όπως η Anthropic και η OpenAI δεν είναι ανοιχτού κώδικα και, κατά πάσα πιθανότητα, είναι πολύ μεγάλα για να εκτελούνται σε πολλούς υπολογιστές. Πολλοί ειδικοί έχουν υποθέσει ότι οι τεχνολογίες Τεχνητής Νοημοσύνης ανοιχτού κώδικα δεν είναι αρκετά ισχυρές για να οδηγήσουν σε αυτοαναπαραγόμενα σκουλήκια υπολογιστών.
Τους τελευταίους μήνες, ωστόσο, εταιρείες και κυβερνητικά εργαστήρια, συμπεριλαμβανομένων αρκετών στην Κίνα, έχουν κυκλοφορήσει ολοένα και πιο ισχυρά συστήματα ανοιχτού κώδικα. Οι ερευνητές του Τορόντο βελτίωσαν ένα σύστημα ανοιχτού κώδικα με τρόπο που ενίσχυσε αυτές τις δυνάμεις.
Δεν έχουν αποκαλύψει δημόσια ποιο σύστημα ανοιχτού κώδικα χρησιμοποίησαν. Ωστόσο, λένε ότι το πρωτότυπο τους δείχνει ότι οι χάκερ θα μπορούσαν να κατασκευάσουν ένα παρόμοιο «σκουλήκι» – αν δεν το έχουν κάνει ήδη.
Ορισμένοι εξωτερικοί ειδικοί δήλωσαν ότι η απειλή μπορεί να είναι περιορισμένη επειδή τα συστήματα Τεχνητής Νοημοσύνης είναι επιρρεπή σε λάθη. «Συνήθως υπάρχει ένα σημαντικό χάσμα μεταξύ αυτού που μπορείτε να δημιουργήσετε σε εργαστηριακές συνθήκες και αυτού που μπορείτε να πετύχετε στον κόσμο για να δημιουργήσετε σημαντική ζημιά», δήλωσε ο Dan Lahav, διευθύνων σύμβουλος της Irregular, μιας εταιρείας ασφαλείας που ειδικεύεται σε απειλές από την A.I..
«Τα συστήματα Τεχνητής Νοημοσύνης τείνουν να είναι απρόβλεπτα και αδέξια», πρόσθεσε. «Κάνουν περίεργα πράγματα και αυτό μπορεί να ενεργοποιήσει άμυνες ασφαλείας».
Αλλά ο Lahav προειδοποίησε επίσης ότι η Τεχνητή Νοημοσύνη θα συνεχίσει να βελτιώνεται. Αυτό σημαίνει ότι οι εταιρείες πρέπει να επιδιορθώσουν όσο το δυνατόν περισσότερα τρωτά σημεία λογισμικού και μπορούν να χρησιμοποιήσουν την A.I. για να το κάνουν αυτό.
Για αυτόν τον λόγο, δήλωσαν οι ερευνητές, η Anthropic θα πρέπει να μοιραστεί το Mythos με μια ευρύτερη ομάδα, ώστε να μπορεί να χρησιμοποιηθεί για την καταπολέμηση των απειλών Τεχνητής Νοημοσύνης. Την Τρίτη, η Anthropic δήλωσε ότι θα μοιραστεί την τεχνολογία της με 150 επιπλέον οργανισμούς.
«Τελικά, η ευρύτερη διανομή — ώστε οι άνθρωποι να μπορούν να χρησιμοποιούν την τεχνολογία για να διορθώνουν τρωτά σημεία — είναι ο σωστός τρόπος», δήλωσε ο David Lie, καθηγητής πληροφορικής στο Πανεπιστήμιο του Τορόντο, ο οποίος αξιολόγησε την εργασία, αλλά δεν ήταν μέλος της ομάδας που κατασκεύασε το «σκουλήκι».
Οι μέθοδοι που περιγράφονται από τους ερευνητές του Πανεπιστημίου του Τορόντο μπορούν επίσης να χρησιμοποιηθούν για την εύρεση και την επιδιόρθωση τρωτών σημείων, δήλωσε ο Dr. Lie. Όπως κάθε άλλη τεχνολογία κυβερνοασφάλειας, το «σκουλήκι» τους μπορεί να χρησιμοποιηθεί τόσο για επίθεση όσο και για άμυνα.
«Κάποιος μπορεί να τροποποιήσει το “σκουλήκι” έτσι ώστε να διορθώνει τα τρωτά σημεία που βρίσκει», είπε. «Η ισχύς της τεχνολογίας εξαρτάται από το τι κάνετε με αυτήν».
