Η New York Post μόλις κατονόμασε την WOKE ομάδα που η Silicon Valley θέλει να έχει τον έλεγχο της Τεχνητής Νοημοσύνης.
Δεν πρόκειται για το Κογκρέσο. Ούτε για τους ψηφοφόρους. Πρόκειται για μια οργάνωση της άκρας αριστεράς που πρεσβεύει τον «Αποτελεσματικό Αλτρουισμό» (Effective Altruism) και ονομάζεται METR.
Ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, υποστηρίζει ότι τα άτομα αυτά θα πρέπει να έχουν πρόσβαση —αντίστοιχη με εκείνη των εργαζομένων— στα ισχυρότερα μοντέλα τεχνητής νοημοσύνης στον πλανήτη. Το πρόβλημα είναι ότι δεν είναι ανεξάρτητοι. Στην ομάδα περιλαμβάνονται ο παλιός συγκατοικος του Amodei, η σύζυγος του εν λόγω συγκατοίκου, καθώς και προσωπικό που χρηματοδοτείται από τους ίδιους μεγάλους δωρητές του Δημοκρατικού Κόμματος οι οποίοι έχουν ήδη επενδύσει στην Anthropic.
Αυτό δεν συνιστά μηχανισμό ελέγχου. Πρόκειται για τον ίδιο κύκλο ανθρώπων που βαθμολογεί τη δική του εργασία.
Αν μια τράπεζα προσλάμβανε φίλους της ως ελεγκτές, η κυβέρνηση θα την έκλεινε. Όταν όμως πρόκειται για την Τεχνητή Νοημοσύνη, θέλουν η Αμερική να χειροκροτεί. Εμείς δεν θα έπρεπε να το κάνουμε.
Γνωρίστε τους παγκοσμιοποιητές με έντονη «woke» ιδεολογία που επέλεξε προσωπικά ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, πιστεύοντας ότι θα μας σώσουν από μια αποκάλυψη που θα προκαλέσει η Τεχνητή Νοημοσύνη
Ανησυχείτε για το τι θα επιφέρει η Τεχνητή Νοημοσύνη στον κόσμο; Μην ανησυχείτε — έχουμε μια ομάδα «woke» ελιτιστών που θα μας προστατεύσουν.
Αυτό είναι το επιχείρημα του διευθύνοντος συμβούλου της Anthropic, Dario Amodei, ο οποίος δηλώνει ότι βρήκε μια εξωτερική ομάδα ικανή να ρυθμίσει την Τεχνητή Νοημοσύνη και να διασφαλίσει ότι δεν θα καταστρέψει τον κόσμο.
Πρόκειται για μια ομάδα παγκοσμιοποιητών που πιστεύουν στα ανοιχτά σύνορα και στις αντισυμβατικές αντωνυμίες φύλου, προωθούν τον «Αποτελεσματικό Αλτρουισμό» (Effective Altruism) και πιστεύουν ότι όλα τα προβλήματα του κόσμου μπορούν να λυθούν με την τεχνολογία.
Σε ένα άρθρο-βόμβα με τίτλο «We Must Pace the Frontier» (Πρέπει να ρυθμίσουμε τον ρυθμό εξέλιξης της τεχνολογίας αιχμής), ο Amodei υποστήριξε ότι οι κορυφαίες εταιρείες Τεχνητής Νοημοσύνης θα πρέπει να δεσμευτούν ότι θα επιτρέπουν την παρουσία «ενσωματωμένων αξιολογητών τρίτων μερών» από έναν μη κερδοσκοπικό οργανισμό με την ονομασία Model Evaluation and Threat Research (METR). Αυτοί οι αξιολογητές θα είχαν πρόσβαση αντίστοιχη με εκείνη των εργαζομένων, ώστε να επιβλέπουν τις προσπάθειες για την ασφάλεια και να διασφαλίζουν ότι τα προηγμένα μοντέλα Τεχνητής Νοημοσύνης δεν θα μετατραπούν σε «Εξολοθρευτές» (Terminator) αφανίζοντας την ανθρωπότητα.
Οι επίδοξοι «John Connor» της METR ισχυρίζονται ότι είναι πλήρως ανεξάρτητα, ωστόσο η ομάδα συνδέεται άμεσα με βασικές προσωπικότητες του κινήματος του «Αποτελεσματικού Αλτρουισμού» — στους οπαδούς του οποίου, με έδρα τη Silicon Valley, συγκαταλεγόταν κάποτε ο έκπτωτος μεγιστάνας των κρυπτονομισμάτων Sam Bankman-Fried, ένας από τους σημαντικότερους αρχικούς επενδυτές της Anthropic.
Ο «Αποτελεσματικός Αλτρουισμός» (Effective Altruism) —μια φιλοσοφία που έχει κερδίσει έδαφος μεταξύ των πανίσχυρων ηγετών της τεχνολογίας στη Silicon Valley— υποστηρίζει τη χρήση της λογικής, καθώς και των περιουσιών που έχουν συσσωρεύσει τα κορυφαία μυαλά του κλάδου, για την επίτευξη του μέγιστου δυνατού καλού για την ανθρωπότητα σε μακροπρόθεσμο ορίζοντα.
Στο παρελθόν, η φιλοσοφία αυτή έχει χρησιμοποιηθεί για να δικαιολογήσει τη συσσώρευση όσο το δυνατόν μεγαλύτερου πλούτου, με το σκεπτικό ότι έτσι θα είναι εφικτή η πραγματοποίηση μεγαλύτερων δωρεών αργότερα για το κοινό καλό. Ωστόσο, το κίνημα υπέστη σοβαρό πλήγμα στη φήμη του όταν η αυτοκρατορία κρυπτονομισμάτων ενός εκ των διασημότερων υποστηρικτών του, του Bankman-Fried, κατέρρευσε εν μέσω κατηγοριών για απάτη που οδήγησαν τον ίδιο στη φυλακή.
Ισχυροί δεσμοί με τον Αποτελεσματικό Αλτρουισμό
Σύμφωνα με τους επικριτές, η αλληλεπικάλυψη μεταξύ του οργανισμού METR και της εταιρείας Anthropic εγκυμονεί σοβαρούς κινδύνους σύγκρουσης συμφερόντων.
Ο METR προέκυψε ως ανεξάρτητος οργανισμός από μια θερμοκοιτίδα τεχνολογικών εγχειρημάτων που πρόσκειται στον Αποτελεσματικό Αλτρουισμό, το Alignment Research Center (ARC), επικεφαλής του οποίου είναι ο ερευνητής τεχνητής νοημοσύνης Paul Christiano. Ο Christiano υπήρξε συγκάτοικος, συνάδελφος και συνεργάτης του Amodei στην έρευνα κατά τη διάρκεια της δεκαετίας του 2010, όταν εργάζονταν και οι δύο στην OpenAI — τον βασικότερο ανταγωνιστή της Anthropic.
Στα στελέχη της METR περιλαμβάνεται η Ajeya Cotra, σύζυγος του Christiano, η οποία έχει διαδραματίσει σημαντικό ρόλο στην οργάνωση δράσεων στον χώρο του «Αποτελεσματικού Αλτρουισμού» (Effective Altruism – EA).
Ιδρύτρια και Διευθύνουσα Σύμβουλος της ομάδας είναι η Beth Barnes, η οποία προσλήφθηκε από τον Christiano και δραστηριοποιούνταν στο κίνημα του EA ήδη από τα φοιτητικά της χρόνια.
Ο επικεφαλής επιστήμονας Hjalmar Wijk, καθώς και τα στελέχη Megan Kinniment και Pip Arnott, προέρχονται όλοι από την ίδια ερευνητική ομάδα του Πανεπιστημίου της Οξφόρδης — έναν βασικό «τροφοδότη» στελεχών για τον χώρο του EA-(Effective Altruism.
Σε επικοινωνία που είχαν μαζί του, εκπρόσωπος της METR παραδέχτηκε ότι ο μη κερδοσκοπικός οργανισμός παρουσιάζει σημαντική επικάλυψη με το κίνημα του Αποτελεσματικού Αλτρουισμού, επέμεινε ωστόσο ότι οι εργαζόμενοί του διαθέτουν ένα ευρύ φάσμα ιδεολογικών απόψεων. Υποχρεούνται να γνωστοποιούν τυχόν συγκρούσεις συμφερόντων, όπως για παράδειγμα την κατοχή μετοχών σε εταιρείες τις οποίες καλούνται να ερευνήσουν.
«Δεν θεωρούμε ότι μια μικρή ομάδα θα πρέπει να έχει τον έλεγχο των εξελίξεων γύρω από την Τεχνητή Νοημοσύνη· στόχος μας είναι να φέρουμε στο φως της δημοσιότητας πληροφορίες που προέρχονται από το εσωτερικό αυτών των εταιρειών, καθώς οι εξωτερικοί ερευνητές μπορούν να συμβάλουν στην αποκάλυψη περισσότερων στοιχείων», ανέφερε σε δήλωσή του εκπρόσωπος της METR.
«Οι χρηματοδότες μας δεν έχουν λόγο στα έργα με τα οποία ασχολούμαστε και δεν δεχόμαστε καμία χρηματοδότηση από εταιρείες τεχνητής νοημοσύνης ή τους υπαλλήλους τους».
Ο Amodei, ο οποίος έχει δεσμευτεί να διαθέσει για φιλανθρωπικούς σκοπούς το 80% της προσωπικής του περιουσίας, διατηρεί στενούς δεσμούς με το κίνημα του Αποτελεσματικού Αλτρουισμού (EA). Η αδελφή του, Daniela, παντρεύτηκε τον Holden Karnofsky, ιδρυτή δύο σημαντικών μη κερδοσκοπικών οργανισμών που συνδέονται με το κίνημα αυτό.
Η εμπλοκή του METR είναι πιθανό να αποτελέσει εμπόδιο για την κυβέρνηση Τrump, η οποία διατηρεί τεταμένες σχέσεις με την Anthropic τον τελευταίο χρόνο, ενώ παράλληλα έχει εκφράσει έντονο σκεπτικισμό απέναντι στους λεγόμενους «κινδυνολόγους» (doomers) της τεχνητής νοημοσύνης, οι οποίοι υποστηρίζουν ότι η εν λόγω τεχνολογία βρίσκεται στα πρόθυρα μιας καταστροφής.
«Το METR είναι ουσιαστικά η Anthropic με άλλη μορφή», δήλωσε την Τρίτη στην εφημερίδα The Post πηγή που γνωρίζει τις θέσεις του Λευκού Οίκου.
Συγκέντρωση κεφαλαίων ύψους πολλών εκατομμυρίων δολαρίων
Οι ένθερμοι υποστηρικτές του «Αποτελεσματικού Αλτρουισμού» (Effective Altruism) πιστεύουν στη διοχέτευση του πλούτου τους προς τους στόχους που θεωρούν σημαντικότερους για την ανθρωπότητα, συμπεριλαμβανομένης της αντιμετώπισης της κλιματικής αλλαγής (!) και της αυστηρής ρύθμισης της τεχνητής νοημοσύνης (AI).
Από την ίδρυσή της, η METR και οι συνδεδεμένες με αυτήν οντότητες έχουν λάβει χρηματοδότηση από κορυφαίες προσωπικότητες του κινήματος, όπως ο Dustin Moskovitz —μεγάλος δωρητής του Δημοκρατικού Κόμματος— και ο Jaan Tallinn, συνιδρυτής του Skype· αμφότεροι είναι επενδυτές στην εταιρεία Anthropic.
Τον Αύγουστο, η METR ανακοίνωσε ότι συγκέντρωσε 71 εκατομμύρια δολάρια σε νέα χρηματοδότηση από εξωτερικούς επενδυτές κατά τη διάρκεια του προηγούμενου εξαμήνου.
Το Survival and Flourishing Fund του Tallinn, ένας φιλανθρωπικός οργανισμός, έχει δεσμεύσει ποσό έως και 752.000 δολαρίων για τη στήριξη της METR από την ίδρυσή της, ποσό που περιλαμβάνει 324.000 δολάρια σε άμεση χρηματοδότηση και μια δέσμευση για ισόποση συνεισφορά (matching pledge) ύψους 428.000 δολαρίων, σύμφωνα με δημόσια διαθέσιμα στοιχεία.
Παράλληλα, ο οργανισμός Coefficient Giving του Moskovitz —γνωστός παλαιότερα ως Open Philanthropy, πριν από μια βιαστική αλλαγή επωνυμίας πέρυσι— διέθεσε 1.515.000 δολάρια στην θερμοκοιτίδα της METR, την ARC, το 2022. Η METR ήταν αρχικά γνωστή ως ARC Evals, προτού αυτονομηθεί ως ανεξάρτητος μη κερδοσκοπικός οργανισμός και υιοθετήσει τη σημερινή της ονομασία το 2023.
Ο οργανισμός METR δεν λαμβάνει καμία αμοιβή από εργαστήρια τεχνητής νοημοσύνης (AI) για το έργο του, ούτε δέχεται δωρεές από στελέχη ή υπαλλήλους εταιρειών AI, δήλωσε αξιωματούχος του METR. Όσον αφορά τη δωρεά του Moskovitz προς την ARC το 2022, ο αξιωματούχος διευκρίνισε ότι τα κονδύλια διατηρήθηκαν σε ξεχωριστό λογαριασμό (firewalled) και δεν χρησιμοποιήθηκαν για τη λειτουργία του METR.
Αυτό ελάχιστα καθησυχάζει τους επικριτές.
«Το να λες ότι θέλεις να ελεγχθείς από τα “ανεξάρτητα” άτομα της METR είναι εντελώς γελοίο», δήλωσε ο Perry Metzger, πρόεδρος της Alliance for the Future, μιας ομάδας χάραξης πολιτικής για την τεχνητή νοημοσύνη με έδρα την Ουάσιγκτον. «Πρόκειται για άτομα που χρηματοδοτούνται από τους φίλους σου. Είναι εντελώς παράλογο.
Αν ήσουν μια μεγάλη τράπεζα και αποφάσιζες να κάνεις τους ελέγχους σου μέσω ενός οργανισμού που αποτελούνταν αποκλειστικά από πρώην υπαλλήλους σου και χρηματοδοτούνταν από τους ίδιους επενδυτές που επενδύουν σε εσένα, ξέρεις τι θα σου έκαναν οι ομοσπονδιακές αρχές;» πρόσθεσε. «Η μεταχείριση θα ήταν κυριολεκτικά μεσαιωνική».
Η αιφνιδιαστική πρόταση του Amodei, η οποία δημοσιεύτηκε το πρωί του περασμένου Σαββάτου, ήρθε λίγες μόλις ημέρες αφότου ο Jacob Coxon —ερευνητής της Anthropic και πρώην εργαζόμενος της OpenAI— αποχώρησε ξαφνικά από την εταιρεία, προειδοποιώντας ότι και οι δύο κολοσσοί της τεχνητής νοημοσύνης «παίζουν με τις ζωές μας», επιδιώκοντας την πρόοδο χωρίς την κατάλληλη εποπτεία.
Χωρίς την ύπαρξη δικλείδων ασφαλείας, ο Amodei προειδοποίησε ότι το διαδίκτυο θα μπορούσε να κατακλυστεί από bots τεχνητής νοημοσύνης μέσα σε διάστημα έξι έως 12 μηνών, «προκαλώντας ενδεχομένως ζημιές ύψους εκατοντάδων δισεκατομμυρίων δολαρίων».
«Σταματήστε να προσποιείστε»
Οι doomsday προειδοποιήσεις συνάντησαν έντονες αντιδράσεις σε ορισμένους κύκλους του τεχνολογικού και πολιτικού κόσμου, με τον Πρόεδρο Τrump να χαρακτηρίζει «απάτη» και μικρότερες νεοφυείς επιχειρήσεις τεχνητής νοημοσύνης να υποστηρίζουν ότι ηγετικές εταιρείες, όπως η Anthropic και η OpenAI, προσπαθούσαν απλώς να τους νομίσουν.
Ο Hjalmar Wijk είναι επικεφαλής επιστήμονας στη METR. Σύμφωνα με το προφίλ του στο LinkedIn, εργάζεται επί του παρόντος για τον «περιορισμό των κινδύνων του χειρότερου δυνατού σεναρίου που απορρέουν από μελλοντικά μοντέλα» τεχνητής νοημοσύνης. ΜΕΤΡ
Ανάμεσα στους σκεπτικιστές συγκαταλεγόταν ο David Sacks, πρώην αρμόδιος αξιωματούχος του Λευκού Οίκου για την τεχνητή νοημοσύνη, ο οποίος κάλεσε τον Amodei να «σταματήσει να ισχυρίζεται ότι το METR είναι ανεξάρτητο, τη στιγμή που είναι άρρηκτα συνδεδεμένη με τους επενδυτές και το προσωπικό της Anthropic».
«Πάνω απ’ όλα, σταματήστε να ισχυρίζεστε ότι το κίνητρο για την επιβράδυνση της ανάπτυξης είναι καθαρά αλτρουιστικό», πρόσθεσε. «Αντιμετωπίζετε τεράστιο κίνδυνο νομικής ευθύνης για τα προϊόντα σας, εάν αυτά καταστήσουν δυνατή μια κυβερνοεπίθεση με πραγματικά καταστροφικές συνέπειες».
Παράλληλα, παραμένει ασαφές αν η προσπάθεια του κλάδου της τεχνητής νοημοσύνης για αυτορρύθμιση θα κριθεί ικανοποιητική από τις αμερικανικές ρυθμιστικές αρχές.
Ο πρόεδρος της Ομοσπονδιακής Επιτροπής Εμπορίου -Federal Trade Commission Chairman (FTC), Andrew Ferguson, προειδοποίησε ότι «όλοι θα πρέπει να είναι εξαιρετικά επιφυλακτικοί» απέναντι σε ένα αίτημα για παροχή εξαίρεσης από τη νομοθεσία περί ανταγωνισμού σε εταιρείες τεχνητής νοημοσύνης, προκειμένου αυτές να συντονίσουν τις προσπάθειές τους για την ασφάλεια.
«Θα έλεγα, πάντως, γενικότερα ότι, όταν οι εταιρείες απευθύνονται ταυτόχρονα στην Ουάσιγκτον ζητώντας μια σειρά κανονιστικών ρυθμίσεων και παράλληλα εξαίρεση από τους κανόνες ανταγωνισμού, χτυπούν για όλα τα καμπανάκια κινδύνου», δήλωσε ο Ferguson κατά τη διάρκεια της εκδήλωσης στο Πανεπιστήμιο Georgetown την Τρίτη.
Σύμφωνα με τις προτάσεις του Amodei, οι εξωτερικοί αξιολογητές —τους οποίους ορισμένοι έχουν παρομοιάσει με επιθεωρητές πυρηνικών εγκαταστάσεων— θα «επαληθεύουν τη συμμόρφωση με τις πρακτικές και τις δεσμεύσεις ασφαλείας, θα αναφέρουν περιστατικά και θα συμβάλλουν στην αξιολόγηση της ευθυγράμμισης όχι μόνο των ολοκληρωμένων μοντέλων τεχνητής νοημοσύνης, αλλά και των διαδικασιών και των σταδίων εκπαίδευσης.
«Η Anthropic δεσμεύεται μονομερώς για αυτό το βήμα τώρα», έγραψε ο Amodei. «Σκοπεύουμε αυτό να αποτελέσει μέρος μιας ευρύτερης προσπάθειας για την εντατικοποίηση των δράσεών μας στους τομείς της ασφάλειας και της ευθυγράμμισης [της Τεχνητής Νοημοσύνης]».
Ο Sam Altman της OpenAI δήλωσε ότι συμφωνεί με τον Amodei σχετικά με την «ανάγκη ελέγχου του ρυθμού εξέλιξης της τεχνολογίας αιχμής» – προσθέτοντας ότι «η δέσμευση για τη συμμετοχή ανεξάρτητων αξιολογητών, οι οποίοι θα έχουν πρόσβαση αντίστοιχη με εκείνη των εργαζομένων, είναι εξαιρετική ιδέα και θα πράξουμε το ίδιο». Δεν έκανε καμία αναφορά στη METR.
Hjalmar Wijk is chief scientist at METR. He currently works at “trying to reduce worst-case risks from future models” of different AI models, according to his LinkedIn profile
Ajeya Cotra is a member of technical staff at METR
Jasmine Dhaliwal is a policy staffer at METR
Beth Barnes is the CEO of METR
METR staffer Pip Arnott is pictured
Megan Kinniment Kinniment, a member of METR’s technical staff, previously held a series of positions at the Center on Long-Term Risk in London, where she focused on how “malevolent actors could increase the likelihood of poor AI outcomes,” according to her LinkedIn
