Ως μεταπτυχιακός φοιτητής τη δεκαετία του 1980, ο Yann LeCun δυσκολευόταν να βρει σύμβουλο για τη διδακτορική του διατριβή πάνω στη μηχανική μάθηση, επειδή κανείς άλλος δεν μελετούσε το θέμα, θυμήθηκε αργότερα.
Από την Meghan Bobrowsky/The Wall Street Journal
Πιο πρόσφατα, έχει γίνει ο «περίεργος» άνθρωπος στη Meta.
Παρά την παγκόσμια φήμη του ως ένας από τους νονούς της Τεχνητής Νοημοσύνης, έχει ολοένα και περισσότερο παραγκωνιστεί καθώς η προσέγγιση της εταιρείας αποκλίνει από τις απόψεις του για το μέλλον της τεχνολογίας. Την Τρίτη, έγινε γνωστό ότι μπορεί σύντομα να εγκαταλείψει τη Meta για να ασχοληθεί με μια νεοσύστατη επιχείρηση που θα επικεντρώνεται στα λεγόμενα παγκόσμια μοντέλα (world models), τεχνολογία που ο LeCun πιστεύει ότι είναι πιο πιθανό να προωθήσει την κατάσταση της Τεχνητής Νοημοσύνης από τα τρέχοντα γλωσσικά μοντέλα της Meta.
Ο Διευθύνων Σύμβουλος της Meta, Mark Zuckerberg, έχει επενδύσει αμέτρητα δισεκατομμύρια στην επιδίωξη αυτού που αποκαλεί «υπερνοημοσύνη», προσλαμβάνοντας έναν στρατό κορυφαίων ερευνητών που έχουν αναλάβει την ανάπτυξη του μεγάλου γλωσσικού μοντέλου της, Llama, σε κάτι που μπορεί να ξεπεράσει το ChatGPT και το Gemini της Google.
Ο LeCun, από επιλογή του, έχει ακολουθήσει διαφορετική κατεύθυνση. Έχει πει σε όποιον τον ρωτάει ότι πιστεύει πως τα μεγάλα γλωσσικά μοντέλα, ή LLM, αποτελούν αδιέξοδο στην αναζήτηση υπολογιστών που μπορούν πραγματικά να ξεπεράσουν τους ανθρώπους. Του αρέσει να συγκρίνει τα τρέχοντα μοντέλα που βρίσκονται στην αρχή της τεχνολογίας με το μυαλό μιας γάτας και πιστεύει ότι η γάτα είναι πιο έξυπνη.
Πριν από αρκετά χρόνια, αποχώρησε από τη διαχείριση του τμήματος Τεχνητής Νοημοσύνης της Meta, που ονομάζεται FAIR, υπέρ ενός ρόλου ως μεμονωμένου συνεργάτη που κάνει μακροπρόθεσμη έρευνα.
«Δεν έχω κάνει φίλους σε διάφορες γωνιές της Silicon Valley, συμπεριλαμβανομένης της Meta, λέγοντας ότι μέσα σε τρία έως πέντε χρόνια, αυτό [τα παγκόσμια μοντέλα, όχι τα LLM της Meta] θα είναι το κυρίαρχο μοντέλο για τις αρχιτεκτονικές Τεχνητής Νοημοσύνης, και ότι κανείς λογικός δεν θα χρησιμοποιήσει LLM του τύπου που έχουμε σήμερα», δήλωσε ο 65χρονος τον περασμένο μήνα σε ένα συμπόσιο στο Τεχνολογικό Ινστιτούτο της Μασαχουσέτης.
Ο LeCun μιλάει με συνεργάτες για τη δημιουργία μιας νεοσύστατης επιχείρησης που θα επικεντρώνεται σε παγκόσμια μοντέλα, προσλαμβάνει συναδέλφους και μιλάει σε επενδυτές, όπως είχε αναφέρει προηγουμένως η Wall Street Journal.
Ένα παγκόσμιο μοντέλο (world model) μαθαίνει για τον κόσμο γύρω του λαμβάνοντας οπτικές πληροφορίες, όπως ακριβώς κάνει ένα μωρό ζώο ή ένα μικρό παιδί, σε αντίθεση με τα LLM, τα οποία είναι προγνωστικά μοντέλα που βασίζονται σε τεράστιες βάσεις δεδομένων κειμένου.
Ο LeCun δεν απάντησε σε αιτήματα για σχολιασμό και η Meta αρνήθηκε να σχολιάσει.
Πρώιμες καινοτομίες
Ο LeCun γεννήθηκε στο Παρίσι, μεγάλωσε στα προάστια της πόλης και φοίτησε σε αυτό που είναι τώρα γνωστό ως Πανεπιστήμιο της Σορβόννης της Γαλλίας τη δεκαετία του 1980. Ενώ έκανε το διδακτορικό του, παντρεύτηκε τη σύζυγό του, Isabelle, και απέκτησαν τον πρώτο από τους τρεις γιους τους. Μουσικός ξύλινων πνευστών ο ίδιος, έπαιζε παραδοσιακή βρετονική μουσική για μια χορευτική ομάδα της Αναγέννησης.
Πάντα μπροστά από την εποχή του, ο LeCun σπούδασε μηχανική μάθηση πριν γίνει της μόδας. Εργάστηκε στο εργαστήριο Τεχνητής Νοημοσύνης του βραβευμένου με Νόμπελ Geoffrey Hinton στο Τορόντο, πριν ο Hinton γίνει θρύλος της Τεχνητής Νοημοσύνης, και πέρασε μεγάλο μέρος της πρώιμης επαγγελματικής του καριέρας στο New Jersey στα Bell Labs, το ινστιτούτο που φημίζεται για τον τεράστιο αριθμό εφευρέσεων που προέκυψαν από αυτό.
«Αυτό που με ενθουσιάζει περισσότερο είναι η συνεργασία με ανθρώπους που είναι πιο έξυπνοι από εμένα, επειδή ενισχύει τις δικές σου ικανότητες», δήλωσε ο LeCun στο περιοδικό Wired το 2023.
Στο Bell, ο LeCun βοήθησε στην ανάπτυξη τεχνολογίας αναγνώρισης χειρογράφου που χρησιμοποιήθηκε ευρέως από τις τράπεζες για την αυτόματη ανάγνωση επιταγών. Εργάστηκε επίσης σε ένα πρότζεκτ ψηφιοποίησης και διανομής έντυπων εγγράφων μέσω του διαδικτύου.
Ο LeCun, ο οποίος έχει δηλώσει ότι πάντα ενδιαφερόταν για τη φυσική, συνεργάστηκε κυρίως με φυσικούς στο Bell και διάβασε πολλά εγχειρίδια φυσικής.
«Έμαθα πολλά διαβάζοντας πράγματα που προφανώς δεν συνδέονται με την Τεχνητή Νοημοσύνη ή την επιστήμη των υπολογιστών (το πτυχίο μου είναι στην ηλεκτρολογία και η επίσημη εκπαίδευσή μου στην Πληροφορική είναι αρκετά μικρή)», είπε κατά τη διάρκεια μιας συνεδρίας στο Reddit όπου ρωτούσε τα πάντα πριν από 12 χρόνια.
Το 2003, ο LeCun άρχισε να διδάσκει επιστήμη των υπολογιστών στο Πανεπιστήμιο της Νέας Υόρκης και αργότερα έγινε ιδρυτικός διευθυντής του Κέντρου Επιστήμης Δεδομένων του NYU. Όταν βρίσκεται στη Νέα Υόρκη, είναι γνωστό ότι συχνάζει στα τζαζ κλαμπ της πόλης.
Το 2013, ο Zuckerberg τον προσέλαβε προσωπικά για να ηγηθεί ενός νέου τμήματος Τεχνητής Νοημοσύνης σε αυτό που τότε ονομαζόταν Facebook.
Ο LeCun επέβλεπε το εργαστήριο για τέσσερα χρόνια, αποχωρώντας το 2018 για να γίνει ατομικός συνεργάτης και επικεφαλής επιστήμονας Τεχνητής Νοημοσύνης του Facebook.
Κέρδισε το βραβείο A.M. Turing το 2018, το υψηλότερο (βραβείο) στην επιστήμη των υπολογιστών, μαζί με τους Hinton και Yoshua Bengio. Το βραβείο τίμησε το θεμελιώδες έργο τους σε νευρωνικά δίκτυα, πολυεπίπεδα συστήματα που αποτελούν τη βάση πολλών ισχυρών συστημάτων Τεχνητής Νοημοσύνης, από τα chatbots της OpenAI μέχρι τα αυτοκίνητα χωρίς οδηγό.
Από τότε, ο LeCun, ο οποίος μιλάει με ελαφριά γαλλική προφορά και είναι γνωστός για το ότι φοράει μαύρα γυαλιά Ray-Ban και πουκάμισα με γιακά, έχει γίνει σε μεγάλο βαθμό μια αόρατη φιγούρα για την εταιρεία. Δεν ήταν μέλος της ομάδας που βοήθησε στη δημιουργία του πρώτου μοντέλου μεγάλης γλώσσας ανοιχτού κώδικα της Meta, που ονομάζεται Llama, και έκτοτε δεν έχει συμμετάσχει στις καθημερινές λειτουργίες ανάπτυξής του.
Ο LeCun εργάζεται πάνω σε δικά του πρότζεκτ και ταξιδεύει σε συνέδρια, μιλώντας μεταξύ άλλων για τα γυαλιά Τεχνητής Νοημοσύνης της Meta και για τις δικές του απόψεις για την πορεία προς την πρόοδο της Α.Ι., όπως ανέφεραν άτομα που έχουν συνεργαστεί μαζί του.
Ο Léon Bottou, μακροχρόνιος φίλος του LeCun, είχε δηλώσει προηγουμένως στην Wall Street Journal ότι είναι «πεισματάρης με την καλή έννοια», που σημαίνει ότι είναι πρόθυμος να ακούσει τις απόψεις των άλλων, αλλά έχει ισχυρές δικές του πεποιθήσεις.
Έχει επίσης ισχυρές απόψεις για μια ποικιλία άλλων θεμάτων. «Είμαι όλα όσα περιφρονεί η θρησκευτική δεξιά», έγραψε στην ιστοσελίδα του: «ένας επιστήμονας, ένας άθεος, ένας αριστερός (τουλάχιστον με τα αμερικανικά πρότυπα), ένας καθηγητής πανεπιστημίου και ένας Γάλλος».
Απομονωμένος
Οι περισσότερες από τις πρόσφατες απόψεις του ήταν επικρίσεις για τα LLM που βρίσκονται στο επίκεντρο των φιλοδοξιών του Zuckerberg – αλλά και σχεδόν κάθε άλλης μεγάλης τεχνολογικής εταιρείας.
«Δεν πρόκειται να φτάσουμε στην Τεχνητή Νοημοσύνη σε ανθρώπινο επίπεδο απλώς κλιμακώνοντας τα LLM», είπε στο podcast Big Technology του Alex Kantrowitz αυτή την άνοιξη. «Δεν υπάρχει τρόπος, απολύτως κανένας τρόπος, και ό,τι κι αν ακούσετε από μερικούς από τους πιο τολμηρούς συναδέλφους μου, δεν πρόκειται να συμβεί μέσα στα επόμενα δύο χρόνια. Δεν υπάρχει απολύτως κανένας τρόπος να… – συγχωρήσετε τα “γαλλικά” μου».
Αυτό το καλοκαίρι, στο πλαίσιο μιας μεγάλης αναδιάρθρωσης, ο Zuckerberg διόρισε τον 28χρονο Alexandr Wang ως νέο επικεφαλής Τεχνητής Νοημοσύνης της Meta (νέο αφεντικό του LeCun) και τον συνδημιουργό του ChatGPT Shengjia Zhao ως νέο επικεφαλής επιστήμονα της Meta.
Οι εργαζόμενοι στο τμήμα Τεχνητής Νοημοσύνης της Meta, που αποτελείται από πάνω από χίλια άτομα, άρχισαν να ρωτούν ο ένας τον άλλον: Τι θα συμβεί με τον Yann LeCun;
Κάποιοι θεώρησαν τις ανακοινώσεις ως απόρριψη του LeCun επειδή δεν συμμετείχε στο όραμα του Zuckerberg για την τεχνητή νοημοσύνη.
«Δεν υπάρχει καμία αλλαγή στον ρόλο του Yann. Θα συνεχίσει να είναι επικεφαλής επιστήμονας για το FAIR!» δημοσίευσε ο Διευθύνων Σύμβουλος στην εφαρμογή κοινωνικής δικτύωσης Threads τον Ιούλιο, αναφερόμενος στο τμήμα Τεχνητής Νοημοσύνης για το οποίο προσέλαβε τον LeCun πριν από μια δεκαετία. Το FAIR είναι η συντομογραφία της ομάδας Fundamental AI Research.
«Ανυπομονώ να συνεργαστώ με τον Shengjia», απάντησε ο LeCun σε ένα σχόλιο.
Ωστόσο, τους τελευταίους μήνες, το άλλοτε ακμάζον τμήμα Τεχνητής Νοημοσύνης του LeCun έχει αντιμετωπίσει περικοπές θέσεων εργασίας και λιγότερους πόρους, και έχει γίνει λιγότερο έγκριτο εσωτερικά, σύμφωνα με νυν και πρώην υπαλλήλους.
Για πολύ καιρό, το τμήμα, με επικεφαλής τον LeCun, θεωρούνταν ως ένας χώρος για να συζητούνται υψηλές ιδέες για το μέλλον της τεχνητής νοημοσύνης, να διεξάγονται πειράματα που μπορεί να πετύχουν ή όχι, και να μην σκέφτονται πολύ πώς οι ερευνητικές τους ανακαλύψεις θα μπορούσαν να μετατραπούν σε πραγματικά προϊόντα κάποια μέρα.
Τώρα, ο νέος οργανισμός έρευνας για την Τεχνητή Νοημοσύνη της Meta, γεμάτος με νέες προσλήψεις που κερδίζουν εκατομμύρια δολάρια, διευθύνεται από τον Wang, ο οποίος πιέζει τις ομάδες να κάνουν γρήγορες ανακαλύψεις και να μετατρέψουν γρήγορα αυτές τις εξελίξεις σε προϊόντα.
Εν τω μεταξύ, ο LeCun περιοδεύει στην Ασία και την Ευρώπη και μιλάει σε συνέδρια. Σε μια τέτοια ομιλία νωρίτερα φέτος, έδωσε συμβουλές σε επίδοξους ερευνητές: «Εάν είστε διδακτορικός φοιτητής στην Τεχνητή Νοημοσύνη, δεν πρέπει σε καμία περίπτωση να εργαστείτε σε LLM».
