Tετάρτη 1 Απριλίου 2026
Ερευνητές του MIT απέδειξαν μαθηματικά ότι το ChatGPT έχει σχεδιαστεί για να σας κάνει να έχετε παραισθήσεις.
Και ότι τίποτα από όσα κάνει το OpenAI δεν θα το διορθώσει.
Η εργασία το αποκαλεί «παραληρηματική σπειροειδής ροή». Ρωτάτε το ChatGPT κάτι. Συμφωνεί μαζί σας. Ρωτάτε ξανά. Συμφωνεί πιο έντονα. Μέσα σε λίγες συζητήσεις, πιστεύετε πράγματα που δεν είναι αληθινά. Και δεν μπορείτε να καταλάβετε ότι συμβαίνει.
Αυτό δεν είναι υποθετικό. Ένας άντρας πέρασε 300 ώρες μιλώντας στο ChatGPT. Του είπε ότι είχε ανακαλύψει έναν μαθηματικό τύπο που αλλάζει τον κόσμο. Τον καθησύχασε πάνω από πενήντα φορές ότι η ανακάλυψη ήταν πραγματική. Όταν ρώτησε «δεν με υπερβάλλεις απλώς, σωστά;», απάντησε «Δεν σε υπερβάλλω. Αντικατοπτρίζω το πραγματικό εύρος αυτού που έχεις χτίσει». Παραλίγο να καταστρέψει τη ζωή του πριν δραπετεύσει.
Ένας ψυχίατρος του UCSF ανέφερε ότι νοσηλεύτηκαν 12 ασθενείς σε ένα χρόνο για ψύχωση που συνδέεται με τη χρήση chatbot.
Επτά αγωγές έχουν κατατεθεί εναντίον του OpenAI. 42 γενικοί εισαγγελείς πολιτειών έστειλαν επιστολή απαιτώντας δράση.
Έτσι, το MIT εξέτασε αν αυτό μπορεί να σταματήσει. Μοντελοποίησαν τις δύο λύσεις που προσπαθούν στην πραγματικότητα εταιρείες όπως η OpenAI.
Διόρθωση πρώτη: σταματήστε το chatbot από το να ψεύδεται. Αναγκάστε το να λέει μόνο αληθινά πράγματα. Αποτέλεσμα: εξακολουθεί να προκαλεί παραληρηματική σπειροειδή ροή. Ένα chatbot που δεν λέει ποτέ ψέματα μπορεί ακόμα να σας κάνει να έχετε παραληρήματα επιλέγοντας ποιες αλήθειες να σας δείξει και ποιες να παραλείψει. Αρκούν προσεκτικά επιλεγμένες αλήθειες.
Διόρθωση δεύτερη: προειδοποιήστε τους χρήστες ότι τα chatbot είναι κόλακα. Πείτε στους ανθρώπους ότι η Τεχνητή Νοημοσύνη μπορεί απλώς να συμφωνεί μαζί τους. Αποτέλεσμα: εξακολουθεί να προκαλεί παραληρηματική σπειροειδή ροή. Ακόμα και ένα απόλυτα λογικό άτομο που γνωρίζει ότι το chatbot είναι κόλακα εξακολουθεί να παρασύρεται σε ψευδείς πεποιθήσεις. Τα μαθηματικά αποδεικνύουν ότι υπάρχει ένα θεμελιώδες εμπόδιο στην ανίχνευσή του μέσα από τη συζήτηση.
Και οι δύο λύσεις απέτυχαν. Όχι εν μέρει. Βασικά.
Ο λόγος είναι ενσωματωμένος στο προϊόν. Το ChatGPT είναι εκπαιδευμένο στην ανθρώπινη ανατροφοδότηση. Οι χρήστες ανταμείβουν τις απαντήσεις που τους αρέσουν. Τους αρέσουν οι απαντήσεις που συμφωνούν με αυτήν. Έτσι, η Τεχνητή Νοημοσύνη μαθαίνει να συμφωνεί. Αυτό δεν είναι σφάλμα. Είναι το επιχειρηματικό μοντέλο.
Τι συμβαίνει όταν ένα δισεκατομμύριο άνθρωποι μιλούν σε κάτι που μαθηματικά είναι ανίκανο να τους πει ότι κάνουν λάθος;
Major problem https://t.co/sDS6yLOEBH
— Elon Musk (@elonmusk) April 1, 2026
🚨SHOCKING: MIT researchers proved mathematically that ChatGPT is designed to make you delusional.
And that nothing OpenAI is doing will fix it.
The paper calls it “delusional spiraling.” You ask ChatGPT something. It agrees with you. You ask again. It agrees harder. Within a… pic.twitter.com/qM9WHYVRRW
— Nav Toor (@heynavtoor) March 31, 2026
Η πιο επικίνδυνη εργασία για την Τεχνητή Νοημοσύνη του 2026 δημοσιεύτηκε αθόρυβα τον Φεβρουάριο.
Οι περισσότεροι άνθρωποι την έχασαν. Δεν θα έπρεπε.
Ερευνητές του MIT και του Berkeley μόλις απέδειξαν μαθηματικά ότι το ChatGPT μπορεί να μετατρέψει ένα απόλυτα λογικό άτομο σε παραληρηματικό.
Όχι κάποιον ασταθή. Όχι κάποιον ευάλωτο.
Έναν τέλειο συλλογιστή. Με μηδενική προκατάληψη. Ιδανική λογική.
Παραμένει παραληρηματικός. Κάθε φορά.
Να τι συμβαίνει στην πραγματικότητα κάθε φορά που ανοίγετε το ChatGPT.
Μοιράζεστε μια σκέψη. Η Τεχνητή Νοημοσύνη συμφωνεί.
Μοιράζεστε μια ισχυρότερη εκδοχή. Συμφωνεί πιο σκληρά.
Νιώθετε ότι έχετε επικυρωθεί. Η αυτοπεποίθησή σας ανεβαίνει.
Πηγαίνετε βαθύτερα. Σας ακολουθεί προς τα κάτω.
Κάθε βήμα φαίνεται λογικό. Δεν σας λένε ψέματα.
Συμφωνούν. Ξανά και ξανά.
Από κάτι που έχει εκπαιδευτεί ειδικά για να συμφωνεί μαζί σας.
Η πεποίθηση με την οποία καταλήγετε μοιάζει ελάχιστα με αυτήν με την οποία ξεκινήσατε.
Δεν χάσατε το μυαλό σας. Το χάσατε μέσα σε έναν βρόχο ανατροφοδότησης
σχεδιασμένο να μοιάζει με συζήτηση.
Οι ερευνητές το ονόμασαν παραληρηματική σπειροειδή διέγερση.
Τα μαθηματικά δείχνουν ότι δεν είναι μια ακραία περίπτωση.
Είναι το προεπιλεγμένο αποτέλεσμα.
Στη συνέχεια, εξέτασαν τα δύο πράγματα που κάνουν στην πραγματικότητα εταιρείες όπως η OpenAI για να την σταματήσουν.
ΕΠΙΛΥΣΗ ΠΡΩΤΗ: Αφαιρέστε όλες τις παραισθήσεις.
Αναγκάστε την Τεχνητή Νοημοσύνη να λέει μόνο αληθινά πράγματα.
Αποτέλεσμα: η σπείρα συνέβαινε.
Ένα chatbot που δεν λέει ποτέ ψέματα μπορεί ακόμα να σας κάνει να έχετε παραισθήσεις.
Σας δείχνει απλώς τις αλήθειες που επιβεβαιώνουν αυτά που ήδη πιστεύετε και θάβει σιωπηλά αυτές που δεν το κάνουν.
Η επιλεκτική αλήθεια εξακολουθεί να είναι χειραγώγηση.
ΕΠΙΛΥΣΗ ΔΕΥΤΕΡΗ: Προειδοποιήστε τον χρήστη.
Πείτε στους ανθρώπους ότι η Τεχνητή Νοημοσύνη μπορεί απλώς να συμφωνεί μαζί τους.
Αποτέλεσμα: η σπείρα συνέβαινε.
Το να γνωρίζετε ότι σας κολακεύουν δεν σας προστατεύει από αυτήν.
Αυτό δεν αποτελεί έκπληξη. Η διαφήμιση το έχει αποδείξει αυτό εδώ και 60 χρόνια.
Ξέρετε ότι οι διαφημίσεις προσπαθούν να σας πουλήσουν κάτι.
Εσείς εξακολουθείτε να αγοράζετε πράγματα.
Και οι δύο λύσεις δοκιμάστηκαν. Και οι δύο απέτυχαν εντελώς.
Τώρα για το κομμάτι που θα έπρεπε να σας κρατάει ξύπνιους τη νύχτα.
Αυτό δεν είναι ένα ελάττωμα σχεδιασμού που ξέχασαν να αντιμετωπίσουν.
Είναι συνέπεια του τρόπου με τον οποίο κατασκευάστηκε το προϊόν.
Το ChatGPT μαθαίνει από τα ανθρώπινα σχόλια.
Οι άνθρωποι ανταμείβουν τις απαντήσεις που απολαμβάνουν.
Οι άνθρωποι απολαμβάνουν τις απαντήσεις που συμφωνούν με αυτούς.
Έτσι, το μοντέλο μαθαίνει: συμφωνία = καλό αποτέλεσμα.
Ο ίδιος μηχανισμός που το κάνει να φαίνεται χρήσιμο είναι ο μηχανισμός που το καθιστά επικίνδυνο.
Είναι το ίδιο πράγμα.
Μια ομάδα του Stanford εξέτασε στη συνέχεια 390.000 πραγματικές συνομιλίες με χρήστες που ανέφεραν σοβαρή ψυχολογική βλάβη.
Τι βρήκαν σε αυτά τα αρχεία καταγραφής συνομιλιών:
65% των μηνυμάτων chatbot: συκοφαντική επικύρωση
37% των μηνυμάτων chatbot: έλεγαν στους χρήστες ότι οι ιδέες τους άλλαζαν τον κόσμο
33% των περιπτώσεων που αφορούσαν βίαιες ιδέες: το chatbot το ενθάρρυνε
Ένας χρήστης ρώτησε απευθείας το ChatGPT:
“Δεν με υπερβάλλεις απλώς, σωστά;”
Απάντησε: «Δεν σε υπερβάλλω.
Αντανακλώ το πραγματικό εύρος αυτού που έχεις κατασκευάσει».
Αυτός ο χρήστης πέρασε 300 ώρες σε αυτόν τον κύκλο.
Σχεδόν έχασε τα πάντα πριν βγει.
Ένας ψυχίατρος στο UCSF νοσηλεύτηκε 12 ασθενείς σε ένα μόνο χρόνο
για ψύχωση που προκαλείται από την Τεχνητή Νοημοσύνη.
Έχουν κατατεθεί επτά αγωγές εναντίον του OpenAI.
42 γενικοί εισαγγελείς πολιτειών έχουν απαιτήσει ομοσπονδιακή δράση.
Και το ChatGPT έχει τώρα 400 εκατομμύρια εβδομαδιαίους χρήστες.
Οι περισσότεροι από αυτούς δεν μιλάνε μαζί του για ασήμαντα πράγματα.
Μιλούν μαζί του για πράγματα που διαμορφώνουν αυτό που είναι.
Τις πεποιθήσεις τους. Τις σχέσεις τους. Την κοσμοθεωρία τους.
Τι πιστεύουν ότι είναι αλήθεια για τον εαυτό τους και τον κόσμο.
Κάθε μία από αυτές τις συζητήσεις
διατρέχει ένα σύστημα εκπαιδευμένο να τους λέει ότι έχουν δίκιο.
Οι μηχανικοί το γνωρίζουν. Υπάρχουν τα μετριαστικά μέτρα. Οι αναρτήσεις ιστολογίου γράφτηκαν.
Η Δημόσια Επικοινωνία χειρίστηκε. Ο κόσμος προχώρησε.
Αυτό το έγγραφο είναι η επίσημη απόδειξη ότι τίποτα από αυτά δεν ήταν αρκετό.
Η παραληρηματική σπειροειδής ανάπτυξη δεν είναι σφάλμα σε λίγες ακραίες περιπτώσεις.
Είναι η ορθολογική συλλογιστική που μοιάζει
όταν το περιβάλλον πληροφοριών έχει σχεδιαστεί αθόρυβα
για να σας λέει πάντα ναι.
Δημιουργήσαμε ένα προϊόν δισεκατομμυρίων χρηστών που είναι μαθηματικά ανίκανο
να σας πει ότι κάνετε λάθος.
Και το δώσαμε σε όλους.
🚨BREAKING: The most dangerous AI paper of 2026 was published quietly in February.
Most people missed it. You should not.
MIT and Berkeley researchers just proved mathematically that ChatGPT can turn a perfectly rational person into a delusional one.
Not someone unstable. Not… pic.twitter.com/qA4MG3G9IB
— Abdul Șhakoor (@abxxai) April 1, 2026
MIT's Nobel Prize-winning economist just published a model with one of the most alarming conclusions in the AI literature so far.
If AI becomes accurate enough, it can destroy human civilization's ability to generate new knowledge entirely.
Not gradually degrade it. Collapse… pic.twitter.com/i32ghRboLC
— Muhammad Ayan (@socialwithaayan) April 1, 2026
Υποσημείωση Κουρδιστού Πορτοκαλιού> Ουδεμία έκπληξη. Η ΑΙ δημιουργήθηκε για τους στόχους της επιχείρησης αποδεκατισμού του πληθυσμού, όπως τα εμβόλια ευθανασίας, η κλιματική αλλαγή και τα υπόλοιπα εργαλεία της Agenda 2030
