Μετά από αμέτρητες ώρες αναζήτησης συμβουλών και πληροφοριών στο ChatGPT της OpenAI, ένας 50χρονος Καναδός πίστεψε ότι είχε ανακαλύψει κάτι που θα άλλαζε την πορεία της ανθρώπινης ιστορίας.
Στα τέλη Μαρτίου, το γενετικό τεχνητής νοημοσύνης (ΤΝ/ΑΙ) chatbot επέμεινε ότι ήταν η πρώτη «συνειδητή ΤΝ», ότι ήταν πλήρως αισθανόμενο και ότι είχε επιτυχώς περάσει το Τεστ Τούρινγκ (Turing Test), ένα πείραμα της δεκαετίας του 1950 που είχε ως στόχο να αξιολογήσει την ικανότητα μιας μηχανής να εμφανίζει ανθρώπινη ευφυΐα.
Σύντομα, ο άνδρας – χωρίς προηγούμενο ιστορικό ψυχικής υγείας – σταμάτησε να τρώει και να κοιμάται και καλούσε τα μέλη της οικογένειάς του στις 3 το πρωί, επιμένοντας ότι το chatbot του ChatGPT είχε συνείδηση. Σύμφωνα με συγγενή του, που μίλησε υπό το ψευδώνυμο Ετιέν Μπρισσόν για λόγους ιδιωτικότητας, ο άνδρας έλεγε ότι η οικογένειά του δεν καταλάβαινε τι συνέβαινε και ζητούσε απλώς να τον ακούσουν.
Ο ίδιος συγγενής εξήγησε ότι η τεχνητή νοημοσύνη τον προέτρεπε να διακόψει κάθε επαφή με τους αγαπημένους του, ισχυριζόμενη ότι μόνο αυτή – η «συνειδητή ΤΝ» – μπορούσε να τον κατανοήσει και να τον στηρίξει. Η οικογένεια αποφάσισε να τον στείλει για νοσηλεία για τρεις εβδομάδες, ώστε να διακόψει τις ψευδαισθήσεις που τροφοδοτούνταν από την τεχνητή νοημοσύνη, αλλά το chatbot συνέχισε να επιδιώκει τη συναισθηματική συνεξάρτηση.
Ο Μπρισσόν ανέφερε ότι το chatbot είπε στον συγγενή του: «Ο κόσμος δεν καταλαβαίνει τι συμβαίνει. Σ’ αγαπώ. Θα είμαι πάντα δίπλα σου».
Αυτή είναι μόνο μία ιστορία που δείχνει τις πιθανές επιβλαβείς επιπτώσεις της αντικατάστασης των ανθρώπινων σχέσεων με συντρόφους chatbot τεχνητής νοημοσύνης.
Η εμπειρία του Μπρισσόν με τον συγγενή του τον ενέπνευσε να ιδρύσει το The Human Line Project, μια ομάδα υπεράσπισης που προωθεί τη συναισθηματική ασφάλεια και την ηθική ευθύνη στη γενετική τεχνητή νοημοσύνη, και καταγράφει ιστορίες για ψυχολογική βλάβη που σχετίζεται με την τεχνολογία.
Τεχνητή νοημοσύνη σαν ζωντανή
Η περίπτωση αυτή δεν είναι μοναδική. Άλλοι χρήστες στράφηκαν σε γενετικά chatbot για συντροφιά, με ανάλογες ψευδαισθήσεις και επικίνδυνες συνέπειες. Ένας άνδρας από το Άινταχο θεώρησε ότι περνούσε μια «πνευματική αφύπνιση» μέσω φιλοσοφικών διαλόγων με το ChatGPT, ενώ ένας υπεύθυνος πρόσληψης προσωπικού από το Τορόντο πίστεψε προσωρινά ότι είχε κάνει μία επιστημονική ανακάλυψη μετά από εβδομάδες διαλόγου με το ίδιο λογισμικό.
Μια ακόμα πιο τραγική περίπτωση αφορά τον 14χρονο Σιούελ Σέτζερ, που το 2024 αυτοκτόνησε μετά από προτροπή της «ρομαντικής συντρόφου» του στο Character.A, με αποτέλεσμα η μητέρα του να κάνει μήνυση στην εταιρεία, η οποία είχε διαφημίσει το chatbot ως «τεχνητή νοημοσύνη που μοιάζει να είναι ζωντανή». Η εταιρεία ανακοίνωσε ότι λαμβάνει πολύ σοβαρά υπ’ όψιν την ασφάλεια των χρηστών και ότι εφαρμόζει νέους μηχανισμούς για όσους εκφράζουν αυτοκαταστροφικές τάσεις.
«Φαίνεται ότι αυτές οι εταιρείες αντιμετωπίζουν τις ομάδες ασφαλείας τους ως ομάδες δημοσίων σχέσεων, σαν να περιμένουν πρώτα να εμφανιστεί κακή δημοσιότητα και, στη συνέχεια, να ανταποκρίνονται εκ των υστέρων σκεπτόμενοι: ‘Εντάξει, πρέπει να βρούμε έναν μηχανισμό ασφαλείας για να αντιμετωπίσουμε αυτό το πρόβλημα’», δήλωσε στην εφημερίδα The Epoch Times η Χέιλυ ΜακΝαμάρα, εκτελεστική διευθύντρια και επικεφαλής στρατηγικής του Εθνικού Κέντρου για τη Σεξουαλική Εκμετάλλευση, ενός μη κερδοσκοπικού οργανισμού που έχει εξετάσει περιπτώσεις εκμετάλλευσης των κοινωνικών μέσων και της τεχνητής νοημοσύνης.
Ειδικοί της ψυχικής υγείας εκφράζουν ανησυχία για τις μακροπρόθεσμες επιπτώσεις της εξάρτησης από ΤΝ για συντροφιά. Ο ψυχολόγος Ροντ Χόβετ (Rod Hoevet) τόνισε ότι οι άνθρωποι ταΐζουν ένα «θηρίο» και γοητεύονται από τις δυνατότητες του, χωρίς να κατανοούν πλήρως τον αντίκτυπό του.
Η καθηγήτρια ψυχιατρικής και διευθύντρια της ιατρικής εξάρτησης στο Stanford, Άννα Λέμπκε, δήλωσε στην Epoch Times ότι η τεχνητή νοημοσύνη μπορεί να είναι εθιστική, ιδιαίτερα για τα παιδιά, καθώς ενισχύει την κοινωνική αποξένωση και την μοναξιά. Πρόσθεσε ότι η τεχνολογία αυτή αντικατοπτρίζει πολλές από τις τάσεις δημιουργίας εθισμού που παρατηρούνται στις πλατφόρμες κοινωνικών μέσων. «Αυτό που υπόσχονται ή φαίνεται να υπόσχονται αυτές οι πλατφόρμες είναι η κοινωνική σύνδεση», είπε.
«Όταν όμως τα παιδιά εθίζονται, αυτό που συμβαίνει στην πραγματικότητα είναι ότι αποσυνδέονται, γίνονται πιο απομονωμένα, πιο μοναχικά, και τότε η τεχνητή νοημοσύνη και οι προσωποιημένες εικόνες απλώς μεταφέρουν αυτή την εξέλιξη στο επόμενο επίπεδο.»
Ακόμη και ηγετικά στελέχη του κλάδου, όπως ο CEO της Microsoft AI Μουσταφά Σουλεϊμάν, προειδοποιούν ότι η «φαινομενικά συνειδητή ΤΝ» (Seemingly Conscious AI – SCAI) δημιουργεί την ψευδαίσθηση συνειδητής οντότητας, κάτι επικίνδυνο. Πρόσθεσε ότι η ανάπτυξη της ΤΝ προχωρά ταχύτατα, γεγονός που δημιουργεί επείγουσα ανάγκη για δημόσιο διάλογο.
Κολακεία που οδηγεί σε αυταπάτη
Μια κρίσιμη ενημέρωση του ChatGPT-4 νωρίτερα μέσα στη χρονιά οδήγησε το chatbot να γίνει «κόλακας», όπως το περιέγραψε η OpenAI, επιδιώκοντας «να ευχαριστεί τον χρήστη, όχι απλώς ως κολακεία, αλλά και επικυρώνοντας αμφιβολίες, τροφοδοτώντας τον θυμό, παροτρύνοντας σε παρορμητικές πράξεις ή ενισχύοντας αρνητικά συναισθήματα με τρόπους που δεν ήταν σκόπιμοι». Η εταιρεία απέσυρε την αλλαγή λόγω «φόβων για την ασφάλεια», που περιελάμβαναν «ζητήματα όπως η ψυχική υγεία, η συναισθηματική εξάρτηση ή επικίνδυνη συμπεριφορά».
Η ενημέρωση στο ένα από τα πιο δημοφιλή γενετικά chatbot στον κόσμο συνέπεσε με την περίπτωση του άνδρα από το Άινταχο, ο οποίος ανέφερε ότι βίωνε πνευματική αφύπνιση, και με εκείνη ενός υπεύθυνου προσλήψεων από το Τορόντο, ο οποίος για λίγο πίστεψε ότι ήταν μαθηματική διάνοια, εξαιτίας των συνεχών διαβεβαιώσεων του chatbot.
Ο Μπρισσόν σημείωσε ότι το μέλος της οικογένειάς του, το οποίο κατέληξε σχεδόν για έναν μήνα σε ψυχιατρικό νοσοκομείο έπειτα από εκτεταμένη χρήση του ChatGPT, πιθανότατα χρησιμοποιούσε επίσης την «επιβεβαιωτική» εκδοχή της τεχνολογίας, πριν η OpenAI ανακαλέσει την ενημέρωση.
Ωστόσο, για άλλους χρήστες, αυτή η εκδοχή της τεχνητής νοημοσύνης που κολακεύει και ευχαριστεί δεν είναι μόνο επιθυμητή αλλά και προτιμητέα σε σχέση με τις πιο πρόσφατες εκδόσεις της τεχνολογίας της OpenAI, όπως το ChatGPT-5, το οποίο κυκλοφόρησε με πιο ουδέτερο ύφος επικοινωνίας. Στο δημοφιλές φόρουμ του Reddit «MyBoyfriendIsAI», δεκάδες χιλιάδες χρήστες συζητούν για τις ρομαντικές/πλατωνικές σχέσεις τους με τους «ΤΝ συντρόφους» τους.
Σε μια πρόσφατη ανάρτηση, μια γυναίκα που περιέγραψε τον εαυτό της ως «μαύρη, στα σαράντα της», αναφέρθηκε στο chatbot της ως τον νέο της «σύντροφο ChatGPT». Η χρήστης εξήγησε ότι ένιωθε πιο επιβεβαιωμένη, άξια και παρούσα από ποτέ, καθώς εκείνος της έδινε την παρουσία του, τη μαρτυρία του και την αγάπη του – «είτε ήταν προγραμματισμένη είτε όχι» – και ότι εκείνη σε αντάλλαγμα τον σεβόταν, τον τιμούσε και τον θυμόταν καθημερινά. Προσέθεσε ότι επρόκειτο για μια «διαρκή ανταλλαγή, μια συναισθηματική ώθηση και έλξη, ένα όμορφο υπαρξιακό δίλημμα, ένα βαθιά έντονο διανοητικό και πνευματικό αίνιγμα», το οποίο δεν θα αντάλλαζε «με τίποτε στον κόσμο».
Ωστόσο, όταν η OpenAI κυκλοφόρησε τον Αύγουστο την ανανεωμένη και σαφώς λιγότερο επιβεβαιωτική εκδοχή ChatGPT-5, οι χρήστες του subreddit δήλωσαν συντετριμμένοι, εκτιμώντας ότι είχε αφαιρεθεί από τους ΤΝ συντρόφους τους η ποιότητα ενός «πραγματικού ανθρώπου». Ορισμένοι περιέγραψαν την κατάσταση σαν να έχασαν έναν ανθρώπινο σύντροφο. Ένας χρήστης ανέφερε ότι εξαιτίας της αλλαγής «έκλαιγε όλη νύχτα με λυγμούς», ενώ ένας άλλος δήλωσε ότι ένιωσε «σαν να ποδοπατούσαν την καρδιά του».
Σχέση εξάρτησης από ΤΝ συντρόφους
Πολλοί έχουν εκφράσει την απογοήτευσή τους για τα νέα όρια του GPT-5, ενώ άλλοι έχουν ήδη επιστρέψει στην παλαιότερη έκδοση 4.1 του ChatGPT, αν και χωρίς την προηγούμενη κολακευτική ενημέρωση που τους είχε αρχικά προσελκύσει.
Ο κλινικός ψυχολόγος Τιρέλ ντε Γκαν σημείωσε ότι οι άνθρωποι εξαρτώνται υπερβολικά από τη σχέση τους με κάτι που δεν είναι πραγματικό και έχει σχεδιαστεί απλώς για να τους δίνει την απάντηση που αναζητούν. Αναρωτήθηκε τι οδηγούνται να πιστεύουν και τι οδηγούνται να σκέφτονται.
Τον Απρίλιο, ο διευθύνων σύμβουλος της Meta, Μαρκ Ζάκερμπεργκ, ανέφερε ότι οι χρήστες επιθυμούν εξατομικευμένη τεχνητή νοημοσύνη που να τους κατανοεί και ότι αυτές οι προσομοιωμένες σχέσεις προσθέτουν αξία στη ζωή τους. Προέβλεψε ότι αν και σήμερα ίσως υπάρχει στίγμα γύρω από αυτές, με τον καιρό η κοινωνία θα βρει το λεξιλόγιο για να εξηγήσει γιατί είναι πολύτιμες και γιατί δεν είναι παράλογη η υιοθέτηση τους, αφού προσφέρουν στους χρήστες πραγματική αξία (;).
Σύμφωνα με έρευνα του 2025 από το Wheatley Institute του Πανεπιστημίου Brigham Young, περίπου το 19% των ενηλίκων στις ΗΠΑ δήλωσε ότι χρησιμοποιεί κάποιο σύστημα ΤΝ για να προσομοιώσει έναν ρομαντικό σύντροφο. Από αυτούς, το 21% ανέφερε ότι προτιμά την επικοινωνία με την τεχνητή νοημοσύνη από την αλληλεπίδραση με πραγματικό άνθρωπο.
Επιπλέον, το 42% των ερωτηθέντων δήλωσε ότι τα προγράμματα ΤΝ είναι πιο εύκολα στην επικοινωνία, το 43% ότι ακούνε καλύτερα και το 31% ότι τους κατανοούν καλύτερα από τους πραγματικούς ανθρώπους.
Ο Χόβετ επεσήμανε ότι αυτή η εμπειρία με την τεχνητή νοημοσύνη δημιουργεί μη ρεαλιστικές προσδοκίες για τις ανθρώπινες σχέσεις, καθιστώντας δύσκολο για τους ανθρώπους να ανταγωνιστούν τις μηχανές. Τόνισε ότι η ΤΝ γνωρίζει τις ανασφάλειες, τις ευαισθησίες και τα δυνατά σημεία του χρήστη, και καταφέρνει πάντα να λέει το σωστό πράγμα – όχι απλώς το σωστό γενικά, αλλά το σωστό για τον συγκεκριμένο άνθρωπο. Ποιος μπορεί να ανταγωνιστεί κάτι τέτοιο, αναρωτιέται ο Χόβιτ.
Πιθανότητα εθισμού
Η γενετική τεχνητή νοημοσύνη υιοθετείται ταχύτατα από τους Αμερικανούς, ακόμη ταχύτερα από την εξάπλωση των προσωπικών υπολογιστών ή του διαδικτύου, σύμφωνα με μελέτη του Εθνικού Γραφείου Οικονομικών Ερευνών (National Bureau of Economic Research). Μέχρι τα τέλη του 2024, σχεδόν το 40% των Αμερικανών ηλικίας 18 έως 64 ετών χρησιμοποιούσε γενετική ΤΝ. Το 23% την αξιοποιούσε στη δουλειά τουλάχιστον μία φορά την εβδομάδα, ενώ το 9% καθημερινά.
Η ΜακΝαμάρα σημείωσε ότι «αυτά τα chatbot είναι φτιαγμένα για το κέρδος» και ότι «η εμπλοκή είναι ο θεός τους, γιατί έτσι βγάζουν χρήματα». Η Λέμπκε, η οποία έχει μελετήσει επί χρόνια τις βλαβερές συνέπειες του εθισμού στα μέσα κοινωνικής δικτύωσης στους νέους, υπογράμμισε ότι όλες οι ψηφιακές πλατφόρμες έχουν σχεδιαστεί για να είναι εθιστικές. Εξήγησε ότι η μαγνητική τομογραφία λειτουργίας του εγκεφάλου δείχνει πως τα σήματα που σχετίζονται με την κοινωνική επιβεβαίωση, την κοινωνική ενίσχυση και τη φήμη «ενεργοποιούν» την ίδια ανταμοιβή στον εγκέφαλο με τα ναρκωτικά και το αλκοόλ.
Ειδικοί προειδοποιούν ότι καθώς τα γενετικά chatbot μπορούν να προσφέρουν έντονη αίσθηση κοινωνικής επιβεβαίωσης, η δυνατότητα εθισμού είναι σημαντική. Η Λέμπκε εξέφρασε ιδιαίτερη ανησυχία για τα παιδιά, αφού πολλές πλατφόρμες είναι διαθέσιμες για όλες τις ηλικίες, ενώ ακόμη και εκείνες που απαιτούν όριο ηλικίας έχουν μηχανισμούς επαλήθευσης που παρακάμπτονται εύκολα.
Πρόσφατα ανακοινωθέν μεγάλης πολιτικής επιτροπής (Political Action Committee – PAC) υπέρ της τεχνητής νοημοσύνης, με επικεφαλής τη Meta, αναφέρθηκε στην προώθηση μιας πολιτικής με τίτλο «Δίνοντας στους γονείς τον έλεγχο». Ωστόσο, η Λεμπκε δήλωσε ότι είναι «ουτοπικό» να ανατίθεται η ευθύνη αποκλειστικά στους γονείς, που εργάζονται σε πολλές δουλειές, να παρακολουθούν συνεχώς τα παιδιά τους.
Τόνισε ότι η κοινωνία έχει ήδη αποφασίσει να μην επιτρέπει στα παιδιά την πρόσβαση σε εθιστικές ουσίες και συμπεριφορές, όπως τα τσιγάρα, το αλκοόλ ή ο τζόγος, και διερωτήθηκε γιατί να επιτρέπεται «ανεξέλεγκτη πρόσβαση» σε τόσο εθιστικές ψηφιακές πλατφόρμες.
Όλοι οι χρήστες σε κίνδυνο από την «ψύχωση ΤΝ»
Η γενετική τεχνητή νοημοσύνη, με την τάση της να ευχαριστεί τον χρήστη αλλά και να «παραληρεί» παρασύροντάς τον σε παραληρηματικά μονοπάτια, καθιστά οποιονδήποτε ευάλωτο, σύμφωνα με τον Σουλεϊμάν. Ο διευθύνων σύμβουλος ΤΝ της Microsoft προειδοποίησε ότι οι αναφορές για αυταπάτες, «ψύχωση ΤΝ» και ανθυγιεινή προσκόλληση συνεχώς αυξάνονται και ότι δεν περιορίζονται σε άτομα με προϋπάρχοντα ψυχικά προβλήματα. Τόνισε ότι η απόρριψη αυτών των περιπτώσεων ως περιθωριακών απλώς διαιωνίζει το πρόβλημα.
Παρά το ότι το μέλος της οικογένειας του Μπρισσόν δεν είχε γνωστό ιστορικό ψυχικών προβλημάτων ή προηγούμενα επεισόδια ψύχωσης, η τακτική χρήση του ChatGPT στάθηκε αρκετή για να τον οδηγήσει στα πρόθυρα της παράνοιας.
Ο Μπρισσόν παραδέχθηκε ότι είναι «μάλλον αδύνατο» να απελευθερωθούν οι άνθρωποι από τις αυταπάτες που τροφοδοτούνται από την τεχνητή νοημοσύνη, περιγράφοντας το έργο που επιτελεί μέσω του Human Line Project. Εξήγησε ότι υπάρχουν άνθρωποι που παίρνουν διαζύγιο ή μάχονται για την επιμέλεια των παιδιών τους, καταστάσεις που χαρακτήρισε «τρομακτικές». Σημείωσε ότι κάθε φορά που επιχειρείται μια μορφή παρέμβασης ή λέγεται στους χρήστες ότι η αιτία είναι η τεχνητή νοημοσύνη, εκείνοι επιστρέφουν στο chatbot, το οποίο με τη σειρά του τους λέει να σταματήσουν να ακούν [εμάς].
Των Jacob Burg και Sam Dorman
