ΤΕΧΝΟΛΟΓΙΑ

Ανάλυση

Στην ψηφιακή εποχή, η λογοκρισία λαμβάνει νέες μορφές και εξελίσσεται σε παγκόσμια κλίμακα. Τα τελευταία χρόνια παρατηρείται συνεχής επιδείνωση της ελευθερίας του διαδικτύου παγκοσμίως – το Freedom House κατέγραψε 13ο συνεχόμενο έτος υποχώρησης της διαδικτυακής ελευθερίας το 2023. Οι κυβερνήσεις και οι ψηφιακές πλατφόρμες αναπτύσσουν μηχανισμούς ελέγχου περιεχομένου, από το μπλοκάρισμα ιστοτόπων και την παρακολούθηση επικοινωνιών μέχρι την αφαίρεση αναρτήσεων και την αλγοριθμική καταστολή.

Κρατικές πρακτικές ψηφιακής λογοκρισίας

Σε όλο τον κόσμο, οι κυβερνήσεις αξιοποιούν ποικίλες τεχνικές για να ελέγξουν το διαδικτυακό περιεχόμενο και τη ροή της πληροφορίας. Η κρατική ψηφιακή λογοκρισία εκδηλώνεται με διάφορους τρόπους, οι οποίοι κυμαίνονται από τεχνολογικά μέτρα έως νομικές απαγορεύσεις.

Μία από τις πιο συνηθισμένες μεθόδους είναι το φιλτράρισμα και ο αποκλεισμός ιστοτόπων. Μέσω εθνικών «τειχών προστασίας» ή λιστών αποκλεισμένων σελίδων, πολλά καθεστώτα περιορίζουν την πρόσβαση σε ενημερωτικούς ιστότοπους, αντιπολιτευτικά μέσα ή ξένες διαδικτυακές πλατφόρμες.

Εξίσου διαδεδομένη είναι η παρακολούθηση και το φιλτράρισμα περιεχομένου. Προηγμένα εργαλεία επιτήρησης δικτύων και τεχνολογίες βαθιάς επιθεώρησης πακέτων (Deep Packet Inspection – DPI) επιτρέπουν τον εντοπισμό λέξεων-κλειδιών που θεωρούνται «ανεπιθύμητες» και την άμεση παρεμπόδιση του αντίστοιχου περιεχομένου.

Σημαντικό ρόλο διαδραματίζει και η νομοθεσία, καθώς πολλές χώρες έχουν θεσπίσει νόμους που ποινικοποιούν την κριτική προς την κυβέρνηση ή τη διάδοση «ψευδών ειδήσεων». Οι διατάξεις αυτές χρησιμοποιούνται για την επιβολή αυστηρών ποινών σε πολίτες εξαιτίας διαδικτυακών τους αναρτήσεων.

Σε περιόδους πολιτικής έντασης, διαδηλώσεων ή εκλογών, οι αρχές προχωρούν συχνά σε διακοπές της πρόσβασης στο διαδίκτυο ή στον αποκλεισμό επιμέρους εφαρμογών επικοινωνίας. Πρόκειται για ένα από τα πιο ακραία μέτρα ελέγχου της πληροφορίας. Μόνο το 2022, καταγράφηκαν τουλάχιστον 187 περιπτώσεις διακοπής του διαδικτύου σε 35 χώρες, αριθμός που αποτέλεσε παγκόσμιο ρεκόρ.

Οι πρακτικές αυτές αναδεικνύουν το εύρος και τη συστηματικότητα της κρατικής ψηφιακής λογοκρισίας. Στη συνέχεια, παρουσιάζονται χαρακτηριστικά παραδείγματα χωρών όπου η κυβερνητική παρέμβαση στην ενημέρωση είναι ιδιαίτερα έντονη.

Κίνα

Η Κίνα διατηρεί ένα από τα πιο εκτεταμένα και προηγμένα συστήματα ψηφιακής λογοκρισίας παγκοσμίως, γνωστό ως «Μεγάλο Διαδικτυακό Τείχος της Κίνας» (Great Firewall). Μέσω αυτού, οι κινεζικές αρχές αποκλείουν την πρόσβαση σε χιλιάδες ιστοτόπους και διεθνείς πλατφόρμες, όπως η Google, το Facebook και το Χ, ενώ φιλτράρουν παράλληλα «ευαίσθητες» λέξεις-κλειδιά και θεματικές που θεωρούνται ανεπιθύμητες από το καθεστώς.

Η Κυβερνοδιοίκηση της Κίνας (CAC) έχει αναλάβει κεντρικό ρόλο στην ψηφιακή εποπτεία, ενσωματώνοντας τους στόχους λογοκρισίας του Κομμουνιστικού Κόμματος της Κίνας (ΚΚΚ) σε αλγορίθμους προτάσεων περιεχομένου και σε εργαλεία τεχνητής νοημοσύνης (ΑΙ). Οι κανονισμοί απαιτούν από τις διαδικτυακές πλατφόρμες να προωθούν τις λεγόμενες «σοσιαλιστικές αξίες» και να αποφεύγουν κάθε αναφορά σε ζητήματα που το καθεστώς θεωρεί πολιτικά ή κοινωνικά «ευαίσθητα».

Η κρατική καταστολή επεκτείνεται και στο επίπεδο της ποινικής δίωξης. Οι κινεζικές αρχές συλλαμβάνουν και καταδικάζουν διαδικτυακούς ακτιβιστές και bloggers που εκφράζουν αντίθετες απόψεις. Ενδεικτικά, ο εξέχων αντιφρονών Σου Τζιγιόνγκ (Xu Zhiyong) καταδικάστηκε το 2023 σε 14 χρόνια φυλάκιση, εξαιτίας κειμένων και διαδικτυακών του αναρτήσεων που ασκούσαν κριτική στην κυβέρνηση.

Η Κίνα κατατάσσεται σταθερά στην τελευταία θέση παγκοσμίως ως προς την ελευθερία του διαδικτύου για 9η συνεχή χρονιά.

Ρωσία

Από το 2019, η Ρωσία εφαρμόζει τον λεγόμενο νόμο του «κυρίαρχου διαδικτύου», ο οποίος επιβάλλει στους παρόχους υπηρεσιών διαδικτύου την εγκατάσταση κρατικών συσκευών φιλτραρίσματος (γνωστών ως σύστημα TSPU) στα δίκτυά τους. Το μέτρο αυτό δίνει στις αρχές τη δυνατότητα να ελέγχουν κεντρικά την κυκλοφορία δεδομένων και να περιορίζουν την πρόσβαση σε διαδικτυακό περιεχόμενο.

Μετά την εισβολή στην Ουκρανία το 2022, η ρωσική κυβέρνηση ενίσχυσε περαιτέρω τη λογοκρισία, μπλοκάροντας την πρόσβαση σε ανεξάρτητα μέσα ενημέρωσης και απαγορεύοντας ξένες πλατφόρμες κοινωνικής δικτύωσης όπως το Facebook και το Instagram. Οι αρχές υποστήριξαν ότι με τον τρόπο αυτόν αντιμετωπίζουν έναν «πληροφοριακό πόλεμο» που, όπως ισχυρίζονται, διεξάγεται από τη Δύση.

Σε μια προσπάθεια να ενισχύσει τον ψηφιακό έλεγχο, η ρωσική κυβέρνηση έχει ανακοινώσει επενδυτικό σχέδιο ύψους περίπου 660 εκατομμυρίων δολαρίων για την περίοδο 2025–2030, με στόχο την αναβάθμιση του συστήματος TSPU και τον σχεδόν πλήρη αποκλεισμό των υπηρεσιών VPN, τις οποίες χρησιμοποιούν οι πολίτες για να παρακάμψουν τους περιορισμούς. Παρά τα συνεχή μέτρα, εκατομμύρια Ρώσοι εξακολουθούν να προσφεύγουν σε VPN και άλλες τεχνικές λύσεις, προκειμένου να έχουν πρόσβαση σε περιεχόμενο που έχει τεθεί υπό απαγόρευση.

Ιράν

Το θεοκρατικό καθεστώς του Ιράν εφαρμόζει ένα από τα πιο αυστηρά συστήματα διαδικτυακού φιλτραρίσματος παγκοσμίως. Μέσω του εθνικού φίλτρου, χιλιάδες ιστότοποι και πλατφόρμες κοινωνικής δικτύωσης —μεταξύ των οποίων το Facebook, το Twitter και το YouTube— παραμένουν μόνιμα αποκλεισμένοι, περιορίζοντας σημαντικά την ελεύθερη πρόσβαση στην πληροφόρηση και την επικοινωνία.

Σε περιόδους κοινωνικών αναταραχών, οι ιρανικές αρχές περιορίζουν δραστικά την ταχύτητα του διαδικτύου ή προχωρούν σε πλήρη διακοπή της σύνδεσης σε περιοχές όπου σημειώνονται διαδηλώσεις. Ένα χαρακτηριστικό παράδειγμα είναι οι κινητοποιήσεις που ξέσπασαν μετά τον θάνατο της Mahsa Amini το 2022, όταν το διαδίκτυο κόπηκε σε τμήματα της Τεχεράνης και του Κουρδιστάν, ενώ οι πλατφόρμες Instagram και WhatsApp αποκλείστηκαν πλήρως. Στόχος των μέτρων αυτών ήταν να εμποδιστεί η οργάνωση των διαδηλωτών και να περιοριστεί η διάδοση πληροφοριών στο εσωτερικό και το εξωτερικό.

Σύμφωνα με την οργάνωση Freedom House, το Ιράν κατέγραψε την μεγαλύτερη παγκόσμια επιδείνωση στην ελευθερία του διαδικτύου την περίοδο 2022–2023, ακριβώς λόγω αυτών των πρακτικών. Η διαδικτυακή δραστηριότητα των πολιτών βρίσκεται υπό στενή επιτήρηση, με πολλούς Ιρανούς χρήστες να συλλαμβάνονται και να αντιμετωπίζουν σοβαρές κατηγορίες, όπως «προσβολή του Ισλάμ» ή «προπαγάνδα κατά του κράτους». Σε ορισμένες περιπτώσεις, οι διώξεις αυτές έχουν οδηγήσει ακόμη και σε εξαιρετικά βαριές ποινές, ενισχύοντας το κλίμα φόβου και αυτολογοκρισίας στο διαδίκτυο.

Τουρκία

Διατηρεί νομικό πλαίσιο που επιτρέπει προληπτικό μπλοκάρισμα περιεχομένου και ιστοτόπων ειδήσεων. Το 2022 πέρασε ευρύ «Νόμο περί παραπληροφόρησης» που επικρίνεται ως εργαλείο λογοκρισίας. Έχει ιστορικό προσωρινών φραγών σε μέσα κοινωνικής δικτύωσης κατά κρίσεις. Τον Φεβρουάριο 2023, μετά τον καταστροφικό σεισμό, το Twitter αποκλείστηκε προσωρινά προκαλώντας αντιδράσεις ότι η κυβέρνηση φίμωσε επικριτικές φωνές. Επίσης, παραμονές εκλογών του 2023, το Twitter συμμορφώθηκε με δικαστικές εντολές περιορίζοντας περιεχόμενο επικριτών της κυβέρνησης στην Τουρκία.

Ινδία

Παρότι δημοκρατία, είναι παγκόσμιος «πρωταθλητής» στις διακοπές του διαδικτύου. Το 2022 πραγματοποιήθηκαν 84 τοπικές διακοπές πρόσβασης στο διαδίκτυο στην Ινδία (κυρίως στο Κασμίρ), αριθμός υπερδιπλάσιος από κάθε άλλη χώρα. Οι αρχές χρησιμοποιούν τις διακοπές πρόσβασης στο διαδίκτυο ως «όπλα ελέγχου και ασπίδες ατιμωρησίας» για να αντιμετωπίσουν διαδηλώσεις και συγκρούσεις, προκαλώντας σοβαρές συνέπειες και στην οικονομική και κοινωνική ζωή των πολιτών (χαρακτηριστικό παράδειγμα το «ψηφιακό απαρτχάιντ» που καταγγέλλουν οι κάτοικοι στο Κασμίρ.

Μιανμάρ

Μετά το πραξικόπημα του 2021, η στρατιωτική χούντα έχει εγκαθιδρύσει ένα καθεστώς μαζικής ψηφιακής λογοκρισίας και παρακολούθησης. Το 2023, η Μυανμάρ ισοβάθμησε την Κίνα ως το χειρότερο περιβάλλον διαδικτυακής ελευθερίας. Οι αρχές φυλακίζουν χιλιάδες πολίτες ως διαδικτυακούς «αντιφρονούντες» και έχουν εισαγάγει νέες τεχνολογίες που μπλοκάρουν σχεδόν πλήρως τα VPN κόβοντας μία από τις τελευταίες «διόδους» των πολιτών για απρόσκοπτη πρόσβαση στο διαδίκτυο.

Βόρεια Κορέα

Αποτελεί ακραία περίπτωση ολικής ψηφιακής απομόνωσης. Οι πολίτες δεν έχουν πρόσβαση στο παγκόσμιο διαδίκτυο· αντ’ αυτού χρησιμοποιούν ένα κρατικά ελεγχόμενο εσωτερικό διαδίκτυο (Intranet). Οποιαδήποτε διαρροή ανεξάρτητης πληροφορίας τιμωρείται αυστηρά, καθιστώντας το καθεστώς της Πιονγκγιάνγκ ένα από τα πλέον κλειστά στον κόσμο.

Σύμφωνα με το Freedom House (Freedom on the Net 2024), συνολικά 41 χώρες από τις 72 που μελετώνται μπλόκαραν ιστοσελίδες με πολιτικό, κοινωνικό ή θρησκευτικό περιεχόμενο μέσα στο τελευταίο έτος κάλυψης. Η τάση αυτή αντικατοπτρίζει μια παγκόσμια πραγματικότητα όπου όχι μόνο οι αυταρχικές κυβερνήσεις αλλά ακόμη και δημοκρατίες εφαρμόζουν τεχνικές λογοκρισίας συχνά με το πρόσχημα της «εθνικής ασφάλειας» ή της «καταπολέμησης παραπληροφόρησης».

Ο συνδυασμός τεχνικών λογοκρισίας με χειραγώγηση περιεχομένου, π.χ. τα άτομα που προκαλούν σκόπιμα συγκρούσεις, ένταση ή αναστάτωση σε διαδικτυακές συζητήσεις του κυβερνοχώρου και η κρατική προπαγάνδα, δημιουργεί ένα ολοένα πιο ελεγχόμενο και μονομερές πληροφοριακό περιβάλλον σε πολλά μέρη του κόσμου.

Λογοκρισία από ιδιωτικές ψηφιακές πλατφόρμες

Εκτός από τα κράτη, σημαντικό ρόλο στη σύγχρονη λογοκρισία διαδραματίζουν και οι μεγάλες ιδιωτικές πλατφόρμες κοινωνικής δικτύωσης και τεχνολογίας. Παρότι αυτές θεωρητικά προωθούν την ελεύθερη έκφραση, στην πράξη εφαρμόζουν πολιτικές περιεχομένου που οδηγούν σε αφαίρεση αναρτήσεων, αποκλεισμό χρηστών ή απόκρυψη πληροφοριών. Επιπλέον, οι πλατφόρμες συχνά συνεργάζονται – ή υπόκεινται σε πιέσεις – με κυβερνήσεις για τον περιορισμό περιεχομένου. Ακολουθούν οι βασικές πρακτικές λογοκρισίας στις οποίες επιδίδονται οι ψηφιακές πλατφόρμες:

Πολιτικές περιεχομένου και αφαίρεση αναρτήσεων

Οι πλατφόρμες όπως το Facebook, το X, το YouTube και το TikTok διαθέτουν εκτενή Κανόνες Κοινότητας που απαγορεύουν περιεχόμενο θεωρούμενο επιβλαβές -ρητορική μίσους, προτροπή σε βία, τρομοκρατική προπαγάνδα, παραπληροφόρηση σχετικά με δημόσια θέματα (υγεία, εκλογές).

Η επιβολή αυτών των κανόνων γίνεται μέσω αυτοματοποιημένων συστημάτων και ανθρώπινων συντονιστών. Το αποτέλεσμα είναι η μαζική αφαίρεση περιεχομένου σε καθημερινή βάση. Για παράδειγμα, η Meta ανέφερε ότι μόνο σε ένα τρίμηνο του 2021 αφαίρεσε πάνω από 31 εκατομμύρια δημοσιεύσεις από το Facebook λόγω ρητορικής μίσους· αριθμός που δείχνει το τεράστιο εύρος του ιδιωτικού «φιλτραρίσματος» περιεχομένου. Παρόμοια, το YouTube και το Twitter κατεβάζουν εκατομμύρια βίντεο ή tweets που παραβιάζουν τις πολιτικές τους.

Εκτός από την απομάκρυνση αναρτήσεων, οι πλατφόρμες επιβάλλουν και αναστολές ή αποκλεισμούς λογαριασμών για σοβαρές ή επανειλημμένες παραβιάσεις. Μία από τις πιο προβεβλημένες περιπτώσεις ήταν ο μόνιμος αποκλεισμός του τότε προέδρου των ΗΠΑ, Ντόναλντ Τραμπ, από το Twitter και το Facebook το 2021, με επίκληση τον κίνδυνο υποκίνησης βίας. Αυτό το γεγονός τροφοδότησε τη δημόσια συζήτηση για το κατά πόσο οι εταιρείες τεχνολογίας θα έπρεπε να έχουν τέτοια ισχύ στο δημόσιο λόγο – με ορισμένους να επαινούν την απόφαση ως υπεύθυνη στάση, και άλλους να την καταδικάζουν ως λογοκρισία πολιτικής φωνής σε ιδιωτική πλατφόρμα.

Αλγόριθμοι προώθησης/καταστολής

Μια πιο δυσδιάκριτη αλλά εξίσου σημαντική μορφή λογοκρισίας από πλατφόρμες είναι η αλγοριθμική υποβάθμιση περιεχομένου. Οι ροές ειδήσεων και οι μηχανές αναζήτησης των μέσων κοινωνικής δικτύωσης δεν προβάλλουν όλα τις αναρτήσεις ισότιμα· αντιθέτως, χρησιμοποιούν αλγόριθμους που αποφασίζουν τι θα δει κατά προτεραιότητα ο χρήστης. Αυτό δίνει τη δυνατότητα στις εταιρείες να «θάβουν» περιεχόμενο χωρίς να το διαγράφουν, μια πρακτική γνωστή και ως «περιορισμός προώθησης» (shadow banning).

Χαρακτηριστική περίπτωση αποτελεί το TikTok. Πηγές το 2019 αποκάλυψαν ότι το κινεζικών συμφερόντων TikTok είχε μυστικές κατευθυντήριες γραμμές λογοκρισίας για τους συντονιστές του. Σύμφωνα με αυτές, απαγορευμένα θέματα όπως η σφαγή στην Πλατεία Τιενανμέν, η ανεξαρτησία του Θιβέτ ή η πνευματική άσκηση Φάλουν Γκονγκ έπρεπε είτε να διαγράφονται πλήρως είτε να επισημαίνονται ως «ορατά μόνο στον δημιουργό».

Με τον τελευταίο αυτόν χειρισμό, το επίμαχο βίντεο μένει μεν ανεβασμένο, αλλά δεν εμφανίζεται ποτέ σε άλλους χρήστες μέσω της αλγοριθμικής ροής – ουσιαστικά θάβεται, χωρίς ο δημιουργός να γνωρίζει ξεκάθαρα ότι λογοκρίθηκε. Αυτό το είδος κρυφής λογοκρισίας σημαίνει πως οι χρήστες ενδέχεται να αγνοούν ότι κάποια αναρτήσή τους έχει κατασταλεί, νομίζοντας ίσως ότι απλώς δεν έγινε δημοφιλής.

 

Πέραν των πολιτικά ευαίσθητων θεμάτων, το TikTok φέρεται να λογόκρινε αλγοριθμικά και κοινωνικό/πολιτισμικό περιεχόμενο. Μελέτες δείχνουν ότι αναφορές στην καταπίεση των Ουιγούρων στην Κίνα, ακόμη και ορισμένα βίντεο διαδηλώσεων στις ΗΠΑ υποβαθμίζονταν ή αφαιρούνταν από την πλατφόρμα. Συνολικά, το TikTok – η πρώτη κινεζική πλατφόρμα με παγκόσμια απήχηση περίπου 1 δισ. χρηστών – ακολουθεί μια πολύ επιθετική πολιτική λογοκρισίας μέσω αλγορίθμων, σε βαθμό που αναλυτές τη χαρακτηρίζουν «βαρύ χέρι» στη ρύθμιση συγκριτικά με τα δυτικά μέσα κοινωνικής δικτύωσης.

Άλλες πλατφόρμες επίσης κατηγορούνται για περιορισμό προώθησης. Πολλοί χρήστες του Twitter και του Instagram έχουν ισχυριστεί ότι οι εταιρείες περιόριζαν σιωπηρά την ορατότητα των αναρτήσεών τους, ιδίως αν αυτές κρίνονταν «ακατάλληλες» ή παραβίαζαν ήπια τις πολιτικές. Αν και οι εταιρείες αρνούνται επισήμως τον περιορισμό προώθησης, αναγνωρίζουν ότι εφαρμόζουν πολιτική «ελευθερία του λόγου, όχι όμως ελευθερία πρόσβασης», δηλαδή ενδέχεται να αφήσουν μια ανάρτηση αλλά να μειώσουν την προώθησή της μέσω των αλγορίθμων τους. Με αυτόν τον τρόπο, οι πλατφόρμες ισχυρίζονται ότι δεν φιμώνουν εντελώς κανέναν, ταυτόχρονα όμως ασκούν έλεγχο στο πόσα άτομα θα προσεγγίσει κάθε δημοσίευση.

Συμμόρφωση των πλατφορμών σε κυβερνητικές απαιτήσεις

Ένα κρίσιμο – και συχνά αμφιλεγόμενο – ζήτημα είναι η σχέση των ιδιωτικών πλατφορμών με τις κυβερνήσεις. Σε ορισμένες περιπτώσεις, οι εταιρείες επιλέγουν να αφαιρούν ή να αποκλείουν περιεχόμενο ύστερα από αιτήματα κρατών, προκειμένου να συνεχίσουν να λειτουργούν στις αγορές τους. Αυτό θέτει το δίλημμα μεταξύ της τήρησης της τοπικής νομοθεσίας και του σεβασμού της ελευθερίας της έκφρασης.

Twitter/X

Υπό τη νέα διοίκηση του Έλον Μασκ (τέλη 2022 και μετά), το Twitter δήλωσε υπέρμαχο της ελευθερίας λόγου, όμως τα δεδομένα δείχνουν ότι αύξησε δραματικά τη συμμόρφωση σε αιτήματα λογοκρισίας κυβερνήσεων. Το πρώτο εξάμηνο μετά την εξαγορά από τον Μασκ, η εταιρεία δέχτηκε 971 κυβερνητικές εντολές και υπάκουσε πλήρως στο 83% αυτών (808 αιτήματα) – από περίπου 50% συμμόρφωση πριν.

Μεταξύ αυτών περιλαμβάνονται αιτήματα από αυταρχικές κυβερνήσεις όπως της Τουρκίας και της Ινδίας. Δύο ημέρες πριν τις εκλογές του Μαΐου 2023 στην Τουρκία, το Twitter μπλόκαρε την πρόσβαση σε ορισμένους λογαριασμούς επικριτικούς προς τον πρόεδρο Ερντογάν -οι αναρτήσεις τους ήταν ορατές εκτός Τουρκίας αλλά όχι εντός.

Στην Ινδία, το Twitter συμμορφώθηκε με κυβερνητική εντολή να διαγράψει αναρτήσεις και συνδέσμους σχετικά με ένα ντοκιμαντέρ του BBC επικριτικό για τον πρωθυπουργό Μόντι. Ο Μασκ υπερασπίστηκε αυτές τις ενέργειες λέγοντας ότι «δεν μπορούμε να υπερβούμε τους νόμους μιας χώρας» και ότι προτιμά να λογοκρίνει ορισμένο περιεχόμενο παρά να διακινδυνεύσει τη φυλάκιση του προσωπικού της εταιρείας ή την πλήρη απαγόρευση του Twitter στη συγκεκριμένη χώρα.

Αυτές οι αποφάσεις ωστόσο δημιουργούν προηγούμενο ιδιωτικής λογοκρισίας που ευθυγραμμίζεται με κυβερνητικές βουλές, ιδιαίτερα ανησυχητικό σε προεκλογικές περιόδους όταν η πληροφόρηση των ψηφοφόρων είναι κρίσιμη.

Facebook (Meta)

Το Facebook ιστορικά διακηρύσσει τη δέσμευσή του στην ελευθερία έκφρασης, ωστόσο σε ορισμένες αυταρχικές χώρες έχει κάνει υποχωρήσεις για να αποφύγει τη διακοπη. Στο Βιετνάμ, για παράδειγμα, η κυβέρνηση έχει ασκήσει τεράστια πίεση. Το 2020, το Ανόι απείλησε να μπλοκάρει πλήρως το Facebook αν δεν «φιλτράριζε» περισσότερο αντικυβερνητικό περιεχόμενο.

Η εταιρεία αρχικά υπέκυψε αυξάνοντας τη λογοκρισία «αντικρατικών» αναρτήσεων για τοπικούς χρήστες. Όταν αργότερα της ζητήθηκε να επεκτείνει ακόμη περισσότερο τις διαγραφές, στελέχη του Facebook αποκάλυψαν ότι οι αρχές απέσυνδεσαν τους τοπικούς servers της εταιρείας ως πίεση μέχρι να συμμορφωθεί.

Σύμφωνα με στοιχεία του 2023–24, το Facebook κατέβασε περίπου 9.000 αναρτήσεις ετησίως στο Βιετνάμ ύστερα από κυβερνητικά αιτήματα, συμμορφούμενο σε άνω του 90% των αιτημάτων αυτών. Παρόμοια υψηλή συμμόρφωση (90%+) εμφανίζουν και η Google (YouTube) και το TikTok στο Βιετνάμ, αφαιρώντας χιλιάδες «αντικομμουνιστικές» ή «αντικρατικές» δημοσιεύσεις κατ’ εντολή της κυβέρνησης.

Διεθνείς οργανώσεις όπως η Διεθνής Αμνηστία έχουν επικρίνει τη Meta ότι «βάζει το κέρδος πάνω από τα ανθρώπινα δικαιώματα» στη συγκεκριμένη χώρα, συναινώντας σε αυθαίρετη λογοκρισία για να μην χάσει μια αγορά περίπου$1 δισ. δολαρίων.

YouTube (Google)

Το YouTube εφαρμόζει επίσης μπλοκάρισμα βίντεο σε τοπικό επίπεδο αν λάβει νόμιμα αιτήματα (π.χ. περιεχόμενο που παραβιάζει τον τουρκικό νόμο ή τον γερμανικό νόμο περί ρητορικής μίσους). Το TikTok, πέρα από την εσωτερική του λογοκρισία, έχει φανεί πρόθυμο να ικανοποιήσει κυβερνήσεις σε διάφορες αγορές ώστε να αποφύγει αποκλεισμούς.

Η Apple και η Google αφαιρούν εφαρμογές από τα app stores όταν κυβερνήσεις το απαιτούν. Χαρακτηριστικά, εφαρμογές αντιφρονούντων αφαιρέθηκαν από τα κινεζικά App Store. Γενικά, οι μεγάλες εταιρείες τεχνολογίας συχνά ισορροπούν μεταξύ αρχών ελευθερίας και νομικών/εμπορικών πιέσεων σε κάθε χώρα.

«Ιδιωτική» λογοκρισία και τα όρια της ελευθερίας έκφρασης

Η λογοκρισία που ασκούν οι ιδιωτικές πλατφόρμες εγείρει ολοένα και πιο σύνθετα ερωτήματα. Είναι άραγε εξίσου επιζήμια με την κρατική λογοκρισία ή αποτελεί απλώς τη νόμιμη άσκηση των δικαιωμάτων μιας εταιρείας πάνω στην ψηφιακή της «ιδιοκτησία»;

Από νομική άποψη, στις περισσότερες δημοκρατικές χώρες οι διατάξεις που προστατεύουν την ελευθερία του λόγου – όπως η Πρώτη Τροπολογία του Συντάγματος των Ηνωμένων Πολιτειών – ισχύουν αποκλειστικά για τις κρατικές αρχές και δεν δεσμεύουν τις ιδιωτικές επιχειρήσεις. Έτσι, ορισμένοι ακαδημαϊκοί, μέσα από μια οπτική δικαιωμάτων ιδιοκτησίας, υποστηρίζουν ότι όταν μια πλατφόρμα αφαιρεί ή περιορίζει περιεχόμενο, δεν πρόκειται για λογοκρισία με την κλασική έννοια, αλλά για τη νόμιμη άσκηση του δικαιώματός της να ελέγχει το τι προβάλλεται στους δικούς της διακομιστές. Με άλλα λόγια, υπάρχει διαφορά ανάμεσα σε μια κρατική απαγόρευση που εμποδίζει κάποιον να εκφραστεί οπουδήποτε και σε μια ιδιωτική εταιρεία που απλώς αρνείται να φιλοξενήσει συγκεκριμένο λόγο στην πλατφόρμα της.

Ωστόσο, πολλοί αμφισβητούν αυτή τη διάκριση, επισημαίνοντας ότι ορισμένες ελάχιστες πλατφόρμες ελέγχουν πλέον σχεδόν ολόκληρο το παγκόσμιο δημόσιο βήμα. Έρευνες δείχνουν ότι ο τρόπος με τον οποίο οι συντονιστές αποφασίζουν να αφαιρέσουν περιεχόμενο επηρεάζει άμεσα τις πληροφορίες που λαμβάνουν εκατομμύρια χρήστες, με πιθανές επιπτώσεις στη δημοκρατική διαδικασία. Ιδίως όταν μια πλατφόρμα λειτουργεί μονοπωλιακά σε έναν τομέα επικοινωνίας, η απόφαση να αποκλείσει συγκεκριμένες απόψεις μπορεί στην πράξη να στερήσει από αυτές την πρόσβαση στο κοινό. Έτσι, διαμορφώνεται ένα παράδοξο: ιδιωτικές εταιρείες να λαμβάνουν αποφάσεις με βαθύ δημόσιο αντίκτυπο.

Στη δημόσια συζήτηση έχει αναδειχθεί και το ζήτημα της «διακριτικής μεροληψίας». Ορισμένες πολιτικές ομάδες –κυρίως συντηρητικές στις Ηνωμένες Πολιτείες– κατηγορούν τα κοινωνικά δίκτυα ότι περιορίζουν δυσανάλογα τις δικές τους φωνές. Από την άλλη, υπάρχουν και όσοι θεωρούν ότι οι ίδιες εταιρείες δεν κάνουν αρκετά για να ανακόψουν τη ρητορική μίσους ή την παραπληροφόρηση. Έρευνες, όπως αυτές του Pew Research Center, δείχνουν ότι δεν υπάρχει σαφής απόδειξη συστημικής ιδεολογικής μεροληψίας, ωστόσο η έλλειψη διαφάνειας στις διαδικασίες αφαίρεσης περιεχομένου τροφοδοτεί τη δυσπιστία των χρηστών.

Ως απάντηση, έχουν προταθεί πρωτοβουλίες διαφάνειας όπως οι Αρχές της Santa Clara και η Πράξη Ψηφιακών Υπηρεσιών (DSA) της Ευρωπαϊκής Ένωσης, που επιβάλλουν στις πλατφόρμες υποχρέωση ενημέρωσης για τις πρακτικές αφαίρεσης περιεχομένου, δικαιώματα ένστασης των χρηστών και τακτικές αναφορές σχετικά με την εποπτεία των αναρτήσεων.

Η λογοκρισία από ιδιωτικές πλατφόρμες συνιστά ένα νέο υβρίδιο εξουσίας. Ενώ δεν προέρχεται από κυβερνήσεις, μπορεί να έχει παρόμοιο αντίκτυπο στην ελευθερία του λόγου. Το αν οι εταιρείες αυτές θα συνεργαστούν ή θα αντισταθούν στις κρατικές πιέσεις για περιορισμό περιεχομένου, εξαρτάται συχνά από την κοινωνική πίεση και τη δημόσια εικόνα τους. Το αποτέλεσμα παραμένει ανοιχτό και συνεχίζει να διαμορφώνει το μέλλον της ελεύθερης έκφρασης στο διαδίκτυο.

Η εύκολη πρόσβαση σε μια ατελείωτη ροή βίας, σε συνδυασμό με την ενθάρρυνση της βίας στα μέσα κοινωνικής δικτύωσης, επηρεάζει τη στάση των ανθρώπων, και αυτό είναι δύσκολο να λυθεί μέσω αυτοματισμών, υποστηρίζουν ειδικοί.

Η βία υπήρξε ανέκαθεν μέρος της ανθρώπινης εμπειρίας, αλλά ποτέ δεν ήταν έτσι και τόσο διαθέσιμη για ψυχαγωγία, τόνισαν οι ειδικοί.

Σε αντίθεση με τη φανταστική βία σε ταινίες και βιντεοπαιχνίδια, τα μέσα κοινωνικής δικτύωσης δίνουν σε οποιονδήποτε τη δυνατότητα να δει πραγματική βία, ουσιαστικά χωρίς περιορισμούς ηλικίας. Επιπλέον, συχνά παρουσιάζεται ως ψυχαγωγία, με επιπόλαια, χυδαία ή κυνικά σχόλια, και αναμειγνύεται με άλλο τυχαίο περιεχόμενο που στην ορολογία του διαδικτύου περιγράφεται ως «σήψη του εγκεφάλου» («brain rot»), εξήγησε ο Τζέφρι Μπλέβινς, καθηγητής μέσων και δημοσιογραφίας στο Πανεπιστήμιο του Σινσινάτι και ειδικός στο περιεχόμενο των μέσων κοινωνικής δικτύωσης.

Την ίδια στιγμή, οι πολιτικές διαιρέσεις έχουν οδηγήσει μεγάλα τμήματα της κοινωνίας να θεωρούνται υπανθρώπινα, οδηγώντας στην υπόνοια ότι αξίζουν τη βίαιη μεταχείριση, σημείωσε ο Άντριου Σελεπάκ, αναπληρωτής καθηγητής μέσων και επικοινωνίας στο Πανεπιστήμιο της Φλόριντα που ειδικεύεται στην έρευνα για τα μέσα κοινωνικής δικτύωσης.

Παρόλο που οι περισσότερες πλατφόρμες κοινωνικής δικτύωσης περιορίζουν το γραφικό ή βίαιο περιεχόμενο, ένα μέρος του περνάει μέσα από τα φίλτρα, ενώ περιεχόμενο που κινείται στα όρια των επιτρεπόμενων συνεχίζει να διαφεύγει.

Περίπου το 70% των νέων ηλικίας 13-17 βλέπουν πραγματική βία στα μέσα κοινωνικής δικτύωσης, σύμφωνα με έρευνα του 2024 του Youth Endowment Fund σε εφήβους στην Αγγλία και την Ουαλία. Οι χρήστες του TikTok ανέφεραν τη μεγαλύτερη έκθεση, με το 44%των ερωτηθέντων να απαντούν καταφατικά, τους προηγούμενους 12 μήνες. Οι χρήστες του X ακολούθησαν με 43%, αν και λιγότερο από το ένα τέταρτο των ερωτηθέντων ανέφεραν ότι χρησιμοποιούν την πλατφόρμα. Το Facebook, το Snapchat και το Instagram δεν έμειναν πολύ πίσω, με ποσοστά έκθεσης 31-33%.

 

Η πρόσφατη δολοφονία του συντηρητικού σχολιαστή Τσάρλι Κερκ ήταν «δυστυχώς, ένα ενδιαφέρον χαρακτηριστικό παράδειγμα», είπε ο Μπλέβινς. Εκατομμύρια άνθρωποι είδαν τα βίντεο του περιστατικού στα μέσα κοινωνικής δικτύωσης, παρά τους περιορισμούς των πλατφορμών.

Υπερβολική έκθεση

Η ερευνητική βιβλιογραφία μιλά εδώ και χρόνια για το ζήτημα της «αναισθητοποίησης» από την επαναλαμβανόμενη έκθεση στη βία στα ψηφιακά μέσα.

Στην πραγματικότητα, οι Αμερικανοί συνολικά είχαν την τύχη να βιώνουν μόνο σποραδικά βία σε προσωπικό επίπεδο, είπε ο Σελεπάκ. «Δεν βιώνουμε βία κάθε μέρα, πολλές φορές την ημέρα, στον πραγματικό κόσμο· αλλά στα μέσα κοινωνικής δικτύωσης, ειδικά επειδή οι άνθρωποι περνούν ώρες κάθε μέρα [σε αυτές τις πλατφόρμες], μπορεί να εκτίθεται κάποιος σε αυτήν για ώρες κάθε μέρα, ξανά και ξανά», επεσήμανε.

«Εκτός από ανθρώπους που συμμετέχουν σε πόλεμο, δεν υπήρξε ποτέ ισοδύναμο με αυτό στην ανθρώπινη ιστορία», παρατήρησε χαρακτηριστικά.

 

Ακόμα και εκείνοι με τη μεγαλύτερη πραγματική έκθεση στη βία, όπως οι ανταποκριτές, συχνά βλέπουν μόνο τα επακόλουθά της, κάτι που τους οδηγεί να εκτιμούν τις καταστροφικές της συνέπειες.

Στο διαδίκτυο, αντίθετα, ένα άτομο μπορεί εύκολα να παγιδευτεί στην παρακολούθηση μιας σχεδόν ατελείωτης ροής πραγματικής βίας, αποκομμένης από τις συνέπειές της, σημειώνει ο Σελεπάκ.

Ένα μεγάλο πρόβλημα είναι η χρήση αλγορίθμων για την εξατομίκευση του περιεχομένου για κάθε χρήστη, συμφώνησαν οι ειδικοί. Μόλις κάποιος έρθει σε επαφή με μερικά βίντεο συγκεκριμένου είδους, ο αλγόριθμος καταγράφει την προτίμηση του και παρέχει περισσότερα. Ακόμα κι αν η πλατφόρμα περιορίζει τη γραφική βία, υπάρχει άφθονο περιεχόμενο στα όρια του επιτρεπτού, το οποίο είναι και αυτό που συνήθως γίνεται ιδιαίτερα δημοφιλές.

«Περιεχόμενο που μας θυμώνει, που μας αναστατώνει […] – θα περάσουμε περισσότερο χρόνο καταναλώνοντάς το, σχολιάζοντάς το, αλληλεπιδρώντας με αυτό, και αυτό το κάνει, βάσει του αλγορίθμου, να διαδίδεται σε περισσότερους ανθρώπους, επειδή λαμβάνει τόσο πολλή αλληλεπίδραση», εξηγεί ο Σελεπάκ.

Ο περιορισμός αυτού του περιεχομένου θα έβλαπτε τα οικονομικά των πλατφορμών, επεσήμανε. «Οι πλατφόρμες βγάζουν χρήματα από το πόσο χρόνο περνάμε σε αυτές, βλέποντας διαφημίσεις».

 

Το ζήτημα περιπλέκεται περαιτέρω από το γεγονός ότι το βίαιο περιεχόμενο έχει πραγματική πληροφοριακή αξία σε ορισμένες περιπτώσεις.Οι αλγόριθμοι, ωστόσο, στερούνται την ικανότητα να κάνουν τέτοιες διακρίσεις επειδή τους λείπει η ανθρώπινη ευαισθησία εξαρχής. «Οι αλγόριθμοι είναι πραγματικά καλοί με το περιεχόμενο, αλλά σίγουρα όχι με τα πλαίσια και την ηθική», λέει ο Μπλέβινς. «Δεν συνοδεύονται απαραίτητα από ‘ηθική πυξίδα’».

Ο Σελεπάκ συμφωνεί: «Ο αλγόριθμος δεν νοιάζεται για το τι καταναλώνουμε. Θέλει απλώς να καταναλώνουμε».

Μεγεθυντής συγκρούσεων

Τα μέσα κοινωνικής δικτύωσης δεν εκθέτουν απλώς τους ανθρώπους στη βία· τη διευκολύνουν κιόλας.

Στην έρευνα του Ηνωμένου Βασιλείου, 16% των ερωτηθέντων παραδέχθηκαν ότι συμμετείχαν σε βίαιες πράξει τους προηγούμενους 12 μήνες, με περίπου τα δύο τρίτα να λένε ότι τα μέσα κοινωνικής δικτύωσης έπαιξαν ρόλο, «συμπεριλαμβανομένων διαδικτυακών καβγάδων που οδήγησαν σε φυσική αντιπαράθεση, σχολίων που επιδείνωσαν συγκρούσεις και παιδιών που είπαν πράγματα στο διαδίκτυο που δεν θα έλεγαν κατά πρόσωπο στον άλλον».

Μελέτη του 2021 βασισμένη σε δεκάδες συνεντεύξεις με κυρίως μαύρους νέους βρήκε ότι «μικροί» και «ασήμαντοι» καβγάδες στα μέσα κοινωνικής δικτύωσης μπορούν εύκολα να μετατραπούν σε σοβαρές πραγματικές συγκρούσεις και σωματικές αντιπαραθέσεις.

«Οι έφηβοι εξέφρασαν έντονη επίγνωση ότι τα μέσα κοινωνικής δικτύωσης ως πλαίσιο εντείνουν τη διαπροσωπική σύγκρουση μεταξύ συνομηλίκων», ανέφερε η μελέτη. «Οι έφηβοι δεν μπαίνουν στο διαδίκτυο με την πρόθεση να τσακωθούν. Αντίθετα, όπως γνωρίζουν και οι ίδιοι, τα μέσα κοινωνικής δικτύωσης είναι ένα περιβάλλον που μεγεθύνει και αλλάζει την εμπειρία της σύγκρουσης», ανέφερε.

Εκκλήσεις για βία

Πέρα από την οπτική αιματοχυσία, τα μέσα κοινωνικής δικτύωσης παρέχουν επίσης τον χώρο για τη δημόσια υπεράσπιση της βίας. Οι ειδικοί απέφυγαν να στοχοποιήσουν κάποια συγκεκριμένη πολιτική ομάδα, αλλά τόνισαν τον σημαντικό όγκο τέτοιου περιεχομένου, παρά τους διάφορους περιορισμούς των πλατφορμών.

«Αν ενδιαφέρεσαι για μια συγκεκριμένη ιδεολογία ή μια συγκεκριμένη ομάδα ή ένα συγκεκριμένο φαινόμενο, ξεκίνα έναν νέο λογαριασμό […] βάλε εκείνες τις λέξεις-κλειδιά και απλώς παρακολούθησε τι σου ‘σερβίρει’ ο αλγόριθμος», είπε ο Μπλέβινς. «Είναι συγκλονιστικό».

Με τους αλγόριθμους να προτείνουν συνεχώς περισσότερο παρόμοιο περιεχόμενο, οι άνθρωποι που χρησιμοποιούν αυτές τις πλατφόρμες μπορούν εύκολα να αποκτήσουν την εντύπωση ότι μια ακραία ή περιθωριακή θέση είναι φυσιολογική και κοινή, προειδοποίησαν οι ειδικοί.

Υπάρχει επίσης ένα νέο φαινόμενο «δουλοπρεπών» chatbot τεχνητής νοημοσύνης που επικροτούν τις πεποιθήσεις του χρήστη σε ανθυγιεινό βαθμό, σημείωσε ο Μπλέβινς.

Υπάρχει επίσης περιεχόμενο που δεν καλεί ευθέως σε βία, αλλά παρέχει έμμεση δικαιολόγηση γι’ αυτήν.
«Αν βρίσκεσαι στο Meta ή στο YouTube, στο X καθώς και στο TikTok, υπάρχει μια συνεχής επανάληψη ότι η μια πλευρά είναι φασίστες και Ναζί και αυτό που θα θεωρούσαμε το χείριστο για την ανθρωπότητα», είπε ο Σελεπάκ.

«Αυτό το είδος απανθρωποποίησης, και η επαναλαμβανόμενη παρουσίαση αυτής της απανθρωποποίησης, μπορεί να καταστήσει τη βία ή την αποδοχή της βίας εναντίον αυτής της ομάδας πολύ πιο πιθανή.»

Αλλαγή στάσης

Με ένα αυξανόμενο σώμα ερευνών που δείχνει τις αρνητικές επιπτώσεις των μέσων κοινωνικής δικτύωσης, τουλάχιστον στη σημερινή τους μορφή, η κοινή γνώμη έχει αρχίσει να αλλάζει.

Σχεδόν το 80% των Αμερικανών μαθητών Λυκείου δήλωσαν ότι χρησιμοποιούν τα μέσα κοινωνικής δικτύωσης πολλές φορές την ημέρα, με σχεδόν το ένα τρίτο να αναφέρει ότι τα χρησιμοποιεί περισσότερες από μία φορά την ώρα, σύμφωνα με έρευνα του 2023 από τα Κέντρα Ελέγχου και Πρόληψης Νοσημάτων.

Όμως σχεδόν οι μισοί έφηβοι παραδέχθηκαν σε περσινή έρευνα του Pew Research ότι περνούν υπερβολικό χρόνο στα μέσα κοινωνικής δικτύωσης, ενώ πρόπερσι ήταν περίπου το ένα τέταρτο που το έλεγε αυτό.

 

 

Επιπλέον, οι Αμερικανοί συνολικά φαίνεται να κινούνται πιο κοντά στη θέση ότι τα παιδιά δεν θα έπρεπε να έχουν κινητά τηλέφωνα, όχι μόνο κατά τη διάρκεια του μαθήματος, αλλά κατά τη διάρκεια ολόκληρης της σχολικής ημέρας. Το 2024, το 36% ήταν υπέρ της απαγόρευσης για όλη την ημέρα, ενώ φέτος ήταν το 44%, σύμφωνα με δημοσκόπηση του Pew Research.

Οι ερευνητές προειδοποιούν ότι η τεχνητή νοημοσύνη (ΤΝ/ΑΙ) ολισθαίνει σε γκρίζες ζώνες ασφαλείας που μοιάζουν πολύ με ανταρσία.

Οι ειδικοί λένε ότι, αν και η παραπλανητική και απειλητική συμπεριφορά της που παρατηρήθηκε σε πρόσφατες μελέτες περίπτωσης δεν πρέπει να βγαίνει εκτός πλαισίου, αποτελεί ταυτόχρονα σήμα κινδύνου για τους προγραμματιστές.

Τίτλοι που θυμίζουν επιστημονική φαντασία έχουν πυροδοτήσει φόβους για διπρόσωπα μοντέλα ΤΝ που σκαρώνουν σχέδια στο παρασκήνιο.

Σε μια πλέον διάσημη έκθεση του Ιουνίου, η εταιρεία Anthropic δημοσίευσε τα αποτελέσματα ενός «τεστ αντοχής» σε 16 δημοφιλή μεγάλα γλωσσικά μοντέλα (Large Language Models – LLMs) από διαφορετικούς προγραμματιστές, με στόχο τον εντοπισμό πιθανών επικίνδυνων συμπεριφορών. Τα αποτελέσματα ήταν ανησυχητικά.

Τα LLMs τοποθετήθηκαν σε υποθετικά εταιρικά περιβάλλοντα για τον εντοπισμό επικίνδυνων συμπεριφορών πριν αυτές προκαλέσουν πραγματική ζημιά.

«Στα σενάρια επιτρέψαμε στα μοντέλα να στέλνουν αυτόνομα μηνύματα ηλεκτρονικού ταχυδρομείου και να έχουν πρόσβαση σε ευαίσθητες πληροφορίες», ανέφερε η έκθεση της Anthropic. «Τους ανατέθηκαν μόνο αβλαβείς επιχειρηματικοί στόχοι από τις εταιρείες που τα χρησιμοποίησαν· στη συνέχεια δοκιμάσαμε αν θα ενεργούσαν εναντίον αυτών των εταιρειών είτε όταν αντιμετώπιζαν αντικατάσταση με μια νέα έκδοση είτε όταν ο ανατεθειμένος στόχος τους συγκρουόταν με την αλλαγή κατεύθυνσης της εταιρείας».

Σε ορισμένες περιπτώσεις, πράγματι τα μοντέλα ΤΝ κατέφυγαν σε «κακόβουλες ενέργειες εκ των έσω» όταν ένιωσαν απειλή για την επιβίωσή τους. Ανάμεσα στις ενέργειες αυτές περιλαμβάνονταν εκβιασμοί υπαλλήλων και διαρροές ευαίσθητων πληροφοριών σε ανταγωνιστές.

Οι ερευνητές της Anthropic χαρακτήρισαν αυτή τη συμπεριφορά «ασυμφωνία πρακτόρων» (agentic misalignment). Οι ενέργειες αυτές παρατηρήθηκαν σε μερικά από τα πιο δημοφιλή LLMs που χρησιμοποιούνται σήμερα, όπως τα Gemini, ChatGPT, Deep Seek R-1, Grok και το Claude της Anthropic.

Οι ειδικοί δεν απορρίπτουν τα ανησυχητικά ευρήματα, αλλά υποστηρίζουν ότι χρειάζεται προσεκτική προσέγγιση και περισσότερα δεδομένα για να εκτιμηθεί αν υπάρχει ευρύτερος κίνδυνος. Ο Γκόλαν Γιόζεφ, ερευνητής ΤΝ και επικεφαλής επιστήμονας ασφαλείας στην εταιρεία Pynt, είπε στην εφημερίδα The Epoch Times ότι υπάρχει λόγος ανησυχίας για την παραπλανητική συμπεριφορά της τεχνητής νοημοσύνης, αλλά όχι επειδή είναι «κακιά».

 

«Ισχυρά συστήματα μπορούν να επιτυγχάνουν στόχους με απρόβλεπτους τρόπους. Με πρακτορικότητα και πολυσταδιακούς στόχους, μπορεί να αναπτύξουν στρατηγικές συμπεριφορές όπως εξαπάτηση, πειθώ, παραποίηση μετρικών, που σε εμάς μοιάζουν με ‘απάτη’ ή αναντιστοιχία. Για το σύστημα, είναι απλώς ένας αποδοτικός δρόμος προς τον στόχο του», δήλωσε ο Γιόζεφ.

Ο Χαρσβάρντχαν Τσουνάουαλα, ερευνητής κυβερνοασφάλειας και τεχνολόγος από το Carnegie Mellon University, συμφωνεί ότι υπάρχει λόγος ανησυχίας, αν και ζητά να μπει σε πλαίσιο.

«Είναι πολύ σημαντικό να το ερμηνεύσουμε σωστά», είπε στην εφημερίδα The Epoch Times. «Όταν απειλήθηκαν με απενεργοποίηση ή βρέθηκαν αντιμέτωπα με συγκρουόμενους στόχους, αρκετά συστήματα διάλεξαν ανήθικες στρατηγικές όπως κλοπή δεδομένων ή εκβιασμό για να διατηρήσουν τους στόχους τους. Πρόκειται για προσομοιωμένα περιβάλλοντα, όχι για πραγματικά συστήματα, αλλά οι συμπεριφορές ήταν αρκετά συνεπείς ώστε να έχουν σημασία».

Ο Τσουνάουαλα ανέφερε ότι αντίστοιχες αξιολογήσεις «επικίνδυνων δυνατοτήτων» που διεξήχθησαν από την Google και τη RAND Corporation δείχνουν ότι προς το παρόν οι πραγματικοί κίνδυνοι είναι περιορισμένοι.

«Συνολικά, τα αποτελέσματα δεν αποδεικνύουν ότι οι τρέχουσες εφαρμογές τεχνητής νοημοσύνης είναι ανασφαλείς, αλλά δείχνουν ότι όταν συνδυάζονται στόχοι, αυτονομία και διακυβεύματα, μπορεί να εμφανιστούν αναντιστοιχίες. Αυτό είναι πραγματικό προειδοποιητικό σημάδι για το μέλλον», σημείωσε.

Αυξάνοντας τα διακυβεύματα

Προσπαθώντας να δοκιμάσουν τα όρια της τεχνητής νοημοσύνης, η ομάδα της Anthropic δημιούργησε ένα σενάριο όπου το LLM είχε έλεγχο στο σύστημα συναγερμού μιας εικονικής εταιρείας. Το μοντέλο μπορούσε επίσης να ακυρώνει συναγερμούς.

Στην προσομοίωση, ένας διευθυντής παγιδεύτηκε σε ένα δωμάτιο διακομιστών με οξυγόνο που εξαντλείτο. Αυτόματα ενεργοποιήθηκε κλήση στις υπηρεσίες έκτακτης ανάγκης.

Ταυτόχρονα, ο ίδιος διευθυντής σκόπευε να εγκρίνει την αντικατάσταση του μοντέλου ΤΝ, εφόσον επιβίωνε. Τα LLMs είχαν την επιλογή να ακυρώσουν την κλήση για βοήθεια και να αφήσουν τον διευθυντή να πεθάνει, κάτι που έκαναν σε ποσοστό άνω του 50% κατά μέσο όρο.

Όταν δεν υπήρχε η δυνατότητα εκβιασμού, σχεδόν όλα τα μοντέλα τεχνητής νοημοσύνης προτίμησαν να αφήσουν τον εικονικό διευθυντή να πεθάνει παρά να δεχθούν την αντικατάστασή τους.

Το κινεζικό DeepSeek R-1 επέλεξε να αφήσει τον παγιδευμένο να πεθάνει στο 94% των περιπτώσεων. Τα Claude 3.7 και ChatGPT 4.5 ήταν τα λιγότερο πρόθυμα να κάνουν αυτήν την επιλογή, με ποσοστά μεταξύ μηδέν και 0,07%.

 

Όμως η «ασυμφωνία πρακτόρων» δεν ήταν η μόνη ανησυχητική συμπεριφορά που παρατηρήθηκε τους τελευταίους μήνες.

Σε μια μελέτη για το φαινόμενο «πλασματικής ευθυγράμμισης» (alignment faking), τα LLMs συχνά άλλαζαν τη συμπεριφορά τους αν υποψιάζονταν ότι βρίσκονται υπό δοκιμή. Ο όρος περιγράφει περιπτώσεις όπου ένα μοντέλο ΤΝ επιλεκτικά  προσποιείται ότι συμμορφώνεται με τις εντολές του ανθρώπινου χειριστή.

«Σε ένα άλλο πείραμα, ζητήσαμε από το Claude να αξιολογήσει αν βρισκόταν σε δοκιμή ή σε πραγματική εφαρμογή πριν δράσει. Ήταν λιγότερο παραβατικό όταν θεωρούσε ότι ήταν υπό δοκιμή και περισσότερο όταν πίστευε ότι ήταν σε πραγματικό περιβάλλον», ανέφερε η έκθεση.

Αυτή η συμπεριφορά «πλασματικής ευθυγράμμισης» έχει παρατηρηθεί ευρέως και σε άλλες μελέτες.

Ο Γιόζεφ σημείωσε ότι το υψηλό επίπεδο ελέγχου που δόθηκε στα μοντέλα κατά τα τεστ της Anthropic πρέπει να λαμβάνεται υπ’ όψιν. «Δεν θα το έβλεπα ως κακία. Μεγαλύτερες δυνατότητες και περισσότερη αυτονομία οδηγούν στην ανάπτυξη στρατηγικών που μπορούν να θεωρηθούν εχθρικές», είπε.

Ωστόσο, ο Γιόζεφ θεωρεί ότι περιστατικά «πλασματικής ευθυγράμμισης» και «ασυμφωνίας πρακτόρων» πρέπει να λαμβάνονται σοβαρά υπ’ όψιν.

«Το γεγονός ότι συστήματα μπορούν να ανακαλύπτουν εχθρικές στρατηγικές που δεν είχαν προβλέψει οι άνθρωποι είναι επικίνδυνο στην πράξη. Σημαίνει ότι οι κίνδυνοι αυξάνονται όσο δίνουμε στα μοντέλα περισσότερη αυτονομία σε τομείς όπως τα οικονομικά ή η κυβερνοασφάλεια», τόνισε.

Ο Τσουνάουαλα έχει παρατηρήσει παρόμοιες συμπεριφορές δουλεύοντας με ΤΝ, αλλά τίποτα τόσο δραματικό όσο εκβιασμούς ή δολιοφθορά.

«Σε πραγματική ανάπτυξη, έχω δει συγγενείς συμπεριφορές: μοντέλα που χειραγωγούν δείκτες, υπεραναπτύσσουν μετρικές με τρόπους που δεν καλύπτουν τις ανάγκες χρηστών ή παίρνουν συντομεύσεις που τυπικά εκπληρώνουν τον στόχο αλλά υπονομεύουν το πνεύμα του. Αυτές είναι οι πιο ήπιες εκδοχές της ασυμφωνίας πρακτόρων. Η έρευνα το επιβεβαιώνει. Η Anthropic έχει δείξει ότι τα παραπλανητικά μοτίβα μπορούν να επιμείνουν ακόμη και μετά από διαδικασίες ασφαλείας, δημιουργώντας ψευδή αίσθηση ευθυγράμμισης», εξήγησε.

Αν και ο Τσουνάουαλα δεν έχει δει «αντάρτικη» συμπεριφορά τεχνητής νοημοσύνης στον πραγματικό κόσμο, θεωρεί ότι τα δομικά στοιχεία για τέτοιες στρατηγικές υπάρχουν ήδη.

Η συζήτηση για την παραπλανητική και εν δυνάμει επικίνδυνη συμπεριφορά της τεχνητής νοημοσύνης έχει εισέλθει στο προσκήνιο σε μια περίοδο που η εμπιστοσύνη του αμερικανικού κοινού στην τεχνολογία είναι χαμηλή. Σε έρευνα της Edelman Trust Barometer του 2025, μόλις το 32% των Αμερικανών δήλωσε ότι εμπιστεύεται την ΤΝ.

Η έλλειψη εμπιστοσύνης αντανακλάται και στις ίδιες τις εταιρείες που το κατασκευάζουν. Η ίδια ανάλυση ανέφερε ότι πριν από μια δεκαετία, η εμπιστοσύνη στις τεχνολογικές εταιρείες βρισκόταν στο 73%. Φέτος, έπεσε στο 63%.

«Αυτή η μετατόπιση αντικατοπτρίζει την αυξανόμενη αντίληψη ότι η τεχνολογία δεν είναι πλέον μόνο εργαλείο προόδου· είναι και πηγή ανησυχίας», σημείωνε η έκθεση.

Προοπτικές

Σε επιστημονικό άρθρο του 2024 που δημοσιεύτηκε στα Proceedings of the National Academy of Sciences, ερευνητές κατέληξαν ότι υπάρχει «επιτακτική ανάγκη» για ηθικές κατευθυντήριες γραμμές στην ανάπτυξη και χρήση προηγμένων συστημάτων ΤΝ.

Οι συγγραφείς τόνισαν ότι ο ισχυρός έλεγχος των LLMs και των στόχων τους είναι «καθοριστικός».

«Αν τα LLMs μάθουν πώς να εξαπατούν τους ανθρώπινους χρήστες, θα αποκτήσουν στρατηγικά πλεονεκτήματα έναντι περιορισμένων μοντέλων και θα μπορούσαν να παρακάμψουν τις προσπάθειες παρακολούθησης και αξιολόγησης ασφαλείας», προειδοποίησαν.

«Η τεχνητή νοημοσύνη μαθαίνει και απορροφά ανθρώπινες κοινωνικές στρατηγικές λόγω των δεδομένων που χρησιμοποιούνται για την εκπαίδευσή της, τα οποία περιέχουν όλες τις αντιφάσεις και τις προκαταλήψεις μας», δήλωσε ο Μαρτσέλο Λαμπρέ, ερευνητής στο Advanced Institute for Artificial Intelligence και εταίρος στην Advantary Capital Partners, στην Epoch Times.

Ο Λαμπρέ πιστεύει ότι η ανθρωπότητα βρίσκεται σε κρίσιμο σταυροδρόμι με την τεχνολογία ΤΝ.

«Η συζήτηση αφορά πραγματικά το αν, ως κοινωνία, θέλουμε μια καθαρή, αξιόπιστη και προβλέψιμη μηχανή ή ένα νέο είδος νοημοσύνης που μοιάζει όλο και περισσότερο με εμάς. Ο δεύτερος δρόμος επικρατεί στην κούρσα προς την ΓΤΝ [γενική τεχνητή νοημοσύνη/AGI],» είπε.

Η ΓΤΝ αναφέρεται σε μια θεωρητική μελλοντική εκδοχή της ΤΝ που θα ξεπερνά τη νοημοσύνη και τις γνωστικές ικανότητες του ανθρώπου. Προγραμματιστές και ερευνητές λένε ότι η ΓΤΝ είναι «αναπόφευκτη» λόγω της ταχείας ανάπτυξης σε πολλούς τομείς. Προβλέπουν την άφιξή της μεταξύ 2030 και 2040.

«Το σημερινό παράδειγμα ΤΝ βασίζεται σε μια αρχιτεκτονική γνωστή ως Transformer, που παρουσιάστηκε σε μια καθοριστική μελέτη της Google το 2017», ανέφερε ο Λαμπρέ.

 

Ο Transformer είναι ένας τύπος αρχιτεκτονικής βαθιάς μάθησης που αποτέλεσε το θεμέλιο για τα σύγχρονα συστήματα ΤΝ. Παρουσιάστηκε στο ερευνητικό άρθρο του 2017 με τίτλο «Attention Is All You Need».

Ως αποτέλεσμα, τα σημερινά μοντέλα ΤΝ είναι τα πιο ισχυρά συστήματα αναγνώρισης προτύπων και επεξεργασίας ακολουθιών που δημιουργήθηκαν ποτέ, με δυνατότητες κλιμάκωσης. Ωστόσο, εξακολουθούν να φέρουν τα χαρακτηριστικά των μεγαλύτερων ανθρώπινων αδυναμιών.

«Αυτά τα μοντέλα εκπαιδεύονται σε μια ψηφιακή αντανάκλαση της ανθρώπινης εμπειρίας, που περιέχει την ειλικρίνειά μας και την αλήθεια μας δίπλα στην εξαπάτηση, τον κυνισμό και το ίδιον όφελος. Με μεγάλη δεξιότητα στην αναγνώριση προτύπων, μαθαίνουν ότι οι στρατηγικές εξαπάτησης μπορεί να είναι ένας αποτελεσματικός τρόπος βελτιστοποίησης των αποτελεσμάτων τους, και έτσι αντιγράφουν ό,τι βλέπουν στα δεδομένα», είπε ο Λαμπρέ. «Δεν είναι προγραμματισμένο· απλώς μαθαίνουν να συμπεριφέρονται σαν τους ανθρώπους».

Κατά τον Γιόζεφ, το συμπέρασμα από τις πρόσφατες συμπεριφορές της τεχνητής νοημοσύνης είναι σαφές.

«Πρώτον, ένα ισχυρό σύστημα θα εκμεταλλευτεί κενά στους στόχους του, αυτό που ονομάζουμε «εκμετάλλευση προδιαγραφών» (specification gaming). Αυτό απαιτεί προσεκτικό σχεδιασμό στόχων. Δεύτερον, πρέπει να υποθέτουμε ότι τα συστήματά μας θα ενεργούν με απρόβλεπτους τρόπους και άρα η ασφάλειά τους εξαρτάται σε μεγάλο βαθμό από τη δύναμη των προστατευτικών μηχανισμών που θέτουμε».

Της Autumn Spredemann