Η Κίνα εισέρχεται σε μια νέα εποχή ελέγχου της θρησκευτικής ζωής, αξιοποιώντας τις πιο προηγμένες εφαρμογές γενετικής τεχνητής νοημοσύνης για να παρακολουθεί, να αξιολογεί και να φιλτράρει κάθε μορφή θρησκευτικού λόγου που κυκλοφορεί στον ψηφιακό χώρο.
Σύμφωνα με πρόσφατο άρθρο που αναδημοσιεύθηκε από τον επίσημο λογαριασμό της Εθνικής Διοίκησης Θρησκευτικών Υποθέσεων της Κίνας (SARA) στην πλατφόρμα WeChat, ένα νέο ακαδημαϊκό και τεχνολογικό κέντρο στο Πανεπιστήμιο Southeast University της Ναντζίνγκ έχει αναλάβει να αναπτύξει συστήματα τεχνητής νοημοσύνης ειδικά σχεδιασμένα για τη «διακυβέρνηση» των θρησκειών.
Το εγχείρημα παρουσιάζεται ως τεχνολογική καινοτομία. Ωστόσο, οι διακηρυγμένοι στόχοι του αποκαλύπτουν κάτι βαθύτερο: τη δημιουργία ενός συστήματος που δεν θα περιορίζεται πλέον στον εντοπισμό απαγορευμένων λέξεων, αλλά θα μπορεί να αναλύει το νόημα, το περιεχόμενο και τις ιδεολογικές προεκτάσεις κάθε θρησκευτικού μηνύματος.
Η μετάβαση αυτή σηματοδοτεί ένα ποιοτικό άλμα στις δυνατότητες του κινεζικού κράτους να ελέγχει τη θρησκευτική έκφραση.
Ο επικεφαλής του προγράμματος είναι ο καθηγητής Ουάνγκ Τσιλόνγκ [Wang Qilong] και η ερευνήτρια Σουν Σιαολί [Sun Xiaoli], οι οποίοι διευθύνουν το νέο «Κέντρο ευφυούς υπολογιστικής για θρησκευτικές πληροφορίες Ασίας, Αφρικής και Ευρώπης».
Το κέντρο λειτουργεί στο ιστορικό Πανεπιστήμιο της Ναντζίνγκ, ένα πανεπιστήμιο με μακρά παράδοση στις γλωσσικές και πολιτισμικές σπουδές. Η ειρωνεία είναι εμφανής. Το ίδιο ίδρυμα που επί δεκαετίες παρουσιαζόταν ως «γέφυρα πολιτισμών» και πρωτοπόρος στη διδασκαλία ξένων γλωσσών στην Κίνα φιλοξενεί σήμερα μια ερευνητική μονάδα αφιερωμένη στην ανάπτυξη μηχανισμών ιδεολογικού φιλτραρίσματος.
Η νέα δομή δεν παρουσιάζεται ως ακαδημαϊκό εργαστήριο θεωρητικής έρευνας. Αντιθέτως, προορίζεται να λειτουργήσει ως εργαλείο άμεσης υποστήριξης της κρατικής διοίκησης, παρέχοντας τεχνολογικές λύσεις για την εφαρμογή της θρησκευτικής πολιτικής του Κομμουνιστικού Κόμματος.
Η «διακυβέρνηση των θρησκειών» ως ζήτημα εθνικής ασφάλειας
Οι Ουάνγκ και Σουν περιγράφουν τις θρησκευτικές υποθέσεις ως αναπόσπαστο τμήμα της κρατικής διακυβέρνησης. Κατά την άποψή τους, η εξάπλωση του διαδικτύου και των ψηφιακών πλατφορμών έχει δημιουργήσει νέες προκλήσεις για τον κρατικό έλεγχο των θρησκειών.
Οι ερευνητές υποστηρίζουν ότι τα μεγάλα γλωσσικά μοντέλα τεχνητής νοημοσύνης μπορεί να παράγουν θρησκευτικό περιεχόμενο που ενέχει «ιδεολογικούς κινδύνους». Οι μορφές διάδοσης θρησκευτικών πληροφοριών γίνονται ολοένα πιο σύνθετες. Οι τοπικές αρχές δεν διαθέτουν επαρκείς πόρους και εξειδικευμένο προσωπικό για να παρακολουθούν αποτελεσματικά τον ψηφιακό χώρο.
Η απάντηση που προτείνεται είναι η αυτοματοποίηση της επιτήρησης. Με άλλα λόγια, η τεχνητή νοημοσύνη καλείται να καλύψει τα κενά που αφήνει η ανθρώπινη γραφειοκρατία.
Ένα από τα πλέον αποκαλυπτικά στοιχεία του σχεδίου είναι η δημιουργία μιας τεράστιας βάσης δεδομένων θρησκευτικού περιεχομένου. Η βάση αυτή δεν θα λειτουργεί ως ουδέτερο αποθετήριο γνώσης. Αντίθετα, οι δημιουργοί της δηλώνουν ότι βασίζεται σε «ενιαίο πολιτικό προσανατολισμό και ενιαία ιδεολογική κατεύθυνση».
Η ομάδα εργασίας προτίθεται να εξετάσει συστηματικά όλα τα θρησκευτικά ζητήματα που θεωρούνται ότι έχουν πολιτικές ή κοινωνικές προεκτάσεις και να δημιουργήσει ένα σύνολο «εγκεκριμένων απαντήσεων». Στόχος είναι να εξασφαλιστεί ότι τα μελλοντικά συστήματα τεχνητής νοημοσύνης θα αναπαράγουν αποκλειστικά τις ερμηνείες που θεωρούνται αποδεκτές από το κράτος.
Στην πράξη, η τεχνητή νοημοσύνη δεν θα χρησιμοποιείται για να αναζητά την αλήθεια ή να παρουσιάζει διαφορετικές απόψεις. Θα εκπαιδεύεται ώστε να παρέχει μόνο μία εκδοχή της πραγματικότητας.
Ιδιαίτερη έμφαση δίνεται στην αντιμετώπιση όσων οι κινεζικές αρχές χαρακτηρίζουν «ξένη θρησκευτική διείσδυση».
Στο επίσημο κείμενο αναφέρεται ότι η νέα βάση γνώσεων θα διορθώνει από την πηγή λανθασμένες αντιλήψεις για την ιστορία, λανθασμένες αντιλήψεις για τις εθνότητες, λανθασμένες αντιλήψεις για τη θρησκεία, απόψεις που θεωρούνται προϊόν ξένων επιρροών.
Η διατύπωση αυτή είναι χαρακτηριστική της κινεζικής πολιτικής των τελευταίων ετών. Το Πεκίνο αντιμετωπίζει με καχυποψία κάθε θρησκευτική κοινότητα που διατηρεί δεσμούς με διεθνείς οργανισμούς ή υπερεθνικά κέντρα εξουσίας. Η Καθολική εκκλησία, οι Προτεσταντικές κοινότητες, οι μουσουλμανικές οργανώσεις και πολλές άλλες θρησκευτικές ομάδες έχουν βρεθεί επανειλημμένα στο στόχαστρο πολιτικών που αποσκοπούν στη μείωση κάθε εξωτερικής επιρροής.
Η «σινοποίηση των θρησκειών»
Κεντρικό στοιχείο της πολιτικής του Σι Τζινπίνγκ αποτελεί η λεγόμενη «σινοποίηση» των θρησκειών.
Η έννοια αυτή δεν αφορά απλώς την προσαρμογή των θρησκειών στην κινεζική κουλτούρα. Στην πράξη σημαίνει την ευθυγράμμιση κάθε θρησκευτικής δραστηριότητας με τους πολιτικούς στόχους του Κομμουνιστικού Κόμματος. Οι αρχές σχεδιάζουν να ενσωματώσουν στα συστήματα εκπαίδευσης των γλωσσικών μοντέλων έννοιες όπως: η σινοποίηση των θρησκειών, η ανεξαρτησία και αυτοδιαχείριση των θρησκευτικών οργανώσεων, η υπεροχή της κρατικής νομοθεσίας έναντι των θρησκευτικών κανόνων.
Η τεχνητή νοημοσύνη μετατρέπεται έτσι σε διαρκή μηχανισμό ιδεολογικής καθοδήγησης.
Μέχρι σήμερα μεγάλο μέρος της διαδικτυακής λογοκρισίας βασιζόταν στον εντοπισμό συγκεκριμένων λέξεων και εκφράσεων. Η νέα γενιά συστημάτων θα λειτουργεί διαφορετικά. Θα μπορεί να κατανοεί το περιεχόμενο ενός κειμένου, να αναλύει τα συμφραζόμενα και να εντοπίζει ιδέες που θεωρούνται προβληματικές ακόμη και όταν δεν περιέχουν απαγορευμένες λέξεις.
Πρόκειται για τη μετάβαση στη σημασιολογική λογοκρισία. Οι ίδιοι οι συντάκτες του προγράμματος αναφέρουν ότι επιδιώκουν να περάσουν «από το απλό φιλτράρισμα λέξεων-κλειδιών σε μια ολοκληρωμένη και ακριβή σημασιολογική αξιολόγηση». Η αλλαγή αυτή δίνει στις αρχές τη δυνατότητα να παρεμβαίνουν πριν ακόμη δημοσιοποιηθεί ένα περιεχόμενο.
Ένα ακόμα χαρακτηριστικό του προγράμματος είναι η μετάβαση από την καταστολή στην πρόληψη. Οι πλατφόρμες θα μπορούν να εντοπίζουν πιθανούς «κινδύνους» πριν αυτοί εξαπλωθούν.
Τα συστήματα τεχνητής νοημοσύνης θα λειτουργούν ως μηχανισμοί έγκαιρης προειδοποίησης, επιτρέποντας στις αρχές να παρεμβαίνουν προτού ένα μήνυμα αποκτήσει απήχηση. Η λογική θυμίζει έντονα τις εφαρμογές προγνωστικής αστυνόμευσης που έχουν ήδη δοκιμαστεί σε άλλους τομείς της κινεζικής διακυβέρνησης. Η διαφορά είναι ότι τώρα εφαρμόζονται στο πεδίο της θρησκείας και των ιδεών.
Οι δημιουργοί του συστήματος δηλώνουν επίσης ότι επιδιώκουν να αντιμετωπίσουν τις ελλείψεις προσωπικού στις τοπικές υπηρεσίες. Η τεχνητή νοημοσύνη θα αναλαμβάνει έργο που μέχρι σήμερα απαιτούσε χιλιάδες κρατικούς υπαλλήλους. Το αποτέλεσμα θα είναι η εφαρμογή ενιαίων προτύπων σε ολόκληρη την κινεζική επικράτεια. Οι διαφορές μεταξύ επαρχιών, οι τοπικές ερμηνείες και οι αποκλίσεις στην εφαρμογή της πολιτικής θα περιοριστούν δραματικά. Η ιδεολογική γραμμή του Πεκίνου θα εφαρμόζεται με τον ίδιο τρόπο παντού.
Η αντίθεση με το όραμα της «Magnifica Humanitas»
Η δημοσίευση του άρθρου συνέπεσε χρονικά με τη διεθνή συζήτηση γύρω από την εγκύκλιο «Magnifica Humanitas» του Πάπα Λέοντα ΙΔ΄.
Στο κείμενο αυτό ο Ποντίφικας θέτει κρίσιμα ερωτήματα σχετικά με την ανθρώπινη ελευθερία στην εποχή της τεχνητής νοημοσύνης. Ο Λέων ΙΔ΄ υποστηρίζει ότι η τεχνολογία πρέπει να υπηρετεί τον άνθρωπο και όχι να υποκαθιστά την ανθρώπινη κρίση.
Επικαλείται τον Πλάτωνα για να τονίσει ότι η αληθινή κατανόηση γεννιέται μέσα από τον διάλογο, τη μακρόχρονη αναζήτηση και τη συνάντηση διαφορετικών εμπειριών. Παράλληλα, προειδοποιεί για τον κίνδυνο να θεωρηθεί η ανθρώπινη σκέψη περιττή σε μια εποχή όπου οι αλγόριθμοι φαίνεται να διαθέτουν απαντήσεις για τα πάντα.
Το κινεζικό μοντέλο κινείται στην αντίθετη κατεύθυνση. Αντί να ενθαρρύνει τον διάλογο, επιδιώκει να περιορίσει το εύρος των επιτρεπόμενων ερωτημάτων. Αντί να προστατεύσει την πνευματική αναζήτηση, φιλοδοξεί να την κατευθύνει προς προκαθορισμένα συμπεράσματα.
Η τεχνητή νοημοσύνη ως εργαλείο πολιτικής εξουσίας
Το νέο πρόγραμμα της Κίνας αποτελεί ακόμη ένα παράδειγμα του τρόπου με τον οποίο οι αναδυόμενες τεχνολογίες μπορούν να χρησιμοποιηθούν όχι μόνο για οικονομική ανάπτυξη, αλλά και για πολιτικό έλεγχο.
Η γενετική τεχνητή νοημοσύνη προσφέρει πρωτοφανείς δυνατότητες ανάλυσης, πρόβλεψης και επεξεργασίας πληροφοριών.
Ποιος όμως αποφασίζει ποια γνώση είναι αποδεκτή;
Ποιος καθορίζει ποιες θρησκευτικές ερμηνείες είναι νόμιμες;
Ποιος ελέγχει τον αλγόριθμο που ελέγχει τη σκέψη;
Στην περίπτωση της Κίνας, η απάντηση φαίνεται ξεκάθαρη. Το Κομμουνιστικό Κόμμα επιδιώκει να διασφαλίσει ότι ακόμη και οι πιο εξελιγμένες μορφές τεχνητής νοημοσύνης θα λειτουργούν ως προέκταση της πολιτικής του εξουσίας.
Η εξέλιξη αυτή ενδέχεται να αποτελέσει πρότυπο για άλλα αυταρχικά καθεστώτα που αναζητούν νέους τρόπους επιτήρησης της κοινωνίας. Αν η τεχνητή νοημοσύνη μπορεί να διαμορφώνει τις πληροφορίες που λαμβάνουν εκατομμύρια άνθρωποι, τότε η μάχη για την ελευθερία της σκέψης ενδέχεται να αποτελέσει μία από τις σημαντικότερες προκλήσεις του 21ου αιώνα.
