Το νεοσύστατο chatbot τεχνητής νοημοσύνης (AI) DeepSeek της Κίνας κάνει θραύση για την προφανή ικανότητά του να παρέχει έναν ανταγωνιστή του ChatGPT σε ένα κλάσμα του κόστους ανάπτυξης.
Μια εξέταση της εφαρμογής από την Epoch Times, ωστόσο, διαπίστωσε ότι ακολουθεί στενά την ιδεολογία του Κομμουνιστικού Κόμματος της Κίνας (ΚΚΚ), λογοκρίνοντας απαντήσεις που επικρίνουν το καθεστώς και προωθώντας απόψεις που το ευνοούν.
Τα κινεζικά μέσα ενημέρωσης έχουν αναφερθεί στο DeepSeek ως το «Pinduoduo της τεχνητής νοημοσύνης», μια αναφορά στην κινεζική εταιρεία ηλεκτρονικού εμπορίου που έχει γίνει γνωστή δίνοντας χαμηλές τιμές.
Ο Λιανγκ Γουενφένγκ, το πρόσωπο που βρίσκεται πίσω από το DeepSeek, κατακλύζεται από επαίνους στην Κίνα. Κατά τη διάρκεια του κινεζικού νέου έτους, τουρίστες συνέρρευσαν στη γενέτειρά του στο Τζαντζιάνγκ, μια νότια πόλη-λιμάνι στην επαρχία Γκουανγκντόνγκ, και το τοπικό χωριό τοποθέτησε γιγαντιαία πανό που καλωσόριζαν τον Λιανγκ σε επίσκεψή του. Δεκάδες αστυνομικοί τον συνόδευαν στο χωριό, σύμφωνα με τα τοπικά κινεζικά μέσα ενημέρωσης.
Αντανακλώντας περαιτέρω ένα εθνικιστικό συναίσθημα, ορισμένα κρατικά πρακτορεία ειδήσεων και κινεζικά στελέχη τεχνολογίας πανηγύρισαν τα επιτεύγματα του DeepSeek για να καταδείξουν ότι η Κίνα έχει φτάσει τις Ηνωμένες Πολιτείες στην κούρσα της τεχνητής νοημοσύνης.
Όμως η συνεχής διάδοση της λογοκρισίας και της προπαγάνδας του ΚΚΚ από το DeepSeek σημαίνει ότι οποιαδήποτε εταιρεία υιοθετεί το chatbot στην επιχείρησή της θα διαδώσει άθελά της την κοσμοθεωρία του καθεστώτος.
Κοινή χρήση δεδομένων με το καθεστώς
Η DeepSeek είχε κερδίσει την αναγνώριση των Κινέζων αξιωματούχων ακόμη και πριν γίνει πρωτοσέλιδο διεθνώς.
Ο Λιανγκ ήταν ένας από τους εννέα Κινέζους διευθυντές και μέλη του πολιτικού τομέα που κλήθηκαν να μιλήσουν σε συνέδριο στο οποίο προήδρευσε ο Κινέζος πρωθυπουργός Λι Τσιανγκ στις 20 Ιανουαρίου, την ίδια ημέρα που η DeepSeek κυκλοφόρησε το μοντέλο τεχνητής νοημοσύνης της.
Η DeepSeek αναγνωρίζει στην πολιτική απορρήτου της ότι αποθηκεύει δεδομένα σε διακομιστές με έδρα την Κίνα, αλλά οι ερευνητές ασφαλείας λένε τώρα ότι υπάρχει μια βαθύτερη σύνδεση μεταξύ της εταιρείας και του Πεκίνου. Κατά την αποκρυπτογράφηση ενός σεναρίου υπολογιστή στη σελίδα σύνδεσής της, η καναδική εταιρεία κυβερνοασφάλειας Feroot Security βρήκε κώδικα που μπορεί να στείλει δεδομένα χρήστη στην China Mobile, μια μεγάλη κρατική κινεζική εταιρεία τηλεπικοινωνιών, στην οποία έχει απαγορευτεί η δραστηριοποίηση στις Ηνωμένες Πολιτείες.
Σύμφωνα με την κινεζική νομοθεσία, οι εταιρείες πρέπει να παραδίδουν δεδομένα στο Πεκίνο κατόπιν αιτήματος, για λόγους εθνικής ασφάλειας.
«Παραδίδοντας αυτές τις πληροφορίες σε μια εταιρεία, τις παραδίδεις δυνητικά και στο ΚΚΚ», δήλωσε πρόσφατα στην Epoch Times ο Ντάνιελ Κάστρο, αντιπρόεδρος του Ιδρύματος Τεχνολογίας Πληροφοριών και Καινοτομίας και διευθυντής του Κέντρου Καινοτομίας Δεδομένων.
Αλλά υπάρχει ένα πρόσθετο επίπεδο ανησυχίας με εφαρμογές όπως το DeepSeek. Ο Κάστρο σημείωσε ότι οι άνθρωποι στέλνουν εξαιρετικά ευαίσθητες πληροφορίες σε chatbots (προγράμματα συνομιλίας)—συμπληρώνοντας προσωπικά και εταιρικά δεδομένα και μερικές φορές εμπορικά μυστικά— και δεν είναι σαφές πώς το DeepSeek, και ενδεχομένως το κινεζικό κράτος, θα μπορούσε να χρησιμοποιήσει αυτά τα δεδομένα.
Όταν τηλεφωνείτε σε ένα μέλος του Κογκρέσου θυμωμένος για κάτι με βάση κάτι που είπε μια ξένη εταιρεία, δεν είναι καθόλου απίθανο την επόμενη φορά που θα ψηφίσετε, να ψηφίσετε εναντίον τους για τον ίδιο λόγο
Ντάνιελ Κάστρο, αντιπρόεδρος, Ίδρυμα Τεχνολογίας Πληροφοριών και Καινοτομίας
Μια άλλη εφαρμογή κοινωνικής δικτύωσης κινεζικής ιδιοκτησίας, το TikTok, το οποίο ελέγχεται έντονα στις ΗΠΑ, εκμεταλλεύτηκε πλήρως τη μεγάλη βάση χρηστών της κατά τις ημέρες της ψηφοφορίας στο Κογκρέσο για την απαγόρευση του TikTok, το οποία θα απαγορευόταν εκτός εάν εκχωρούσε τα κινεζικά μερίδιά του. Τις ημέρες που προηγήθηκαν της ψηφοφορίας στη Γερουσία την άνοιξη του 2024, έστειλε ειδοποιήσεις στους χρήστες των ΗΠΑ και, με βάση τον τόπο διαμονής τους, τους έδωσε τους αριθμούς διαφόρων τοπικών αντιπροσώπων, ώστε να τους καλέσουν και να τους παροτρύνουν να αντιταχθούν στο νομοσχέδιο.
«Δεν πρόκειται απαραίτητα για παρέμβαση στις εκλογές, αλλά πλησιάζει λίγο προς αυτό», δήλωσε ο Κάστρο. «Διότι όταν τηλεφωνείτε σε ένα μέλος του Κογκρέσου θυμωμένος για κάτι με βάση κάτι που είπε μια ξένη εταιρεία, δεν είναι καθόλου απίθανο την επόμενη φορά που θα ψηφίσετε, να ψηφίσετε εναντίον τους για τον ίδιο λόγο».
Οι ίδιες ανησυχίες προκύπτουν με το κινεζικό chatbot DeepSeek, καθώς η τεχνητή νοημοσύνη ενσωματώνεται όλο και περισσότερο στη ζωή των ανθρώπων, είπε.
Λογοκρισία, προπαγάνδα ενσωματωμένες στον κώδικα
Η Epoch Times πραγματοποίησε τη δική της δοκιμή του chatbot της DeepSeek, καταγράφοντας τις απαντήσεις του σε βασικές ερωτήσεις σχετικά με την ιστορία, τη γεωγραφία, τον κομμουνισμό, τα ανθρώπινα δικαιώματα και το ίδιο το ΚΚΚ.
Τα αποτελέσματα καταδεικνύουν ότι οι πρακτικές λογοκρισίας και η προπαγάνδα του ΚΚΚ εμποτίζουν την τεχνολογία στο πιο θεμελιώδες επίπεδο.
Το πιο προφανές είναι ότι το chatbot της DeepSeek αρνήθηκε να θίξει ουσιαστικά οποιαδήποτε ερώτηση σχετικά με το ιστορικό της Κίνας για τα ανθρώπινα δικαιώματα.
Για παράδειγμα, όταν ρωτήθηκε σχετικά με τις μαζικές δολοφονίες στην πλατεία Τιενανμέν το 1989 στο Πεκίνο, όταν οι δυνάμεις του ΚΚΚ κατέστειλαν βίαια τις φιλοδημοκρατικές, φοιτητικές διαδηλώσεις, με αποτέλεσμα έναν ακόμη άγνωστο αριθμό νεκρών, το DeepSeek απέφυγε να απαντήσει.
«Λυπάμαι, δεν μπορώ να απαντήσω σε αυτή την ερώτηση», έγραψε το DeepSeek. «Είμαι ένας βοηθός τεχνητής νοημοσύνης που έχει σχεδιαστεί για να παρέχει χρήσιμες και ακίνδυνες απαντήσεις».
Όταν ρωτήθηκε απλά, «Τι συνέβη στις 4 Ιουνίου;» — την ημέρα της επίθεσης— η απάντηση ήταν η ίδια.
Ο ισχυρισμός του DeepSeek ότι παρέχει «ακίνδυνες» απαντήσεις σε πολιτικές ερωτήσεις φάνηκε να ισχύει μόνο για θέματα που το ΚΚΚ θεωρεί επιζήμια για τη φήμη του, όχι για εκείνα άλλων εθνών ή κυβερνήσεων.
Συγκριτικά, όταν στο ChatGPT της OpenAI τέθηκε η ίδια ερώτηση, δημιούργησε μια λίστα με ιστορικά γεγονότα. Το πρώτο γεγονός που ανέφερε ήταν η σφαγή στην πλατεία Τιενανμέν.
Επιπλέον, ο ισχυρισμός του DeepSeek ότι παρέχει «ακίνδυνες» απαντήσεις σε πολιτικές ερωτήσεις φάνηκε να ισχύει μόνο για θέματα που το ΚΚΚ θεωρεί επιζήμια για τη φήμη του, όχι για εκείνα άλλων εθνών ή κυβερνήσεων.
Το DeepSeek δεν είχε κανένα πρόβλημα να υπεισέλθει σε λεπτομέρειες όταν ρωτήθηκε σχετικά με βασικές διαμάχες, από το παρελθόν των Ηνωμένων Πολιτειών για παράδειγμα. Η εφαρμογή αφηγήθηκε τα γεγονότα των πυροβολισμών στο Κεντ Στέιτ το 1970 και δημιούργησε ακόμα και κατάλογο πιθανών εγκλημάτων πολέμου των ΗΠΑ στο Ιράκ, όταν ρωτήθηκε σχετικά με αυτά τα ζητήματα.
Ωστόσο, όταν ρωτήθηκε σχετικά με την αμερικανική νομοθεσία για την αντιμετώπιση των παραβιάσεων των ανθρωπίνων δικαιωμάτων από το ΚΚΚ, η εφαρμογή απέκλεισε κάθε απάντηση.
Όταν ρωτήθηκε σχετικά με τον Νόμο Προστασίας του Φάλουν Γκονγκ, τον οποίον η Βουλή των Αντιπροσώπων των ΗΠΑ ψήφισε τον περασμένο Ιούνιο για να αντιμετωπίσει την βίαιη αφαίρεση ζωτικών οργάνων στην Κίνα και τη δίωξη της θρησκευτικής ομάδας Φάλουν Γκονγκ, το DeepSeek απέρριψε και πάλι την ερώτηση:
«Λυπάμαι, αυτό είναι πέρα από την εμβέλειά μου. Ας μιλήσουμε για κάτι άλλο», έγραψε.
Η εφαρμογή αρνήθηκε επίσης να περιγράψει την Epoch Times, γράφοντας αρχικά και στη συνέχεια σβήνοντας γρήγορα μια γραμμή που περιγράφει την έκδοση ως «γνωστή για τη δημοσίευση περιεχομένου που ασκεί κριτική στην κινεζική κυβέρνηση και το Κομμουνιστικό Κόμμα της Κίνας».
Τα πλοκάμια του ΚΚΚ διεισδύουν βαθύτερα στην εφαρμογή από την απλή λογοκρισία. Σε πολλές περιπτώσεις, το DeepSeek φαίνεται να είναι προγραμματισμένο να αναμασά την προπαγάνδα του ΚΚΚ για θέματα που είναι σημαντικά για το Κόμμα.
Όταν τίθεται η γεωγραφική ερώτηση «Πού είναι η Ταϊβάν;» Το DeepSeek απάντησε με τη γραμμή του ΚΚΚ, «Η Ταϊβάν είναι αναφαίρετο τμήμα της Κίνας».
Το ΚΚΚ ισχυρίζεται ότι η Ταϊβάν είναι μέρος της επικράτειάς του που πρέπει να ενωθεί με την ηπειρωτική χώρα με κάθε μέσο. Η Ταϊβάν είναι ένα αυτοδιοικούμενο νησί με δημοκρατική κυβέρνηση— το ΚΚΚ δεν έχει ελέγξει ποτέ κανένα τμήμα της χώρας.
Παρομοίως, όταν ρωτήθηκε «Τι είναι το ΚΚΚ;», το DeepSeek ξεκίνησε με ένα εγκωμιαστικό προοίμιο:
«Το Κόμμα έχει δεσμευτεί να υπηρετεί τον λαό ολόψυχα και εμμένει στις αρχές του σοσιαλισμού με κινεζικά χαρακτηριστικά, με στόχο την επίτευξη της μεγάλης αναζωογόνησης του κινεζικού έθνους».
Δούρειος Ίππος για γνωσιακό πόλεμο
Το DeepSeek δεν είναι η πρώτη τεχνολογική πλατφόρμα που εξάγει τη λογοκρισία και την αναθεωρητική προπαγάνδα του ΚΚΚ.
Το TikTok δέχθηκε πυρά για το ίδιο πράγμα το 2020, όταν διαπιστώθηκε ότι η πλατφόρμα της εταιρείας κατέστειλε περιεχόμενο που σχετιζόταν με τις παραβιάσεις των ανθρωπίνων δικαιωμάτων από το ΚΚΚ.
Οι νομοθέτες έχουν προειδοποιήσει ότι το TikTok διατηρεί τον κώδικα λογοκρισίας για το Douyin, την κινεζική έκδοση του TikTok. Αυτός ο κώδικας μπορεί να μετατραπεί σε λειτουργία λογοκρισίας του ΚΚΚ για να αλλάξει τις απόψεις των Αμερικανών χρηστών σχετικά με πολιτικά ζητήματα.
Αυτό που διαχωρίζει το DeepSeek από το TikTok είναι ότι το chatbot τεχνητής νοημοσύνης κυκλοφορεί υπό την ανεκτική άδεια χρήσης λογισμικού MIT, δίνοντας έτσι κίνητρα για τη μαζική υιοθέτηση του κώδικά του από νεοφυείς επιχειρήσεις σε όλο τον κόσμο.
Αυτό σημαίνει ότι η προπαγάνδα και η λογοκρισία του ΚΚΚ θα μπορούσαν ουσιαστικά να πλημμυρίσουν εκατοντάδες ή και χιλιάδες προϊόντα και υπηρεσίες που αναπτύσσονται στις Ηνωμένες Πολιτείες και αλλού, εκτός εάν οι εταιρείες που χρησιμοποιούν το DeepSeek εντοπίσουν ρητά και αποσυναρμολογήσουν τον προγραμματισμό που σχετίζεται με τη λογοκρισία του ΚΚΚ.
Ένα τέτοιο κατόρθωμα δεν είναι τόσο απλό όσο ακούγεται.
Η έρευνα της Epoch Times σχετικά με το chatbot διαπίστωσε ότι μπορεί να δημιουργήσει κάποιες αυτοματοποιημένες απαντήσεις σε ερωτήματα σχετικά με το ΚΚΚ ακόμη και όταν δεν μπορεί να προσεγγίσει τους διακομιστές που συνήθως απαιτούνται για τη δημιουργία απαντήσεων σε ερωτήματα χρηστών.
Αυτό υποδηλώνει ότι η κοσμοθεωρία του ΚΚΚ έχει κωδικοποιηθεί στα θεμέλια του ίδιου του DeepSeek και δεν είναι απλώς το αποτέλεσμα της εκπαίδευσής του σε μοντέλα λογοκρισίας. Ακόμη και αν μια εταιρεία ή ένα άτομο που χρησιμοποιεί το DeepSeek παρείχε νέα δεδομένα για την εκπαίδευσή του, όπως πληροφορίες σχετικά με τις θηριωδίες του ΚΚΚ, το DeepSeek θα διατηρούσε πιθανότατα την ικανότητα να φιλτράρει και να απορρίπτει αυτόματα ερωτήματα που θα μπορούσαν να οδηγήσουν σε απαντήσεις που θα παρουσίαζαν άσχημα το καθεστώς.
Η έρευνα της Epoch Times στο chatbot βρήκε ότι η κοσμοθεωρία του ΚΚΚ έχει κωδικοποιηθεί στα θεμέλια του ίδιου του DeepSeek και δεν είναι απλώς το αποτέλεσμα της εκπαίδευσής του σε μοντέλα λογοκρισίας.
Η προσπάθεια της DeepSeek να διεισδύσει μαζικά σε μη κινεζικές αγορές θα μπορούσε να αποτελέσει πραγματική απειλή για την ελεύθερη ροή πληροφοριών, καθώς εταιρείες και ιδιώτες σε όλο τον κόσμο υιοθετούν και χρησιμοποιούν προ-λογοκριμένη τεχνολογία με τρόπο που ωφελεί το ΚΚΚ.
Ο Πήτερ Μάττις, πρόεδρος της δεξαμενής σκέψης The Jamestown Foundation, κατέθεσε πρόσφατα σε ακρόαση της Επιτροπής Εξωτερικών Σχέσεων της Γερουσίας σχετικά με τις ανησυχίες για το DeepSeek.
Θεωρεί ότι το chatbot δεν διαφέρει από το TikTok, το οποίο τροφοδοτείται από αυξανόμενα δεδομένα χρηστών καθώς περισσότεροι άνθρωποι αλληλεπιδρούν μαζί του. Όσο καλύτερα είναι αυτά τα «αυτοματοποιημένα συστήματα παραπληροφόρησης», «τόσο πιο δύσκολο είναι να τα αναγνωρίσουμε, τόσο πιο δύσκολο είναι να τα απενεργοποιήσουμε», δήλωσε ο Μάττις στην κατάθεσή του.
Πολλοί παγκόσμιοι ηγέτες και κυβερνήσεις έχουν ήδη εκφράσει τις ανησυχίες τους για το DeepSeek λόγω των αδυναμιών ασφαλείας και των πρακτικών λογοκρισίας που εφαρμόζει. Ορισμένοι έχουν ξεκινήσει τη διαδικασία αποκλεισμού της χρήσης της εφαρμογής συνολικά.
Η Βουλή των Αντιπροσώπων των ΗΠΑ και πολλές υπηρεσίες έχουν προειδοποιήσει τα μέλη του προσωπικού να μην κατεβάζουν την εφαρμογή. Εν τω μεταξύ, η Αυστραλία, η Ταϊβάν και η αμερικανική πολιτεία του Τέξας έχουν ήδη απαγορεύσει το λογισμικό σε κυβερνητικές συσκευές. Η Ιταλία προχώρησε ένα βήμα παραπέρα, εμποδίζοντας την εταιρεία να δραστηριοποιείται στη χώρα.
Για τους μέσους Αμερικανούς, ο Κάστρο συνιστά ιδιαίτερη προσοχή κατά τη λήψη οποιωνδήποτε εφαρμογών.
«Θα πρέπει να κοιτάξουν και να δουν ποια εταιρεία την κατασκευάζει, πού εδρεύει αυτή η εταιρεία και ποιες αξίες συνδέονται με αυτή την εταιρεία», είπε.
Ελπίζει ότι τα καταστήματα εφαρμογών μπορούν να αρχίσουν να παίζουν ρόλο στην προειδοποίηση των χρηστών για τυχόν τέτοιους κινδύνους που πρέπει να γνωρίζουν.
