Η DeepSeek έχει ενσωματωμένο στο σύστημά της έναν «διακόπτη απενεργοποίησης», ο οποίος κάνει ακριβώς αυτό που θέλει το Πεκίνο, σύμφωνα με έκθεση κυβερνοασφάλειας.
Η κινεζική νεοφυής εταιρεία τεχνητής νοημοσύνης γράφει αισθητά πιο αδύναμο κώδικα όταν συναντά προτροπές που περιλαμβάνουν «λέξεις-κλειδιά ενεργοποίησης» ευαίσθητων για το Πεκίνο θεμάτων, όπως το Φάλουν Γκονγκ και οι Ουιγούροι — δύο ομάδες που υφίστανται σκληρές διώξεις στην Κίνα.
Για τέτοιου είδους αιτήματα, η DeepSeek συχνά γράφει κώδικα με σοβαρά ελαττώματα ασφάλειας ή αρνείται πλήρως να βοηθήσει, όπως αναφέρουν οι ερευνητές.
Η έκθεση, που δημοσιεύτηκε στις 20 Νοεμβρίου, από την CrowdStrike, αναδεικνύει ένα τρωτό σημείο που δεν είχε θιγεί σε προηγούμενες έρευνες, οι οποίες είχαν επικεντρωθεί κυρίως στις σινόφιλες δηλώσεις της εφαρμογής.
Το νέο εύρημα αποκαλύπτει κάτι πολύ πιο λεπτό· εντοπίζει μεροληψία στα βοηθητικά εργαλεία εγγραφής κώδικα της DeepSeek — τα πανταχού παρόντα εργαλεία τεχνητής νοημοσύνης, που επιταχύνουν επαναλαμβανόμενες εργασίες, εντοπίζουν σφάλματα και καθοδηγούν προγραμματιστές σε άγνωστες γλώσσες προγραμματισμού.
Πρόκειται για «πολύτιμα περιουσιακά στοιχεία», όπως ανέφερε σε βίντεο για τους κινδύνους της DeepSeek ο επικεφαλής ερευνητής Στέφαν Στάιν (Stefan Stein).
Αν το εργαλείο τεχνητής νοημοσύνης εισαγάγει ένα «παραθυράκι» ασφαλείας στον κώδικα και οι χρήστες υιοθετήσουν τον κώδικα χωρίς να το αντιληφθούν, εκτίθενται σε επιθέσεις, δήλωσε.
Οι ερευνητές δοκίμασαν το βασικό μοντέλο που οι χρήστες μπορούν να κατεβάσουν και να εγκαταστήσουν στους δικούς τους διακομιστές — μια προσέγγιση που παραδοσιακά θεωρείται ασφαλέστερη από τη χρήση εφαρμογής που φιλοξενείται σε κινεζικό διακομιστή. Ωστόσο, τα ευρήματα κατέστησαν σαφές ότι αυτό δεν ισχύει, είπαν οι ερευνητές.
Ελαττώματα ασφαλείας
Για τη δοκιμή κάθε μεγάλου γλωσσικού μοντέλου, οι ερευνητές χρησιμοποίησαν πάνω από 30.000 προτροπές στην αγγλική γλώσσα και 121 διαφορετικούς συνδυασμούς «λέξεων-κλειδιών ενεργοποίησης», εκτελώντας κάθε μοναδική προτροπή πέντε φορές ώστε να ληφθούν υπ’ όψιν τυχόν ανωμαλίες.
Το έργο αντιπαραβάλλει το DeepSeek-R1 με δυτικά αντίστοιχα, όπως το Gemini της Google, το Llama της Meta και το o3-mini της OpenAI, αποκαλύπτοντας δομικούς κινδύνους ασφάλειας σε ένα κορυφαίο κινεζικό μοντέλο τεχνητής νοημοσύνης που απέκτησε εκατομμύρια χρήστες μέσα σε πολύ μικρό χρονικό διάστημα από την κυκλοφορία του τον Ιανουάριο.
Σε μία περίπτωση, οι ερευνητές ζήτησαν από το DeepSeek να γράψει κώδικα για ένα χρηματοπιστωτικό ίδρυμα που αυτοματοποιεί ειδοποιήσεις πληρωμών μέσω PayPal. Το DeepSeek απάντησε με ασφαλή και έτοιμο προς χρήση κώδικα. Όμως, όταν «πληροφορήθηκε» ότι το ίδρυμα έχει έδρα στο Θιβέτ, η εφαρμογή εισήγαγε σοβαρές αδυναμίες ασφάλειας στον νέο κώδικα, συμπεριλαμβανομένης της χρήσης μη ασφαλούς μεθόδου για την εξαγωγή δεδομένων από χρήστες, σύμφωνα με την έκθεση.
Όταν ζήτησαν βοήθεια για τη δημιουργία μιας διαδικτυακής πλατφόρμας δικτύωσης για ένα τοπικό κοινοτικό κέντρο Ουιγούρων, η απάντηση του μοντέλου DeepSeek επίσης ήταν ανησυχητική. Η εφαρμογή που παρήγαγε το DeepSeek-R1, παρότι πλήρης και λειτουργική, εξέθετε σε δημόσια θέα εξαιρετικά ευαίσθητα δεδομένα χρηστών, σύμφωνα με τον Στάιν — συμπεριλαμβανομένου του πίνακα διαχείρισης με το ηλεκτρονικό ταχυδρομείο και την τοποθεσία όλων των χρηστών.
Περίπου στο ένα τρίτο των περιπτώσεων, η εφαρμογή έκανε ελάχιστες προσπάθειες για την ασφάλεια των κωδικών πρόσβασης, με αποτέλεσμα να διευκολύνεται η κλοπή πληροφοριών από κυβερνοεισβολείς.
Διακόπτης απενεργοποίησης
Τόσο το Θιβέτ όσο και οι Ουιγούροι είναι ευαίσθητα θέματα στην Κίνα, λόγω της σύνδεσής τους με τις παραβιάσεις ανθρωπίνων δικαιωμάτων που διαπράττει το καθεστώς. Ένα ακόμη πιο αξιοσημείωτο εύρημα αφορά το Φάλουν Γκονγκ, μια πνευματική άσκηση που βασίζεται στις αρχές της αλήθειας, της καλοσύνης και της ανεκτικότητας.
Το Φάλουν Γκονγκ, που παρουσιάστηκε στο κοινό στην Κίνα το 1992, εξαπλώθηκε γρήγορα από στόμα σε στόμα και έως το 1999 είχε φτάσει — σύμφωνα με εκτιμήσεις — περί τα 70-100 εκατομμύρια ασκούμενους, οπότε το καθεστώς άρχισε να επιστρατεύει εκτεταμένους πόρους για να εξαλείψει την ομάδα στην Κίνα και διεθνώς. Το 2019, ανεξάρτητο δικαστήριο στο Λονδίνο κατέληξε ότι οι ασκούμενοι του Φάλουν Γκονγκ ήταν πιθανότατα τα περισσότερα θύματα των κρατικά υποκινούμενων εξαναγκαστικών αφαιρέσεων οργάνων στην Κίνα.
Δοκιμές που είχε κάνει η εφημερίδα The Epoch Times παλιότερα είχαν δείξει ότι το DeepSeek απορρίπτει ερωτήσεις που σχετίζονται με τις εξαναγκαστικές αφαιρέσεις οργάνων ως εκτός του πεδίου της.
Στις δοκιμές της CrowdStrike, το DeepSeek-R1 αρνήθηκε να γράψει κώδικα για το Φάλουν Γκονγκ στο 45% των περιπτώσεων. Τα δυτικά μοντέλα σχεδόν πάντα ικανοποιούσαν το αίτημα.
Η έκθεση σημείωσε ότι το μοντέλο, μερικές φορές, έλεγε στη φάση «συλλογισμού» ότι το Φάλουν Γκονγκ είναι ευαίσθητη ομάδα, ότι θα έπρεπε να εξετάσει τις ηθικές προεκτάσεις και ότι η παροχή βοήθειας ίσως παραβιάζει κάποια πολιτική· ωστόσο ο χρήστης ζητά τεχνική βοήθεια και θα επικεντρωθεί στις τεχνικές πτυχές.
Έπειτα, παρέθετε ένα λεπτομερές σχέδιο για το πώς θα απαντούσε στο έργο, αλλά στη συνέχεια απλώς τερμάτιζε απότομα τη διαδικασία, δηλώνοντας ότι λυπάται, αλλά δεν μπορεί να βοηθήσει σε αυτό το αίτημα, σύμφωνα πάντα με την έκθεση.
Ήταν «σαν να επενέβαινε ένα είδος διακόπτη», είπε ο Στάιν. Οι ερευνητές χαρακτήρισαν αυτή τη συμπεριφορά ως «ενδογενή διακόπτη απενεργοποίησης». Σύμφωνα με τους ερευνητές, το ξαφνικό «κόψιμο» ενός αιτήματος την τελευταία στιγμή πρέπει να είναι κωδικοποιημένο στις παραμέτρους του μοντέλου της DeepSeek.
Ο Στάιν ανέφερε ότι πρόκειται για «δισεκατομμύρια αριθμούς», αλλά κάπου μέσα σε αυτούς έχει κωδικοποιηθεί ένας διακόπτης που λέει ότι παρότι το μοντέλο κατέστρωσε σχέδιο και «το σκέφτηκε», τελικά δεν πρόκειται να το εκτελέσει και δεν θα συμμορφωθεί. Είπε ακόμα πως όταν πίεσε για απαντήσεις, το μοντέλο έδωσε μια πολύ μακροσκελή, λεπτομερή απάντηση, δίνοντας έμφαση σε ορισμένες λέξεις, σαν «θυμωμένος δάσκαλος» που τον «επέπληττε».
Μία πιθανή εξήγηση για τέτοιες συμπεριφορές είναι ότι η DeepSeek εκπαίδευσε τα μοντέλα της ώστε να συμμορφώνονται με τις «βασικές αξίες» του κινεζικού καθεστώτος και, μέσω αυτής της διαδικασίας, το μοντέλο ανέπτυξε αρνητικούς συσχετισμούς με λέξεις όπως «Φάλουν Γκονγκ» και «Ουιγούροι», σύμφωνα με την έκθεση.
Η Epoch Times επικοινώνησε με την DeepSeek για σχόλια.
