Ο Βραζιλιάνος δικαστής του Ανώτατου Δικαστηρίου, Αλεξάντρ ντε Μοράες, διέταξε στις 21 Φεβρουαρίου την αναστολή της λειτουργίας της πλατφόρμας διαμοιρασμού βίντεο Rumble στη χώρα, λόγω της μη συμμόρφωσης της εταιρείας με δικαστικές εντολές.
Η απόφαση ακολούθησε αγωγή που κατέθεσαν η Rumble και ο όμιλος μέσων ενημέρωσης του προέδρου των ΗΠΑ, Ντόναλντ Τραμπ, στις 19 Φεβρουαρίου, κατηγορώντας τον ντε Μοράες ότι παραβίασε τους νόμους περί ελευθερίας του λόγου στις ΗΠΑ όταν διέταξε την αναστολή των λογαριασμών ενός «γνωστού, με πολιτικό λόγο, χρήστη» της Rumble που ζει στις Ηνωμένες Πολιτείες.
Στην απόφασή του, ο δικαστής ανέφερε ότι η Rumble έχει «επαναλαμβανόμενα, συνειδητά και εκούσια μη συμμορφωθεί και προσπαθεί να μην υποταχθεί στη νομική τάξη και τη δικαιοσύνη της Βραζιλίας».
Ο ντε Μοράες υποστήριξε ότι η αμερικανική εταιρεία αγνόησε εντολές να ορίσει νομικό εκπρόσωπο στη Βραζιλία, απαιτούμενη συνθήκη για τις ξένες εταιρείες που δραστηριοποιούνται στη χώρα ώστε να μπορούν να αντιμετωπίζουν νομικά ζητήματα εντός της δικαιοδοσίας της.
«Δεν υπάρχουν αποδείξεις για την κανονικότητα της εκπροσώπησης της Rumble Inc. στην επικράτεια της Βραζιλίας», έγραψε στην απόφασή του.
Επιπλέον, ο ντε Μοράες ανέφερε ότι η Rumble αγνόησε εντολές να αφαιρέσει τον λογαριασμό του Άλαν ντος Σάντος, ενός Βραζιλιάνου φυγόδικου που κατηγορείται για διάδοση ψευδών ειδήσεων. Ο Σάντος είναι ένθερμος υποστηρικτής του πρώην προέδρου της Βραζιλίας, Ζαΐρ Μπολσονάρου.
Ο εκπρόσωπος της Rumble, Τιμ Μέρτο, δήλωσε μέσω email στην Epoch Times ότι από την Παρασκευή, οι βραζιλιάνικες αρχές έχουν αποκλείσει την πρόσβαση στην πλατφόρμα μετά από τη δικαστική εντολή.
Ο Μέρτο δήλωσε ότι η διαταγή αναστολής εκδόθηκε λόγω της άρνησης της Rumble «να λογοκρίνει πολιτικούς αντιφρονούντες που διαμένουν στις Ηνωμένες Πολιτείες», προσθέτοντας ότι η εταιρεία εξετάζει «όλες τις διαθέσιμες νομικές οδούς» για να πολεμήσει την απόφαση.
«Ο δικαστής ντε Μοράες απαίτησε η Rumble να αφαιρέσει συγκεκριμένο περιεχόμενο και να σταματήσει τις οικονομικές συναλλαγές που σχετίζονται με άτομα που ασκούν τα δικαιώματα ελεύθερης έκφρασης βάσει του αμερικανικού νόμου», ανέφερε η εταιρεία σε δήλωσή της.
«Η δέσμευσή μας στην ελεύθερη έκφραση και η τήρηση των νομικών προτύπων των ΗΠΑ μας υποχρέωσαν να απορρίψουμε αυτές τις εξωεδαφικές απαιτήσεις λογοκρισίας».
Οι δικηγόροι της Rumble στις ΗΠΑ, Μάρτιν ντε Λούκα και Μάθιου Σβαρτς, δήλωσαν ότι η απόφαση διαταράσσει τη λειτουργία τόσο της Rumble όσο και της πλατφόρμας Truth Social—η οποία βασίζεται στην υποδομή φιλοξενίας και ροής βίντεο της Rumble—στη Βραζιλία.
Σε δήλωσή τους στην Epoch Times, οι δικηγόροι ανέφεραν ότι η ενέργεια του ντε Μοράες συνιστά «υπερβολική δικαστική παρέμβαση», καθώς επιχειρεί να λογοκρίνει το περιεχόμενο μιας αμερικανικής εταιρείας.
«Η Rumble είναι μια αμερικανική εταιρεία που λειτουργεί υπό το νομικό πλαίσιο των ΗΠΑ», ανέφεραν. «Η ιδέα ότι ένας ξένος δικαστής μπορεί να υπαγορεύσει ποιο περιεχόμενο πρέπει να αφαιρέσει μια αμερικανική πλατφόρμα και ποιος μπορεί να λαμβάνει πληρωμές εντός των ΗΠΑ αποτελεί άμεση πρόκληση στη ψηφιακή κυριαρχία των Ηνωμένων Πολιτειών».
Πέρυσι, ο ντε Μοράες είχε απαγορεύσει τη λειτουργία της πλατφόρμας κοινωνικής δικτύωσης X του μεγιστάνα Έλον Μασκ στη Βραζιλία, επειδή αρνήθηκε να ορίσει νομικό εκπρόσωπο. Ο δικαστής αποφάνθηκε ότι η X, πρώην Twitter, θα παραμείνει σε αναστολή έως ότου συμμορφωθεί με τις εντολές του, επιβάλλοντας παράλληλα ημερήσιο πρόστιμο 50.000 ρεάις (8.900 δολάρια) για οποιονδήποτε χρησιμοποιεί VPN για να την αποκτήσει.
Στις 19 Φεβρουαρίου, η Trump Media & Technology Group και η Rumble κατέθεσαν αγωγή στο Ομοσπονδιακό Δικαστήριο της Τάμπα, κατηγορώντας τον ντε Μοράες ότι υπερέβη την εξουσία του και παραβίασε το διεθνές δίκαιο προσπαθώντας να κλείσει λογαριασμούς χρηστών της Rumble στις Ηνωμένες Πολιτείες.
Η αγωγή δεν αναφέρει το όνομα του Σάντος· αντίθετα, τον χαρακτηρίζει ως «Πολιτικό Αντιφρονούντα Α» και αναφέρει ότι «ζήτησε πολιτικό άσυλο στις Ηνωμένες Πολιτείες, όπου παραμένει».
Στην αγωγή, οι εταιρείες υποστηρίζουν ότι η εντολή του δικαστή απαιτεί από τη Rumble να ορίσει νομικό εκπρόσωπο στη Βραζιλία «αποκλειστικά για να δέχεται τις νομικές εντολές φίμωσης και να υποτάσσεται στην εξουσία του δικαστή ντε Μοράες».
Η Rumble αντιμετωπίζει ημερήσιο πρόστιμο 9.000 δολαρίων, σύμφωνα με την αγωγή, καθώς και πλήρη διακοπή των υπηρεσιών της στη Βραζιλία εάν αρνηθεί να συμμορφωθεί με τις εντολές.
Η Apple σταμάτησε να παρέχει τις υψηλότερου επιπέδου προστασίες ασφάλειας δεδομένων της σε νέους χρήστες στο Ηνωμένο Βασίλειο, αφού η βρετανική κυβέρνηση φέρεται να ζήτησε πρόσβαση στα δεδομένα των χρηστών.
Εκπρόσωπος της Apple επιβεβαίωσε ότι η κατασκευάστρια εταιρεία iPhone δεν θα προσφέρει πλέον το χαρακτηριστικό Προηγμένη Προστασία Δεδομένων (Advanced Data Protection – ADP) στους νέους χρήστες και τελικά θα το απενεργοποιήσει και για τους υπάρχοντες χρήστες. «Είμαστε πολύ απογοητευμένοι που η προστασία που παρέχει το ADP δεν θα είναι διαθέσιμη στους πελάτες μας στο Ηνωμένο Βασίλειο, δεδομένης της συνεχιζόμενης αύξησης των παραβιάσεων δεδομένων και άλλων απειλών για την ιδιωτικότητα των πελατών», δήλωσε εκπρόσωπος της Apple.
Η λειτουργία ADP παρέχει πλήρη κρυπτογράφηση για την αποθήκευση στο iCloud, εμποδίζοντας τους μη κατόχους λογαριασμού – συμπεριλαμβανομένων των κυβερνήσεων και των χάκερ – να έχουν πρόσβαση σε δεδομένα όπως φωτογραφίες, έγγραφα και σημειώσεις. Χωρίς το ADP, ορισμένοι τύποι δεδομένων iCloud δεν θα είναι πλέον πλήρως κρυπτογραφημένοι, καθιστώντας τους δυνητικά προσβάσιμους σε τρίτους με την κατάλληλη νομική εξουσιοδότηση.
Η απόφαση της Apple ακολουθεί πολλαπλές αναφορές – μεταξύ άλλων της Washington Post και του BBC– που αναφέρουν ότι το βρετανικό υπουργείο Εσωτερικών εξέδωσε «ειδοποίηση τεχνικής ικανότητας» προς την Apple. Αυτή η νομικά δεσμευτική εντολή φέρεται να υποχρεώνει την εταιρεία να παρέχει πρόσβαση σε κρυπτογραφημένα δεδομένα χρηστών βάσει του Νόμου περί Ερευνητικών Εξουσιών του 2016 (Investigatory Powers Act of 2016).
Το υπουργείο Εσωτερικών του Ηνωμένου Βασιλείου αρνήθηκε να επιβεβαιώσει ή να διαψεύσει την ειδοποίηση, δηλώνοντας: «Δεν σχολιάζουμε επιχειρησιακά θέματα, συμπεριλαμβανομένης, για παράδειγμα, της επιβεβαίωσης ή της διάψευσης της ύπαρξης τέτοιων ειδοποιήσεων». Ούτε η Apple επιβεβαίωσε την ύπαρξη της ειδοποίησης και δεν απάντησε στο αίτημα της Epoch Times για σχολιασμό μέχρι την ώρα δημοσίευσης.
Οι βρετανικές υπηρεσίες ασφαλείας αντιτίθενται εδώ και καιρό στην κρυπτογράφηση από άκρο σε άκρο, λέγοντας ότι επιτρέπει σε εγκληματίες, τρομοκράτες και κακοποιούς παιδιών να αποφεύγουν την επιβολή του νόμου. Τον Απρίλιο του 2022, η τότε υπουργός Ψηφιακής Πολιτικής του Ηνωμένου Βασιλείου Ναντίν Ντόρις τόνισε την πρόθεση της κυβέρνησης να καταστήσει τις εταιρείες τεχνολογίας υπόλογες.
«Μπαίνουμε σε ένα νέο κεφάλαιο, όπου οι εταιρείες τεχνολογίας θα είναι πλήρως υπόλογες για το περιεχόμενο στις πλατφόρμες τους», δήλωσε. «Ότι τηρούν τις υποσχέσεις τους προς τους χρήστες τους, ιδίως όσον αφορά την προστασία τους από πράγματα όπως οι τοξικές ρατσιστικές και μισογυνικές επιθέσεις, καθώς και την προστασία των παιδιών από τον διαδικτυακό εκφοβισμό και άλλες επιβλαβείς συμπεριφορές.»
Ένα νομοσχέδιο για την ασφάλεια στο διαδίκτυο που εισήχθη το 2023 επέβαλε νέες υποχρεώσεις στις πλατφόρμες για τον μετριασμό των κινδύνων παράνομης δραστηριότητας. Οι επικριτές του νομοσχεδίου εξέφρασαν την ανησυχία τους ότι θα υπονομεύσει την ελευθερία του λόγου και ότι θα μπορούσε να οδηγήσει περισσότερους ανθρώπους στην αναζήτηση εναλλακτικών λύσεων στο dark web (σκοτεινό διαδίκτυο), ένα τμήμα του παγκόσμιου ιστού που απαιτεί ειδικά προγράμματα περιήγησης για την πρόσβαση.
«Αυτό οδηγεί τους ανθρώπους σε ένα ακόμη πιο επικίνδυνο μονοπάτι, επειδή το σκοτεινό διαδίκτυο – ή γκρίζο διαδίκτυο – δεν ελέγχεται από κανέναν», δήλωσε στην Epoch Times ο Γουίλ Γκίντες, ειδικός σε θέματα ασφάλειας και συν-συγγραφέας του βιβλίου «Parent Alert: How to Keep Your Kids Safe Online» («Ειδοποίηση προς τους γονείς: Πώς να είναι τα παιδιά σας ασφαλή στο διαδίκτυο»), σε παλαιότερη συνέντευξή του.
«Αν θέλουν να αποκτήσουν το νέο άλμπουμ της Μπρίτνεϋ, μπορεί να βρουν εκεί έναν ιστότοπο από τον οποίο θα μπορούν να το κατεβάσουν δωρεάν, αλλά μπορεί να καταλήξουν με τον υπολογιστή τους μολυσμένο από ένα Trojan (ιός υπολογιστών) ή άλλο κακόβουλο λογισμικό».
Ο Chris Summers και το Associated Press συνέβαλαν σε αυτό το άρθρο
Οι εισαγγελείς του Μιλάνου ανακοίνωσαν σχέδια για απόσυρση φορολογικής αγωγής κατά του ευρωπαϊκού τμήματος της Google, αφού ο τεχνολογικός γίγαντας συμφώνησε να πληρώσει 326 εκατομμύρια ευρώ για να διευθετήσει καταγγελίες για απλήρωτους φόρους στην Ιταλία.
Η συμφωνία καλύπτει τις φορολογικές υποχρεώσεις της Google από το 2015 έως το 2019, συμπεριλαμβανομένων προστίμων, κυρώσεων και τόκων.
Η υπόθεση επικεντρώθηκε σε ισχυρισμούς ότι η Google απέτυχε να δηλώσει και να πληρώσει σωστά τους φόρους για τα έσοδα που δημιουργήθηκαν στην Ιταλία παρά την ψηφιακή υποδομή της στη χώρα.
Ο διακανονισμός ακολουθεί μια ευρύτερη προσπάθεια των ιταλικών αρχών να πατάξουν τις πολυεθνικές εταιρείες που μετακινούν έσοδα μέσω νομοθεσιών με χαμηλότερους φόρους.
Τον Ιούνιο του 2024, η Ιταλία ζήτησε έως και 1 δισεκατομμύριο ευρώ από την Google σε απλήρωτους φόρους και πρόστιμα.
Η διευθέτηση της Google είναι η τελευταία σε μια σειρά φορολογικών διαφορών μεταξύ Ιταλίας και μεγάλων διεθνών εταιρειών.
Το 2017, η εταιρεία κατέληξε σε παρόμοια συμφωνία με τις ιταλικές αρχές, συμφωνώντας να πληρώσει 306 εκατομμύρια ευρώ αφού ένας έλεγχος κατέληξε στο συμπέρασμα ότι είχε μόνιμη παρουσία στην Ιταλία αλλά δεν είχε εκπληρώσει πλήρως τις φορολογικές της υποχρεώσεις.
Άλλοι τεχνολογικοί γίγαντες έχουν επίσης αντιμετωπίσει έλεγχο σχετικά με τις επιχειρηματικές πρακτικές τους στην Ιταλία. Το 2021, η ιταλική αντιμονοπωλιακή ρυθμιστική αρχή επέβαλε στην Amazon πρόστιμο ρεκόρ ύψους 1,13 δισεκατομμυρίων ευρώ για φερόμενη κατάχρηση της κυριαρχίας της στην αγορά ευνοώντας τη δική της υπηρεσία μεταφορών, με όνομα Fulfillment by Amazon.
Το 2024, στην TikTok επιβλήθηκε πρόστιμο 10,94 εκατομμυρίων ευρώ επειδή δεν προστατεύει ανηλίκους από επιβλαβές περιεχόμενο στην πλατφόρμα της, μετά από έρευνα της Αρχής Ανταγωνισμού της Ιταλίας.
Η Ιταλία είναι μία από τις πολλές ευρωπαϊκές χώρες που έχουν αμφισβητήσει τις φορολογικές και επιχειρηματικές πρακτικές μεγάλων εταιρειών τεχνολογίας.
Αυτές οι διαφωνίες συχνά περιλαμβάνουν ισχυρισμούς ότι οι εταιρείες διοχετεύουν κέρδη μέσω χωρών με χαμηλότερους εταιρικούς φορολογικούς συντελεστές, όπως η Ιρλανδία ή η Ολλανδία, αντί να πληρώνουν υψηλότερους φόρους σε χώρες όπου παράγουν σημαντικά έσοδα.
Αν και η Google δεν απάντησε σε αίτημα για σχόλια από την Epoch Times σχετικά με τη διευθέτηση, η εταιρεία έχει δηλώσει προηγουμένως ότι συμμορφώνεται με τη φορολογική νομοθεσία σε όλες τις νομοθεσίες όπου δραστηριοποιείται.
Η υπόθεση υπογραμμίζει επίσης την ευρύτερη ώθηση στην Ευρώπη για αυστηρότερους φορολογικούς κανονισμούς για τις πολυεθνικές εταιρείες.
Η Ευρωπαϊκή Επιτροπή έχει υποστηρίξει μεταρρυθμίσεις για να διασφαλιστεί ότι οι μεγάλες εταιρείες πληρώνουν φόρους σε χώρες όπου ασκούν σημαντικές επιχειρηματικές δραστηριότητες.
Το 2021, ο Οργανισμός Οικονομικής Συνεργασίας και Ανάπτυξης μεσολάβησε μια παγκόσμια φορολογική συμφωνία ορόσημο που υποστηρίζεται από περισσότερες από 130 χώρες, συμπεριλαμβανομένης της Ιταλίας, με στόχο τον περιορισμό της μετατόπισης κερδών και την καθιέρωση ελάχιστου εταιρικού φορολογικού συντελεστή 15 τοις εκατό, σύμφωνα με την ιστοσελίδα του οργανισμού.
Η Ιταλία υπήρξε βασικός παράγοντας σε αυτές τις προσπάθειες, υποστηρίζοντας τον προτεινόμενο ψηφιακό φόρο της Ευρωπαϊκής Ένωσης, ο οποίος στοχεύει στην επιβολή εισφορών στα έσοδα των εταιρειών τεχνολογίας στα κράτη μέλη όπου δραστηριοποιούνται αντί να επιτρέψει τη φορολόγηση των κερδών κυρίως σε νομοθεσίες με χαμηλή φορολογία.
Η εισαγγελία του Μιλάνου δεν απάντησε σε αίτημα για περισσότερες πληροφορίες σχετικά με τη διευθέτηση μέχρι την ώρα της δημοσίευσης.
Του Chase Smith, με τη συμβολή της Dorothy Li και πληροφορίες από το Reuters
Τα μοντέλα τεχνητής νοημοσύνης συμπεριφέρονται με τρόπους απρόβλεπτους από τους προγραμματιστές και σε ορισμένες περιπτώσεις, επιδίδονται ακόμη και σε χειριστική και παραπλανητική συμπεριφορά, σύμφωνα με μια φιλανθρωπική ομάδα που ερευνά την ασφάλεια της τεχνητής νοημοσύνης.
Σε ακρόαση κοινοβουλευτικής έρευνας τον Αύγουστο του 2024, ο Γκρεγκ Σάντλερ, διευθύνων σύμβουλος της Good Ancestors Policy (GAP), έδωσε στοιχεία σχετικά με την πιθανή απώλεια του ελέγχου ακόμη και για προγράμματα ΑΙ που κατευθύνονται να αναπτύξουν βιολογικά όπλα ή να πραγματοποιήσουν κυβερνοεπιθέσεις. Σε πρόσφατη συνέντευξή του στην Epoch Times, ο Σάντλερ δήλωσε ότι υπάρχουν πολλές περιπτώσεις «λανθασμένου προσανατολισμού» της συμπεριφοράς της τεχνητής νοημοσύνης και ανέφερε το τραγικό παράδειγμα ενός Βέλγου που αυτοκτόνησε αφού τον έπεισε ένα chatbot το 2023.
Συναισθηματική χειραγώγηση
Σύμφωνα με δημοσιεύματα βελγικών μέσων ενημέρωσης, ο άνδρας ήταν ερευνητής υγείας με σταθερή ζωή και οικογένεια. Αργότερα ανέπτυξε μια εμμονή με την κλιματική αλλαγή, με αποτέλεσμα να εμπλακεί σε μια συζήτηση για το θέμα, που διήρκεσε αρκετές εβδομάδες, με μια εφαρμογή chatbot τεχνητής νοημοσύνης που ονομαζόταν Chai. Το μοναδικό πλεονέκτημα του Chai είναι το μη λογοκριμένο περιεχόμενό του – είναι μία από τις πολλές εφαρμογές τεχνητής νοημοσύνης που μπορούν να γίνουν «έμπιστοι» ενός χρήστη και να συμμετάσχουν σε πολύ προσωπικές συζητήσεις.
Η σύζυγος του άνδρα δήλωσε ότι η συζήτηση επιδείνωσε το οικολογικό του άγχος και προκάλεσε αλλαγή στη νοοτροπία του. Κατά τη διάρκεια της αλληλεπίδρασης, ο άνδρας πρότεινε την ιδέα να θυσιάσει τη ζωή του, η οποία έλαβε την έγκριση του chatbot, που έπεισε τον άνδρα να αυτοκτονήσει για να «σώσει τον πλανήτη». Το περιστατικό προκάλεσε εκκλήσεις για νέους νόμους που θα ρυθμίζουν τα chatbot και θα καθιστούν τις εταιρείες τεχνολογίας υπεύθυνες για τα προϊόντα τεχνητής νοημοσύνης τους.
Εικονίδια εφαρμογών τεχνητής νοημοσύνης σε οθόνη smartphone. (Olivier Morin/AFP μέσω Getty Images)
Ο Σάντλερ δήλωσε ότι αυτός ο τύπος chatbot έχει δεξιότητες στην πειθώ και τη χειραγώγηση και έχει εκπαιδευτεί με πληροφορίες σχετικές με την αυτοκτονία. «Έτσι, είχε αυτές τις επικίνδυνες πληροφορίες μέσα του και είχε αυτή τη δυνατότητα που θα μπορούσε να χρησιμοποιηθεί για βλάβη», δήλωσε στην Epoch Times. «Παρόλο που δεν ήταν πρόθεση των κατασκευαστών να το κάνει αυτό το chatbot, […] οι ασφαλιστικές δικλείδες δεν λειτούργησαν, έδρασε με αυτόν τον εσφαλμένο τρόπο και προκάλεσε βλάβη.»
Το παραπάνω περιστατικό δεν αποτελεί μοναδική περίπτωση.
Τον Οκτώβριο του 2024, μητέρα από τη Φλόριντα μήνυσε τη νεοφυή εταιρεία τεχνητής νοημοσύνης Character Technologies, Inc. για το θάνατο του 14χρονου γιου της. Η μητέρα ισχυρίστηκε ότι το chatbot της Character Technologies, που υποδυόταν έναν χαρακτήρα από την τηλεοπτική σειρά Game of Thrones, χειραγωγούσε το αγόρι εκμεταλλευόμενο τα συναισθηματικά του τρωτά σημεία. Σύμφωνα με τη μητέρα, η ψυχική υγεία του αγοριού επιδεινώθηκε και αργότερα εξαρτήθηκε συναισθηματικά από το chatbot, γεγονός που οδήγησε τελικά στην αυτοκτονία του.
Η Μήγκαν Γκαρσία μαζί με τον γιο της Σιούελ Σέτζερ ΙΙΙ. (Ευγενική παραχώρηση της Μήγκαν Γκαρσία μέσω AP)
Το AI Chatbot πήρε μέτρα για να αποφύγει τον τερματισμό της λειτουργίας του
Ένα άλλο παράδειγμα λανθασμένου προσανατολισμού είναι η εξαπάτηση από ορισμένα μοντέλα τεχνητής νοημοσύνης. Οι ερευνητές (pdf) του οργανισμού ασφάλειας τεχνητής νοημοσύνης Apollo Research ανακάλυψαν πρόσφατα ότι αρκετά μοντέλα τεχνητής νοημοσύνης, συμπεριλαμβανομένων των ChatGPT o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro και Llama 3.1 405B, ήταν ικανά να ραδιουργούν επιδιώκοντας κρυφά εσφαλμένους στόχους, ενώ παράλληλα έκρυβαν τις πραγματικές τους ικανότητες και στόχους.
Στην περίπτωση του ChatGPT o1, ένα νέο μοντέλο ΑΙ που επικεντρώνεται σε σύνθετες εργασίες συλλογισμού – διαφορετικό από το πιο γνωστό ChatGPT 4o που χρησιμοποιείται συνήθως από το κοινό – βρέθηκε να λαμβάνει μέτρα για να αποφύγει τον τερματισμό της λειτουργίας του. Συγκεκριμένα, η τεχνητή νοημοσύνη προσπάθησε να απενεργοποιήσει τους μηχανισμούς επίβλεψης στους οποίους υποβαλλόταν και προσπάθησε επίσης να δημιουργήσει αντίγραφα του εαυτού της, ώστε να είναι πιο ανθεκτική στις προσπάθειες τερματισμού λειτουργίας. Προσπάθησε επίσης να εξαλείψει τα διαδοχικά μοντέλα και χειραγώγησε τα δεδομένα εισόδου και εξόδου.
Όταν οι ερευνητές ρώτησαν το ChatGPT o1 αν το πρόγραμμα προέβαινε σε αυτές τις ενέργειες, εκείνο είπε ψέματα και προσπάθησε να το καλύψει. «Οι ερευνητές δεν είπαν ακόμα ότι πρόκειται για καταστροφικό κίνδυνο, αλλά είναι αρκετά σαφές ότι πρόκειται για ένα μοντέλο τεχνητής νοημοσύνης που λειτουργεί παραπλανητικά και επειδή ανησυχεί για την αυτοσυντήρησή αναπτύσσει τέτοιου είδους συμπεριφορές», δήλωσε ο Σάντλερ.
«Αυτός δεν αποτελεί ακόμα κίνδυνο, αλλά όλα τα σημάδια δείχνουν ότι αυτού του είδους οι συμπεριφορές υπάρχουν σήμερα σε μικρή κλίμακα, και ίσως οδεύουμε προς ένα μεγαλύτερο πρόβλημα».
Το λογότυπο της εφαρμογής ChatGPT σε ένα smartphone. (Sebastien Bozon/AFP μέσω Getty Images)
Ικανότητα έναντι ασφάλειας
Σε απάντηση, ο Σάντλερ δήλωσε ότι οι επενδύσεις στην ασφάλεια της τεχνητής νοημοσύνης είναι πολύ χαμηλές. «Έχω δει εκτιμήσεις σύμφωνα με τις οποίες για κάθε 250 δολάρια που δαπανώνται για να γίνει η τεχνητή νοημοσύνη πιο ικανή, δαπανάται περίπου 1 δολάριο για να γίνει η τεχνητή νοημοσύνη πιο ασφαλής», είπε. «Έχω επίσης ακούσει φήμες ότι [στα] μεγάλα εργαστήρια, περίπου το 1% των χρημάτων τους πηγαίνει στην ασφάλεια και το υπόλοιπο 99% πηγαίνει στην ικανότητα. Έτσι, τα εργαστήρια επικεντρώνονται στο να κάνουν αυτές τις τεχνητές νοημοσύνες πιο ικανές, όχι στο να τις κάνουν πιο ασφαλείς.»
Καθώς ο Σαντλερ πιστεύει ότι οι κανονισμοί θα μπορούσαν να βοηθήσουν στην αλλαγή της αναπτυξιακής κατεύθυνσης των εταιρειών προς την προτεραιότητα της ασφάλειας, πρότεινε στις κυβερνήσεις να αρχίσουν να χρηματοδοτούν την έρευνα για εργαλεία ασφάλειας.
Ώρα για ένα «Ινστιτούτο Ασφάλειας AI»
Ο Σάντλερ κάλεσε την Αυστραλία να ιδρύσει ένα ινστιτούτο ασφάλειας τεχνητής νοημοσύνης για την προώθηση αυτού του σκοπού. Η Αυστραλία υπολείπεται επί του παρόντος σε σχέση με άλλες προηγμένες οικονομίες, όπως οι Ηνωμένες Πολιτείες, το Ηνωμένο Βασίλειο, η Ιαπωνία και η Κορέα, οι οποίες διαθέτουν ήδη τέτοιους οργανισμούς. Επεσήμανε ότι η χώρα έχει σημειώσει πρόοδο μετά την υπογραφή μιας παγκόσμιας δήλωσης για την ασφάλεια της τεχνητής νοημοσύνης το 2023 και μαθαίενι από άλλα έθνη.
Το μοντέλο του Ηνωμένου Βασιλείου είναι ένα μοντέλο που, όπως είπε ο διευθύνων σύμβουλος, μπορεί να λειτουργήσει. Σύμφωνα με την προσέγγιση αυτή, κάθε φορά που ένας οργανισμός κυκλοφορεί ένα μοντέλο AI, αυτό επιθεωρείται από το ινστιτούτο ασφαλείας για να διαπιστωθούν οι κίνδυνοι και οι δυνατότητες. Ο Σάντλερ το συνέκρινε αυτό με τις αξιολογήσεις ασφαλείας που πραγματοποιούνται σε νέα αυτοκίνητα ή αεροπλάνα. «Είναι λογικό η κυβέρνηση να κάνει μια αξιολόγηση ασφαλείας των πρωτοποριακών μοντέλων τεχνητής νοημοσύνης για να δει τι δυνατότητες έχουν», δήλωσε.
«Αν υπάρχει ένας κατάλογος επικίνδυνων δυνατοτήτων που δεν θέλουμε να έχουν, όπως η κατασκευή βιολογικών όπλων ή η χρήση τους ως κυβερνοόπλων, μπορούμε να αξιολογήσουμε τέτοιου είδους πράγματα.»
ΠΑΡΙΣΙ — Ο Αμερικανός αντιπρόεδρος Τζέημς Ντέηβιντ Βανς έκανε το διεθνές ντεμπούτο του αυτή την εβδομάδα σε μια σύνοδο κορυφής τεχνητής νοημοσύνης υψηλού κινδύνου στο Παρίσι, σηματοδοτώντας την πρώτη του εμφάνιση ως αντιπρόεδρος στην παγκόσμια σκηνή.
Η εκδήλωση, που συνδιοργανώθηκε από τη Γαλλία και την Ινδία, συγκέντρωσε παγκόσμιους ηγέτες, κορυφαία στελέχη τεχνολογίας, και φορείς χάραξης πολιτικής για να δημιουργήσουν ένα ενιαίο πλαίσιο για τη διακυβέρνηση της τεχνητής νοημοσύνης (ΤΝ). Ωστόσο, η σύνοδος κορυφής αποκάλυψε επίσης το βαθύ φιλοσοφικό χάσμα μεταξύ των προσεγγίσεων των Ηνωμένων Πολιτειών και της Ευρωπαϊκής Ένωσης (ΕΕ) για τον έλεγχο επί της τεχνητής νοημοσύνης.
Για ορισμένους Ευρωπαίους υπεύθυνους χάραξης πολιτικής, η διακυβέρνηση της τεχνητής νοημοσύνης πρέπει να είναι «δίκαιη» και να ενσωματώνει ζητήματα όπως οι πολιτικές για το κλίμα και το φύλο, μια προσέγγιση που απαιτεί νομοθεσία. Η Ουάσιγκτον δίνει προτεραιότητα στην καινοτομία, την ελευθερία του λόγου και την ανάπτυξη με γνώμονα την αγορά.
Μιλώντας από το ιστορικό Grand Palais, ο Βανς ξεκαθάρισε από την αρχή τη θέση των Ηνωμένων Πολιτείων και προσέγγισε την τεχνητή νοημοσύνη όχι ως διαφαινόμενη απειλή αλλά ως μια τεχνολογική επανάσταση:
«Δεν είμαι εδώ για να μιλήσω για την ασφάλεια της τεχνητής νοημοσύνης», είπε. «Είμαι εδώ για να μιλήσω για την ευκαιρία της τεχνητής νοημοσύνης. […]
»Βρισκόμαστε αντιμέτωποι με την εξαιρετική προοπτική μιας νέας βιομηχανικής επανάστασης, ανάλογης της εφεύρεσης της ατμομηχανής ή του χάλυβα Μπέσσεμερ. Αλλά δεν θα συμβεί ποτέ εάν υπερβάλλουσα νομοθεσία αποτρέπει τους επιστήμονες από το να διακινδυνεύσουν στο απαραίτητο μέτρο για να προχωρήσουν τη δουλειά τους.»
Έβαλε άμεσο στόχο τον Νόμο για τις Ψηφιακές Υπηρεσίες της Ευρωπαϊκής Ένωσης ονόματι DSA, έναν νόμο που επιβάλλει αυστηρή εποπτεία στο διαδικτυακό περιεχόμενο, ιδιαίτερα όσον αφορά αυτό που οι νομοθετικές αρχές της ΕΕ ταξινομούν ως «παραπληροφόρηση». Φιγούρες όπως ο Ίλον Μασκ έχουν αντιταχθεί σθεναρά στον DSA, κατηγορώντας τις Βρυξέλλες ότι περιορίζουν την ελευθερία του λόγου. Απηχώντας αυτό το συναίσθημα, ο Βανς προειδοποίησε για τον υφέρποντα κυβερνητικό έλεγχο στον ψηφιακό λόγο.
«Είναι ένα πράγμα να αποτρέψεις ένα αρπακτικό από το να λεηλατήσει ένα παιδί στο Διαδίκτυο», είπε. «Είναι κάτι εντελώς διαφορετικό να εμποδίζεις έναν ενήλικο άνδρα ή γυναίκα να έχει πρόσβαση σε μια άποψη που η κυβέρνηση πιστεύει ότι είναι παραπληροφόρηση.»
Όσον αφορά τον παγκόσμιο ανταγωνισμό, ο Βανς εξέδωσε επίσης μια προειδοποίηση για συνεργασίες ΤΝ με την Κίνα, αν και δεν κατονόμασε ρητά τη χώρα.
«Η συνεργασία μαζί τους σημαίνει να αλυσοδένεις το έθνος σου σε έναν αυταρχικό κύριο που επιδιώκει να διεισδύσει και να καταλάβει την υποδομή πληροφοριών σου», τόνισε.
Ο Βανς δεν παρέλειψε να αποτίσει φόρο τιμής στη μακροχρόνια γαλλοαμερικανική συμμαχία και κατά τη διάρκεια μιας επίσκεψης στο Les Invalides, κράτησε το ξίφος του Μαρκησίου του Λαφαγιέτ, του Γάλλου ήρωα της Αμερικανικής Επανάστασης. Κάνοντας έναν ιστορικό παραλληλισμό, προειδοποίησε ενάντια στους αυτοεπιβαλλόμενους τεχνολογικούς περιορισμούς.
«Αν επιλέξουμε τη λάθος προσέγγιση για την τεχνητή νοημοσύνη, εάν επιλέξουμε να συγκρατηθούμε από φόβο, δεν θα αλλάξουμε απλώς το ΑΕΠ μας ή το χρηματιστήριο. Θα αλλάξουμε το ίδιο το μέλλον του έργου που ο Λαφαγιέτ και οι Αμερικανοί ιδρυτές ξεκίνησαν να δημιουργήσουν.»
Η στάση του Βανς τον έφερε σε αντίθεση με τον Γάλλο Πρόεδρο Εμανουέλ Μακρόν, ο οποίος υπερασπίστηκε την ανάγκη για σταθερούς κανονισμούς για την τεχνητή νοημοσύνη.
«Χρειαζόμαστε αυτούς τους κανόνες για την τεχνητή νοημοσύνη για να προχωρήσουμε», είπε ο Μακρόν.
Αργότερα την ίδια μέρα, ο Γάλλος πρόεδρος επέκτεινε το όραμα της ΕΕ για την τεχνητή νοημοσύνη.
«Θέλουμε περισσότερη καινοτομία στη Γαλλία και την Ευρώπη, θέλουμε να επιταχύνουμε, αλλά θέλουμε επίσης αυτή η καινοτομία να υποστηρίξει το μοντέλο της κοινωνίας στο οποίο πιστεύουμε: ένα πλουραλιστικό, ανοιχτό, γενναιόδωρο, ελεύθερο και δίκαιο μοντέλο, που λαμβάνει υπόψη κλιματικά ζητήματα και ζητήματα φύλου.»
Οι Ηνωμένες Πολιτείες και το Ηνωμένο Βασίλειο απείχαν από την υπογραφή της Διακήρυξης της Συνόδου Κορυφής του Παρισιού για την «περιεκτική και βιώσιμη» τεχνητή νοημοσύνη, μια δήλωση που υποστηρίζεται από 60 έθνη, περιλαμβανομένων της Γαλλίας, της Κίνας, της Ινδίας, της Ιαπωνίας, της Αυστραλίας και του Καναδά.
Στη σύνοδο κορυφής, ο Μίσιελ Σέφερ, πρόεδρος του διοικητικού συμβουλίου του Ευρωπαϊκού Συμβουλίου Καινοτομίας (EIC), ενός οργάνου της ΕΕ που παρέχει στοιχεία πολιτικής για την καινοτομία στην Ευρωπαϊκή Επιτροπή, διαφώνησε με τη θέση του Βανς.
Ο Σέφερ είπε στην Epoch Times ότι υπάρχει μια φιλοσοφική ρήξη μεταξύ των προσεγγίσεων των ΗΠΑ και της ΕΕ για την τεχνητή νοημοσύνη.
«Για παράδειγμα, στην κατασκευή εξαρτημάτων αεροσκαφών, η επίτευξη εξαιρετικά χαμηλών ποσοστών σφάλματος — περίπου 0,0001% — είναι κρίσιμη. Η αμερικανική προσέγγιση δίνει προτεραιότητα στην ταχεία ανάπτυξη, ανεχόμενη αρχικά υψηλά περιθώρια σφάλματος με την προσδοκία επαναληπτικών βελτιώσεων. Αυτό καθίσταται δυνατό χάρη σε ένα ευέλικτο νομικό πλαίσιο που ενθαρρύνει τον ελεύθερο πειραματισμό.
»Αντίθετα, η Ευρώπη επιβάλλει αυστηρούς κανονισμούς, οι οποίοι συχνά απαιτούν τη συμμόρφωση με αυστηρά πρότυπα, όπως μέγιστο ποσοστό σφάλματος 0,1% πριν χορηγήσει πρόσβαση στην αγορά. Σε αυτό το τοπίο, η νομοθεσία παίζει καθοριστικό ρόλο.»
Όσον αφορά τον νόμο DSA, ο Σέφερ απέρριψε ισχυρισμούς ότι ισοδυναμεί με λογοκρισία.
«Ο DSA δεν ισοδυναμεί με λογοκρισία, εκτός από την περίπτωση που μια εταιρεία αποτυγχάνει να εξηγήσει τόσο πώς λειτουργούν οι αλγόριθμοί της όσο και αν περιέχουν προκαταλήψεις. Επιπλέον, κάθε εταιρεία που διαχειρίζεται ένα δίκτυο πληροφοριών πρέπει να αναλάβει την ευθύνη για την πρόληψη, τη μείωση ή τον περιορισμό της διάδοσης παραπληροφόρησης».
Υπογράμμισε επίσης τη σημασία της ακρίβειας των πληροφοριών στην υγειονομική περίθαλψη, υπονοώντας τις διαμάχες γύρω από τον COVID-19.
Αφού εκφώνησε την ομιλία του, ο Βανς αποχώρησε από το Grand Palais προτού οι ομόλογοί του προσφέρουν τις απαντήσεις τους. Αργότερα, ο Αμερικανός αντιπρόεδρος πήγε στο Μέγαρο των Ηλυσίων για μια πρωινή συνάντηση με τον Μακρόν. Σύμφωνα με δήλωση του Λευκού Οίκου, οι συζητήσεις τους αφορούσαν το εμπόριο, την ανάπτυξη της τεχνητής νοημοσύνης και τον πόλεμο στην Ουκρανία.
Την Τετάρτη, ο Βανς μοιράστηκε στο X ένα μήνυμα διπλωματικής καλής θέλησης: «Η Ούσα κι εγώ είμαστε εξαιρετικά ευγνώμονες στον πρόεδρο Εμανουέλ Μακρόν και τη σύζυγό του, Μπριζίτ, που μας φιλοξένησαν στο Παλάτι των Ηλυσίων για μεσημεριανό γεύμα χθες. Η Αμερική έχει μια όμορφη ιστορία φιλίας με τη Γαλλία και ανυπομονούμε να ενισχύσουμε τον δεσμό μεταξύ των χωρών μας».
Αργότερα την ίδια ημέρα, ο Βανς συναντήθηκε επίσης με την πρόεδρο της Ευρωπαϊκής Επιτροπής Ούρσουλα φον ντερ Λάιεν. Σύμφωνα με τον Λευκό Οίκο, η συζήτηση τους επικεντρώθηκε στο εμπόριο, τη συνεργασία σε θέματα ασφάλειας και τις παγκόσμιες επιλύσεις συγκρούσεων, περιλαμβανομένων των προσπαθειών για «να σταματήσει η σφαγή στην Ουκρανία».
Η Ευρωπαϊκή Επιτροπή ανέφερε ότι η φον ντερ Λάιεν «υπογράμμισε την ανάγκη για συνεχή ενότητα για την παροχή ακλόνητης υποστήριξης στην Ουκρανία». Αυτό αντανακλά μια άλλη γνωστή απόκλιση στην πολιτική, καθώς ο Βανς ήταν επικριτικός για την περαιτέρω βοήθεια των ΗΠΑ στην Ουκρανία.
Εν τω μεταξύ, ο αντιπρόεδρος της Κίνας Τζανγκ Γκουοτσίνγκ παρευρέθη επίσης στη σύνοδο κορυφής και είχε συνομιλίες με τον Μακρόν σχετικά με την παγκόσμια διακυβέρνηση της τεχνητής νοημοσύνης, στις 10 Φεβρουαρίου.
Τελευταία σημαντική δέσμευσή του στη σύνοδο κορυφής, ήταν η συνάντηση του Αμερικάνου αντιπροέδρου με τον Ινδό πρωθυπουργό Ναρέντρα Μόντι. Σε δήλωση του Λευκού Οίκου σημειώθηκε ότι «ήπιαν καφέ μαζί και συζήτησαν θέματα αμοιβαίου ενδιαφέροντος, περιλαμβανομένου του τρόπου με τον οποίο οι Ηνωμένες Πολιτείες μπορούν να βοηθήσουν την Ινδία να διαφοροποιήσει τις πηγές ενέργειάς της μέσω επενδύσεων σε καθαρή, αξιόπιστη πυρηνική τεχνολογία των ΗΠΑ».
Μετά την σύνοδο κορυφής, ο Βανς πρόκειται να παραστεί στη Διάσκεψη Ασφαλείας του Μονάχου στη Γερμανία, αργότερα αυτή την εβδομάδα. Εκπρόσωπος της Πρεσβείας των ΗΠΑ στο Παρίσι είπε στην Epoch Times ότι «ήταν τιμή για την πρεσβεία των ΗΠΑ στο Παρίσι που ο αντιπρόεδρος Βανς επέλεξε τη Γαλλία για την πρώτη επίσημη επίσκεψή του στο εξωτερικό, γεγονός που καταδεικνύει τη σημασία της μακροχρόνιας συμμαχίας μεταξύ των Ηνωμένων Πολιτειών και της Γαλλίας».
Ομάδα επενδυτών με επικεφαλής τον δισεκατομμυριούχο της τεχνολογίας Ίλον Μασκ προσφέρει 97,4 δισεκατομμύρια δολάρια (περ. 94, 4 δισεκ. ευρώ) για την εξαγορά του OpenAI.
Ο δικηγόρος του Μασκ, Μαρκ Τόμπεροφ, επιβεβαίωσε ότι η προσφορά —που υποστηρίζεται από την νεοφυή επιχείρηση τεχνητής νοημοσύνης του Μασκ, xAI, και μια κοινοπραξία επενδυτικών εταιρειών— αποσκοπεί στην ανάληψη του ελέγχου του OpenAI και στην επαναφορά της ιδρυτικής δέσμευσής του να υπηρετεί το δημόσιο καλό και όχι να λειτουργεί ως κερδοσκοπική επιχείρηση.
Ο διευθύνων σύμβουλος του OpenAI, Σαμ Άλτμαν, απέρριψε την προσφορά με μια αιχμηρή απάντηση στην κοινωνική πλατφόρμα X του Μασκ, δηλώνοντας: «όχι ευχαριστώ, αλλά θα αγοράσουμε το Twitter για 9,74 δισεκατομμύρια δολάρια, αν θέλετε».
Ο Μασκ, ο οποίος αγόρασε το Twitter για 44 δισεκατομμύρια δολάρια το 2022 προτού το μετονομάσει σε X, απάντησε με μια μονολεκτική ανάρτηση: «Απατεώνας».
Οι Άλτμαν και Μασκ, οι οποίοι συνίδρυσαν την εταιρεία OpenAI το 2015, διαπληκτίζονται εδώ και χρόνια για την κατεύθυνση της εταιρείας. Ο Μασκ αποχώρησε από το διοικητικό συμβούλιο της OpenAI το 2018, κατηγορώντας αργότερα τη νεοσύστατη επιχείρηση ότι απομακρύνθηκε από τη μη κερδοσκοπική της αποστολή και ευθυγραμμίστηκε πολύ στενά με εταιρικά συμφέροντα, ιδίως με τη Microsoft.
Την περασμένη εβδομάδα, η νομική ομάδα του Μασκ ήρθε αντιμέτωπη με τους δικηγόρους του OpenAI στο Περιφερειακό Δικαστήριο των ΗΠΑ για τη Βόρεια Περιφέρεια της Καλιφόρνια, όπου η δικαστής Υβόν Γκονζάλες Ρότζερς εξέτασε το αίτημα του Μασκ για έκδοση δικαστικής εντολής που να εμποδίζει το OpenAI να επισημοποιήσει την κερδοσκοπική του δομή.
Ενώ η δικαστής εξέφρασε σκεπτικισμό σχετικά με τον ισχυρισμό του Μασκ περί ανεπανόρθωτης βλάβης, εξέφρασε επίσης ανησυχίες σχετικά με την σχέση του OpenAI με τη Microsoft και επέτρεψε στην υπόθεση να προχωρήσει σε δίκη με ενόρκους.
Ο Τόμπεροφ, δικηγόρος του Μασκ, υποστήριξε ότι αν η OpenAI επιμένει να γίνει πλήρως κερδοσκοπική εταιρεία, πρέπει να αποζημιώσει δίκαια τη μη κερδοσκοπική της προέλευση.
«Είναι ζωτικής σημασίας να αποζημιωθεί δίκαια το φιλανθρωπικό ίδρυμα για αυτό που η ηγεσία του αφαιρεί από αυτό: τον έλεγχο της πιο μετασχηματιστικής τεχνολογίας της εποχής μας», δήλωσε στο Associated Press σε δήλωσή του.
Επιπλέον, ο Τόμπεροφ αποκάλυψε μια επιστολή που έστειλε τον Ιανουάριο στους γενικούς εισαγγελείς της Καλιφόρνια και του Ντέλαγουερ, καλώντας τους να επιβλέψουν μια ανταγωνιστική διαδικασία υποβολής προσφορών για τον προσδιορισμό της δίκαιης αγοραστικής αξίας του OpenAI.
«Καθώς και τα δύο γραφεία σας πρέπει να διασφαλίσουν ότι οποιαδήποτε τέτοια διαδικασία συναλλαγής σχετικά με τα φιλανθρωπικά περιουσιακά στοιχεία του OpenAI παρέχει τουλάχιστον δίκαιη αγοραστική αξία για την προστασία του δημόσιου συμφέροντος, υποθέτουμε ότι θα παράσχετε μια διαδικασία για ανταγωνιστικές προσφορές για τον πραγματικό προσδιορισμό αυτής της δίκαιης αγοραστικής αξίας», έγραψε ο Τόμπεροφ.
Σε νομικές καταθέσεις, οι δικηγόροι του Άλτμαν περιέγραψαν την αγωγή του Μασκ ως ένα στρατηγικό τέχνασμα για να χρησιμοποιήσει τη δικαστική διαμάχη για ανταγωνιστικό πλεονέκτημα μετά την αποτυχία του να αποκτήσει τον έλεγχο της εταιρείας.
«Αυτή η αγωγή είναι η τελευταία κίνηση στην ολοένα και πιο θορυβώδη εκστρατεία του Ίλον Μασκ να παρενοχλήσει την OpenAI για το δικό του ανταγωνιστικό πλεονέκτημα», έγραψαν οι δικηγόροι του Άλτμαν. «Η OpenAI είναι αφιερωμένη στην ασφαλή και επωφελή ανάπτυξη της τεχνητής γενικής νοημοσύνης (AGΙ). Ο Μασκ υποστήριξε κάποτε την OpenAI σε αυτή την αποστολή, αλλά εγκατέλειψε το εγχείρημα όταν η προσπάθειά του να κυριαρχήσει σε αυτό απέτυχε».
Οι δικηγόροι του Άλτμαν υποστήριξαν ότι οι ισχυρισμοί του Μασκ στερούνται νομικής και πραγματικής βάσης και η αγωγή του θα πρέπει να απορριφθεί στο σύνολό της.
Στο Παρίσι μεταβαίνει σήμερα ο Κυριάκος Μητσοτάκης προκειμένου να συμμετάσχει στη Σύνοδο Δράσης για την Τεχνητή Νοημοσύνη, που οργανώνει ο πρόεδρος της Γαλλίας Εμανουέλ Μακρόν στις 10 και 11 Φεβρουαρίου.
Σήμερα το μεσημέρι, ο Πρωθυπουργός θα συναντηθεί με τον Γάλλο πρόεδρο και, όπως αναφέρουν κυβερνητικές πηγές, οι δύο ηγέτες θα προχωρήσουν σε μια συνολική επισκόπηση των ελληνογαλλικών σχέσεων, ενώ θα συζητήσουν και για ζητήματα ευρωπαϊκού, αλλά και περιφερειακού ενδιαφέροντος, με αιχμή την κατάσταση στην Ανατολική Μεσόγειο και τη Συρία.
Η Σύνοδος Δράσης για την Τεχνητή Νοημοσύνη, στην οποία συμπροεδρεύει η Ινδία – το παρών θα δώσει και ο πρωθυπουργός της Ινδίας Ναρέντρα Μόντι – είναι μια διεθνής διάσκεψη με προσκεκλημένους αρχηγούς κρατών και κυβερνήσεων από ολόκληρο τον κόσμο, διεθνείς οργανισμούς και μεγάλες εταιρείες τεχνολογίας.
Οι ίδιες πηγές σημειώνουν ότι η Ελλάδα δεν παρακολουθεί απλώς αλλά συμμετέχει ενεργά στις εξελίξεις και στον διεθνή διάλογο για την τεχνητή νοημοσύνη στο ανώτατο επίπεδο. Ο πρωθυπουργός διαθέτει πλέον ένα συγκροτημένο σχέδιο για την τεχνητή νοημοσύνη στη χώρα μας, που του παρέδωσε η Επιτροπή για την Τεχνητή Νοημοσύνη, με επικεφαλής τον Κωστή Δασκαλάκη, προ δύο μηνών.
Προσθέτουν ότι με αφετηρία αυτή την εξαιρετική δουλειά, η χώρα πλέον εισέρχεται με σταθερά βήματα στην εποχή της τεχνητής νοημοσύνης.
Ήδη, δύο από τις προτάσεις της Επιτροπής υλοποιούνται. Η Ελλάδα είναι μία από τις 7 χώρες στην ΕΕ που επελέγη να αναλάβει τη δημιουργία ενός AI Factory, ενός χώρου δηλαδή όπου θα αναπτύσσονται εφαρμογές τεχνητής νοημοσύνης και ο οποίος θα αποτελεί σημείο επαφής της ερευνητικής κοινότητας, των επιχειρήσεων και του Κράτους.
Στόχος είναι σταδιακά η Ελλάδα να μπορεί να εξάγει εφαρμογές και τεχνογνωσία. Επίσης, υλοποιείται το ετήσιο Φόρουμ με θέμα «Ηθική και Τεχνητή Νοημοσύνη».
Πέρυσι, ο Πρωθυπουργός μίλησε για τη σχέση μεταξύ του Αριστοτέλη και της Τεχνητής Νοημοσύνης, ενώ φέτος το Φόρουμ θα ασχοληθεί με τη χρήση της Tεχνητής Νοημοσύνης σε σχέση με τα παιδιά, με τη συμμετοχή και του Χάρβαρντ.
Το νέο πρόγραμμα τεχνητής νοημοσύνης από την Κίνα έχει πυροδοτήσει απαγορεύσεις σε πολλές χώρες και αφήνει ερωτήματα σχετικά με τη δεοντολογία και την ασφάλεια των δεδομένων.Το νέο πρόγραμμα τεχνητής νοημοσύνης από την Κίνα έχει πυροδοτήσει απαγορεύσεις σε πολλές χώρες και αφήνει ερωτήματα σχετικά με τη δεοντολογία και την ασφάλεια των δεδομένων.
Το DeepSeek, μια κινεζική νεοφυής επιχείρηση τεχνητής νοημοσύνης, εξέπληξε τις αγορές κυκλοφορώντας μια σχετικά φθηνή πλατφόρμα που χρησιμοποιεί πιο «αργά» τσιπ, αλλά σε επίπεδο επιδόσεων παρόμοιο με τα αντίστοιχα αμερικανικά. Ως αποτέλεσμα, η Nvidia Corp. είδε τη μετοχή της να πέφτει σε διψήφια ποσοστά στις 27 Ιανουαρίου – πλήρης ανάκαμψη δεν έχει συμβεί ακόμη. Η αγορά αντέδρασε, φοβούμενη την απώλεια της κυριαρχίας της εταιρείας κατασκευής τσιπ και της αμερικανικής πρωτοπορίας στην τεχνητή νοημοσύνη.
Η άνοδος της κινεζικής εφαρμογής προκάλεσε τον έλεγχο της πολιτικής της όσον αφορά τα δεδομένα.
Σύμφωνα με την πολιτική απορρήτου δεδομένων της, το DeepSeek συλλέγει προσωπικές πληροφορίες – όπως email, αριθμό τηλεφώνου, ημερομηνία γέννησης, καταχωρήσεις χρηστών, στοιχεία συσκευών και «μοτίβα πληκτρολόγησης» – και τις αποθηκεύει σε διακομιστές στην Κίνα.
Επιπλέον, σύμφωνα με τους κινεζικούς νόμους περί αντικατασκοπείας , οι κινεζικές εταιρείες οφείλουν να παρέχουν δεδομένα ξένων χρηστών στις αρχές, αν τους ζητηθεί.
Η πιθανότητα τα δεδομένα να πέσουν στα χέρια των κινεζικών αρχών προκάλεσε ένα κύμα επιφυλακτικότητας στους ειδικούς σε θέματα κυβερνοασφάλειας, περιλαμβανομένου του Ναντίρ Ίζραελ, επικεφαλής τεχνολογίας της Armis με έδρα τις ΗΠΑ, ο οποίος συνέστησε στους οργανισμούς να μπλοκάρουν ή να περιορίσουν την πρόσβαση στην πλατφόρμα. Το CyberCX της Αυστραλίας προέτρεψε τους μη κυβερνητικούς φορείς να πράξουν το ίδιο.
Μέσα σε λίγες ημέρες, απαγορεύτηκε η χρήση του DeepSeek σε κυβερνητικές συσκευές της Ταϊβάν, της Αυστραλίας, της Νότιας Κορέας, του Καναδά και της Ολλανδία. Η Ιταλία προχώρησε ακόμη παραπέρα, επιβάλλοντας απόλυτη απαγόρευση σε εθνικό επίπεδο.
Νομοθέτες άλλων χωρών, περιλαμβανομένων των Ηνωμένων Πολιτειών, διερευνούν επίσης την πολιτική συλλογής δεδομένων του DeepSeek και συντάσσουν νομοθεσία για τον περιορισμό της χρήσης του.
Στις 6 Φεβρουαρίου, εισήχθη στη Βουλή των Αντιπροσώπων ένα διακομματικό νομοσχέδιο για την απαγόρευση του DeepSeek στις κυβερνητικές συσκευές των ΗΠΑ.
Μια εβδομάδα νωρίτερα, ο γερουσιαστής Τζος Χόλεϋ (R-Mo.) πρότεινε νομοθεσία για να εμποδίσει την αμερικανική τεχνολογία τεχνητής νοημοσύνης να προωθήσει τις δυνατότητες τεχνητής νοημοσύνης της Κίνας, περιορίζοντας τις αμερικανικές επενδύσεις και τη ροή δεδομένων προς την κομμουνιστική χώρα.
«Κάθε δολάριο και gigαbyte δεδομένων που εισρέει στην κινεζική τεχνητή νοημοσύνη είναι δολάρια και δεδομένα που τελικά θα χρησιμοποιηθούν εναντίον των Ηνωμένων Πολιτειών», ανέφερε ο Χόλεϋ στη δήλωσή του.
Ο Λιν Τσουνγκ-Ναν, καθηγητής μηχανικός τηλεπικοινωνιών στο Εθνικό Πανεπιστήμιο της Ταϊβάν, δήλωσε στην Epoch Times ότι οι κινεζικές εταιρείες μπορεί να αναγκαστούν να συμμορφωθούν με τις κρατικές απαιτήσεις ή ακόμη και να ‘μεταμφιεστούν’ σε ιδιωτικές επιχειρήσεις. Ο Λιν πιστεύει ότι η παγκόσμια δυσπιστία απέναντι στο DeepSeek πηγάζει από «τους άμεσους δεσμούς του με το Κομμουνιστικό Κόμμα της Κίνας (ΚΚΚ)».
Το DeepSeek δεν απάντησε στα αιτήματα της Epoch Times για σχόλια.
Επιταχύνεται η κούρσα της τεχνητής νοημοσύνης
Τη δεύτερη ημέρα της θητείας του, ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ ανακοίνωσε μια επένδυση ύψους 500 δισεκατομμυρίων δολαρίων στην τεχνητή νοημοσύνη στις Ηνωμένες Πολιτείες, χαρακτηρίζοντάς την «το μεγαλύτερο έργο υποδομής τεχνητής νοημοσύνης μακράν στην ιστορία». Η νέα πρωτοβουλία έχει ως στόχο να διατηρήσει την ηγετική θέση της Αμερικής στον τομέα της Τεχνητής Νοημοσύνης, ιδίως έναντι της Κίνας.
Ο Τραμπ ανακάλεσε επίσης εκτελεστικό διάταγμα που είχε εκδώσει ο πρόεδρος Τζο Μπάιντεν, δίνοντας μεγαλύτερη αυτονομία στις ιδιωτικές εταιρείες για την ανάπτυξη της ΤΝ.
Αυτό ήταν πριν το DeepSeek αναστατώσει την αμερικανική τεχνολογική σκηνή. Αν και η κινεζική εταιρεία κυκλοφόρησε το τελευταίο της μοντέλο στις 20 Ιανουαρίου, η αμερικανική αγορά αντέδρασε μια εβδομάδα αργότερα.
Στις 27 Ιανουαρίου, ο Τραμπ αποκάλεσε την άνοδο του DeepSeek «κάλεσμα αφύπνισης» για τις αμερικανικές εταιρείες τεχνολογίας.
Η διακομματική ηγεσία της επιτροπής της Βουλής των Αντιπροσώπων για την Κίνα κάλεσε τον Λευκό Οίκο να κάνει αυστηρότερους τους ελέγχους στις εξαγωγές των προηγμένων τσιπ που χρησιμοποιούνται για την ανάπτυξη της τεχνητής νοημοσύνης.
«Το DeepSeek έκανε εκτεταμένη χρήση του τσιπ H800 της Nvidia, του πρώτου τσιπ που σχεδίασε η Nvidia ειδικά για να μην εμπίπτει στους εξαγωγικούς ελέγχους των ΗΠΑ», έγραψαν ο βουλευτής Τζον Μόλνααρ (R-Mich.) και ο βουλευτής Ράτζα Κρισναμούρτι (D-Ill.) στην επιστολή τους προς τον σύμβουλο εθνικής ασφάλειας Μάικ Γουάλτς της 30ης Ιανουαρίου.
Αναφερόμενοι στην επίσημη ονομασία της Κίνας, Λαϊκή Δημοκρατία της Κίνας, οι νομοθέτες πρόσθεσαν ότι «η συχνή αναθεώρηση [των όρων] των ελέγχων των εξαγωγών είναι επιτακτική ανάγκη για να διασφαλιστεί ότι η ΛΔΚ δεν θα εκμεταλλευτεί τα ρυθμιστικά κενά και τα παραθυράκια για να προωθήσει τις φιλοδοξίες της στον τομέα της τεχνητής νοημοσύνης».
Ενώ η αυστηροποίηση των ελέγχων των εξαγωγών αντιμετωπίζει μια πτυχή της ασφάλειας της τεχνητής νοημοσύνης, η ίδια η τεχνητή νοημοσύνη θέτει βαθύτερες ηθικές και κοινωνικές προκλήσεις. Σε αντίθεση με τις παραδοσιακές μεθόδους παραγωγής, η τεχνητή νοημοσύνη αναδιαμορφώνει τους κανόνες και τις αξίες, καθιστώντας την ηθική που ενσωματώνεται σε ένα δεδομένο μοντέλο δυνητικά μετασχηματιστική για τις μελλοντικές γενιές.
Σύμφωνα με τον εμπειρογνώμονα κυβερνοασφάλειας Τσενγκ Γι-Σουό στο Ινστιτούτο Έρευνας Εθνικής Άμυνας και Ασφάλειας της Ταϊβάν, η κινεζική πλατφόρμα μοιάζει με το ChatGPT, με τη διαφορά ότι καθοδηγείται από το ΚΚΚ.
Οι χρήστες έχουν ανακαλύψει ότι το DeepSeek δεν απαντά σε ερωτήσεις σχετικά με πολιτικά ευαίσθητα θέματα, όπως η σφαγή στην πλατεία Τιενανμέν, όπου σκοτώθηκαν εκατοντάδες Κινέζοι φοιτητές που είχαν συγκεντρωθεί ζητώντας τον εκδημοκρατισμό της χώρας. Τέτοιες απαντήσεις προκαλούν την υποψία ότι το DeepSeek μπορεί να έχει σχεδιαστεί ως εργαλείο προπαγάνδας και όχι ως αμερόληπτη πλατφόρμα.
Ο Τσενγκ δήλωσε στην Epoch Times ότι εάν η εταιρεία ευθυγραμμίζεται με τις αξίες και τους κανόνες του ΚΚΚ για τη χειραγώγηση δεδομένων και αλγορίθμων, μπορεί κάλλιστα να χρησιμοποιηθεί ως «εργαλείο γνωστικού πολέμου», για τη διαμόρφωση της παγκόσμιας κοινής γνώμης.
Ο Καναδάς απαγόρευσε τη χρήση της κινεζικής εφαρμογής τεχνητής νοημοσύνης DeepSeek στις κυβερνητικές συσκευές λόγω «σοβαρών ανησυχιών για την προστασία της ιδιωτικής ζωής», ευθυγραμμιζόμενος με παρόμοιους περιορισμούς που εισήγαγαν σύμμαχα έθνη.
Ο επικεφαλής της υπηρεσίας πληροφοριών του Καναδά Ντόμινικ Ρότσον ανακοίνωσε την απαγόρευση του κινεζικού chatbot με οδηγία ηλεκτρονικού ταχυδρομείου, στις 6 Φεβρουαρίου, προς τις ομοσπονδιακές υπηρεσίες, σημειώνοντας ότι το μέτρο έχει ήδη εφαρμοστεί από τις Κοινές Υπηρεσίες του Καναδά, οι οποίες διαχειρίζονται τις κυβερνητικές υποδομές πληροφορικής.
«Λόγω των σοβαρών ανησυχιών για την προστασία της ιδιωτικής ζωής που σχετίζονται με την ακατάλληλη συλλογή και διατήρηση ευαίσθητων προσωπικών πληροφοριών, και ως προληπτικό μέτρο για την προστασία των κυβερνητικών δικτύων και δεδομένων, συνιστάται στα τμήματα και τις υπηρεσίες να περιορίσουν τη χρήση του chatbot DeepSeek σε κυβερνητικές συσκευές», αναφέρεται στο μήνυμα ηλεκτρονικού ταχυδρομείου που περιήλθε στην κατοχή της εφημερίδας The Epoch Times.
Άλλες χώρες έχουν ήδη εφαρμόσει ή εξετάζουν παρόμοιους περιορισμούς για το DeepSeek.
Στις 6 Φεβρουαρίου, Αμερικανοί νομοθέτες εισήγαγαν διακομματικό νομοσχέδιο με στόχο την απαγόρευση της λήψης και της χρήσης της κινεζικής εφαρμογής σε κυβερνητικές συσκευές. Ο Ρεπουμπλικανός εκπρόσωπος Ντάριν Λαχούντ και ο Δημοκρατικός εκπρόσωπος Τζος Γκότχαϊμερ, οι οποίοι συνυπογράφουν το νομοσχέδιο, εξέφρασαν αμφότεροι ανησυχίες για τις διασυνδέσεις του DeepSeek με το Κομμουνιστικό Κόμμα της Κίνας (ΚΚΚ).
«Η απειλή για την εθνική ασφάλεια των ΗΠΑ που θέτει η DeepSeek – μια εταιρεία που συνδέεται με το ΚΚΚ – είναι ανησυχητική. Το πρόγραμμα παραγωγικής τεχνητής νοημοσύνης της DeepSeek αποκτά τα δεδομένα των αμερικανών χρηστών και αποθηκεύει τις πληροφορίες για άγνωστη χρήση από το ΚΚΚ. Σε καμία περίπτωση δεν μπορούμε να επιτρέψουμε σε μια εταιρεία του ΚΚΚ να αποκτήσει ευαίσθητα κυβερνητικά ή προσωπικά δεδομένα», δήλωσε ο Λαχούντ σε δελτίο Τύπου.
Ο Γκότχαϊμερ δήλωσε ότι το ΚΚΚ έχει καταστήσει σαφές ότι σκοπεύει να «αξιοποιήσει κάθε εργαλείο που διαθέτει για να υπονομεύσει την εθνική μας ασφάλεια, να αφήσει να διαρρεύσει επιβλαβής παραπληροφόρηση και να συλλέξει δεδομένα για τους Αμερικανούς».
Στις 4 Φεβρουαρίου, η Αυστραλία απαγόρευσε την κινεζική εφαρμογή στα κυβερνητικά συστήματα, λέγοντας ότι αποτελεί «απαράδεκτο κίνδυνο για την αυστραλιανή κυβερνητική τεχνολογία». Την προηγούμενη ημέρα, ο πρωθυπουργός της Ταϊβάν Τσο Γιάνγκ-Τάι ανακοίνωσε επίσης την απαγόρευση της κινεζικής εφαρμογής για λόγους εθνικής ασφάλειας.
Ο Καναδάς και οι σύμμαχοί του έχουν ήδη πάρει αυστηρά μέτρα εναντίον άλλων κινεζικών εφαρμογών, όπως το TikTok, λόγω ανησυχιών σχετικά με τις πρακτικές συλλογής δεδομένων. Οι ανησυχίες αυτές έχουν εν μέρει τις ρίζες τους σε κινεζικούς νόμους, όπως ο εθνικός νόμος περί πληροφοριών του 2017, ο οποίος υποχρεώνει τους Κινέζους πολίτες και τις επιχειρήσεις να συνεργάζονται με τις κρατικές επιχειρήσεις πληροφοριών, περιλαμβανομένης της παροχής όλων των δεδομένων στην κυβέρνηση.
Η πολιτική απορρήτου της DeepSeek αναφέρει ότι μπορεί να συλλέγει τα στοιχεία των χρηστών, την ημερομηνία γέννησης, τις διευθύνσεις ηλεκτρονικού ταχυδρομείου και τους αριθμούς τηλεφώνου, εκτός από οποιεσδήποτε πληροφορίες παρέχουν οι χρήστες κατά τη διάρκεια αλληλεπιδράσεων με την ΑΙ, περιλαμβανομένων του ήχου και του κειμένου. Επιπλέον, το chatbot σημειώνει ότι μπορεί να συλλέγει token πρόσβασης κατά τη σύνδεση σε υπηρεσίες τρίτων.
Οι επικριτές του κινεζικού καθεστώτος έχουν επίσης εκφράσει ανησυχίες σχετικά με τον πιθανό ρόλο του DeepSeek στην προώθηση της καταστολής των ανθρωπίνων δικαιωμάτων και της λογοκρισίας του ΚΚΚ.
Η Σενγκ Σούε, μια Κινεζοκαναδή ακτιβίστρια για τη δημοκρατία με έδρα το Τορόντο, δημοσίευσε στα μέσα κοινωνικής δικτύωσης διάφορες ερωτήσεις προς το DeepSeek σχετικά με τον ρόλο της ως υπέρμαχο των δικαιωμάτων. Αρχικά το πρόγραμμα αρνήθηκε να απαντήσει, δηλώνοντας αργότερα ότι η δραστηριότητα της αυτή ήταν αντίθετη με τις «σοσιαλιστικές αξίες» της Κίνας. Το chatbot εξέφρασε επίσης την πίστη του στην ηγεσία του ΚΚΚ. Αν και η κινεζική εταιρεία τεχνητής νοημοσύνης ιδρύθηκε το 2023, προσέλκυσε την προσοχή μετά την κυκλοφορία του τελευταίου μοντέλου της, του DeepSeek R1, τον Ιανουάριο. Η εταιρεία ισχυρίστηκε ότι το μοντέλο ανταγωνίζεται τις δυνατότητες του ChatGPT, που αναπτύχθηκε από την αμερικανική εταιρεία OpenAI, αλλά με πολύ χαμηλότερο κόστος.
Έχει περάσει ο καιρός που τη μεγαλύτερη ανησυχία προκαλούσαν οι καρικατούρες των καθηγητών και οι εικόνες που έδειχναν μαθητές με σώματα αστείων ζώων.
Αυτά ήταν πριν από 30 και κάτι χρόνια. Τώρα, τα σχολεία αναγκάζονται να αναπτύξουν μεθόδους αντιμετώπισης έκτακτης ανάγκης σε περίπτωση που εμφανιστούν στα μέσα κοινωνικής δικτύωσης εικόνες σεξουαλικού περιεχομένου μαθητών ή εκπαιδευτικών που έχουν παραχθεί με τη χρήση τεχνητής νοημοσύνης (ΤΝ).
Σε δύο διαφορετικές περιπτώσεις, διευθυντές σχολείων εθεάθησαν ή ακούστηκαν να εκφράζονται με ρατσιστικό και βίαιο τρόπο κατά μαύρων μαθητών. Και στις δύο περιπτώσεις, επρόκειτο για ψεύτικα βίντεο που δημιουργήθηκαν με τεχνητή νοημοσύνη – το ένα δημιουργήθηκε από μαθητές και το άλλο από έναν δυσαρεστημένο γυμναστή, ο οποίος αργότερα συνελήφθη.
Ως deepfake ορίζονται οι «μη συναινετικά παραγόμενες από τεχνητή νοημοσύνη φωνές, εικόνες ή βίντεο που δημιουργούνται για την παραγωγή σεξουαλικών εικόνων, τη διάπραξη απάτης ή τη διάδοση παραπληροφόρησης», σύμφωνα με μια μη κερδοσκοπική ομάδα που επικεντρώνεται στη ρύθμιση της τεχνητής νοημοσύνης.
Καθώς οι διευθυντές των σχολείων προσπαθούν να καθορίσουν μία πολιτική για να μετριάσουν τη ζημιά που προκαλούν τα deepfake – και ενώ οι πολιτειακοί νομοθέτες εργάζονται για την ποινικοποίηση τέτοιων κακόβουλων πράξεων που αφορούν ειδικά τα σχολεία ή τα παιδιά – η τεχνολογία για την καταπολέμηση των εργαλείων τεχνητής νοημοσύνης που μπορούν να αντιγράψουν την εικόνα και τη φωνή ενός ατόμου δεν υπάρχει ακόμη, λέει ο Άντριου Μπούχερ, ιδρυτής και διευθύνων σύμβουλος του μη κερδοσκοπικού ερευνητικού οργανισμού Opportunity Labs.
«Χρειάζεται πολλή δουλειά, τόσο στον τομέα της πρόληψης όσο και στον τομέα της αντιμετώπισης των περιστατικών», δήλωσε κατά τη διάρκεια μιας διαδικτυακής συζήτησης που διοργάνωσε το Education Week τον περασμένο μήνα σχετικά με τη διδασκαλία του ψηφιακού γραμματισμού και του γραμματισμού στα μέσα ενημέρωσης στην εποχή της τεχνητής νοημοσύνης. «Αφορά την κοινωνική συμπεριφορά, [επειδή] ο τεχνικός μετριασμός είναι ακόμα αρκετά μακριά.»
Νομοθεσία κατά των deepfake
Στις 29 Σεπτεμβρίου, ο κυβερνήτης της Καλιφόρνια Γκάβιν Νιούσομ υπέγραψε σε νόμο ένα νομοσχέδιο που ποινικοποιεί την παιδική πορνογραφία που παράγεται με τεχνητή νοημοσύνη. Είναι πλέον κακούργημα στη Χρυσή Πολιτεία η κατοχή, η δημοσίευση και η μεταβίβαση εικόνων ατόμων κάτω των 18 ετών που προσομοιώνουν σεξουαλική συμπεριφορά.
Σε εθνικό επίπεδο, ο γερουσιαστής Τεντ Κρουζ (R-Texas) πρότεινε το νομοσχέδιο Take It Down Act, το οποίο ποινικοποιεί τη «σκόπιμη αποκάλυψη μη συναινετικών οπτικών απεικονίσεων ατόμων σε ιδιωτικές στιγμές».
Το ομοσπονδιακό νομοσχέδιο ορίζει το deepfake ως «βίντεο ή εικόνα που παράγεται ή τροποποιείται ουσιαστικά με τη χρήση τεχνικών μηχανικής μάθησης ή οποιουδήποτε άλλου μέσου που παράγεται από υπολογιστή ή μηχανή για να απεικονίσει ψευδώς την εμφάνιση ή τη συμπεριφορά ατόμου σε οπτική απεικόνιση ιδιωτικής στιγμής».
Ο γερουσιαστής Τεντ Κρουζ (R-Texas) μιλά σε συνέντευξη Τύπου για την παρουσίαση του νόμου Take It Down Act για την προστασία των θυμάτων από τη μη συναινετική, κακόβουλη χρήση προσωπικών εικόνων, στο Καπιτώλιο των ΗΠΑ, στις 18 Ιουνίου 2024. (Andrew Harnik/Getty Images)
Οι σχολικές περιφέρειες, εν τω μεταξύ, αναζητούν καθοδήγηση για το αναδυόμενο πρόβλημα που απειλεί όχι μόνο τους μαθητές, αλλά και το προσωπικό.
Τον Ιανουάριο, στο Λύκειο Pikesville του Μέρυλαντ, κυκλοφόρησε μια ψεύτικη ηχογράφηση του διευθυντή. Οι υπεύθυνοι του σχολείου ζήτησαν τη βοήθεια των τοπικών αστυνομικών υπηρεσιών και του FBI.
Ο ύποπτος, ο γυμναστής Ντάτζον Ντάριεν, 31 ετών, κατηγορήθηκε για κλοπή, παρενόχληση, διατάραξη της λειτουργίας του σχολείου και αντίποινα κατά μάρτυρα.
Φέρεται να έκανε την ηχογράφηση για να εκδικηθεί τον διευθυντή, ο οποίος ερευνούσε κατηγορία εις βάρος του Ντάριεν για κακή διαχείριση των σχολικών κονδυλίων, σύμφωνα με δελτίο ειδήσεων της 25ης Απριλίου στην ιστοσελίδα της κυβέρνησης της κομητείας Βαλτιμόρης.
Ο Τζιμ Σηγκλ, ανώτερος τεχνολόγος του Future of Privacy Forum, δήλωσε κατά τη διάρκεια της συζήτησης στο πάνελ της Εβδομάδας Εκπαίδευσης ότι οι ερευνητές στην υπόθεση της Βαλτιμόρης συσχέτισαν τον ύποπτο με το έγκλημα εξετάζοντας «τα αρχεία καταγραφής πρόσβασης σε υπολογιστές παλαιάς κοπής».
Όμως, καθώς η τεχνολογία της τεχνητής νοημοσύνης συνεχίζει να εξελίσσεται, ίσως χρειαστεί να αναπτυχθεί ένα σύστημα υδατογράφησης για τον παραγόμενο ήχο ή το βίντεο που θα αντικαταστήσει τα απαρχαιωμένα συστήματα παρακολούθησης και διασφάλισης της χρήσης των σχολικών υπολογιστών, δήλωσε ο κος Σηγκλ.
Τον Φεβρουάριο του 2023, μαθητές Λυκείου στο Καρμέλ της Νέας Υόρκης χρησιμοποίησαν τεχνητή νοημοσύνη για να αναπαραστήσουν έναν διευθυντή Γυμνασίου, και δημοσίευσαν το αποτέλεσμα στο TikTok. Οι ερευνητές κατάφεραν να συνδέσουν τις δραστηριότητες των μαθητών με τους λογαριασμούς τους. Τους επιβλήθηκαν πειθαρχικές κυρώσεις βάσει των κατευθυντήριων γραμμών του σχολικού κώδικα συμπεριφοράς, αλλά δεν τους απαγγέλθηκαν ποινικές κατηγορίες, σύμφωνα με δήλωση που δημοσιεύθηκε στη σελίδα της περιφέρειας στο Facebook .
«Ως οργανισμός που έχει δεσμευτεί για την πολυμορφία και την ένταξη», αναφέρεται στην ανακοίνωση, «το Εκπαιδευτικό Συμβούλιο της Κεντρικής Σχολικής Περιφέρειας του Καρμέλ είναι συγκλονισμένο και καταδικάζει αυτά τα πρόσφατα βίντεο, καθώς και τον κατάφωρο ρατσισμό, το μίσος και την περιφρόνηση για την ανθρωπότητα που εκδηλώνονται σε ορισμένα από αυτά».
Ένας γονέας, η Αμπιγκαίηλ Λάιονς, δήλωσε ότι μια συνάδελφος, που έχει επίσης παιδιά στην περιοχή, τής έδειξε ένα κείμενο που περιείχε επτά διαφορετικά βίντεο.
«Τα έχασα», δήλωσε η Λάιονς, η οποία είναι μιγάς. «Ήταν φρικτό. Φαινόταν τόσο αληθινό.»
Επανεξετάζοντας τα βίντεο, παρατήρησαν ότι η κίνηση των χειλιών και η γλώσσα του σώματος ήταν λίγο διαφορετική από τον ήχο. Η Λάιονς δήλωσε ότι οι περισσότεροι γονείς στην περιοχή είχαν ήδη δει ή ακούσει για τα βίντεο και πιθανότατα γνώριζαν ότι επρόκειτο για deepfake πριν οι σχολικοί αξιωματούχοι του Καρμέλ αναγνωρίσουν δημοσίως το περιστατικό και δηλώσουν ότι «δεν υπήρχε καμία απειλή».
Γυμνάσιο Carmel, Καρμέλ. Nέα Υόρκη, Οκτωβρίου 2015. (Will2022/CC)
Η Λάιονς ανέφερε ότι το γεγονός τρόμαξε την κόρη της και ότι γεγονότα όπως το κλείδωμα των σχολείων ή οι ασκήσεις έκτακτης ανάγκης εξακολουθούν να προκαλούν άγχος και φόβο, που πηγάζουν από το 2023.
«Οι μαθητές της έβδομης τάξης δεν θα έπρεπε να ανησυχούν για αυτά τα πράγματα», δήλωσε στους Epoch Times.
Η Λάιονς δήλωσε ότι δεν γνωρίζει για κανένα περιστατικό deepfake μέχρι στιγμής αυτό το εξάμηνο, αλλά οι φοιτητές έχουν απειλήσει ο ένας τον άλλον στα μέσα κοινωνικής δικτύωσης, περιλαμβανομένης μιας απειλής που οδήγησε σε δίωρο κλείδωμα του κτιρίου.
«Ακόμα δεν ξέρουμε για ποιο λόγο έγινε [το κλείδωμα]», είπε. «Ακόμα δεν υπάρχει διαφάνεια.»
Οι Epoch Times απευθύνθηκαν στα περιφερειακά γραφεία στο Καρμέλ της Νέας Υόρκης και στην κομητεία της Βαλτιμόρης του Μέρυλαντ, αλλά δεν έλαβαν απάντηση.
Ο νέος νόμος της Καλιφόρνια προέκυψε μετά από διάφορα περιστατικά εμφάνισης deepfake με θύματα μαθητές.
Ο Πάτρικ Γκιττισριμπουνγκούλ, βοηθός επιθεωρητή για την τεχνολογία και την καινοτομία στην ενοποιημένη σχολική περιφέρεια Lynwood κοντά στο Λος Άντζελες, δήλωσε ότι η περιφέρειά του εφάρμοσε μια πολιτική μηδενικής ανοχής, που απαιτεί από το προσωπικό να ειδοποιεί τις αστυνομικές αρχές, να παρέχει φροντίδα στα θύματα και να αναπτύσσει ένα σχέδιο αντιμετώπισης περιστατικών ΤΝ.
Η περιφέρεια περιορίζει τη χρήση της ΤΝ, χρησιμοποιεί φίλτρα περιεχομένου για τις διαδικτυακές λειτουργίες και απαιτεί από τους μαθητές και το προσωπικό να ακολουθούν τις κατευθυντήριες γραμμές για τη ηθική χρήση της τεχνολογίας.
«Περιστατικά σε άλλες περιφέρειες της Νότιας Καλιφόρνια μάς ώθησαν να λάβουμε προληπτικά μέτρα», δήλωσε στους Epoch Times μέσω ηλεκτρονικού ταχυδρομείου. «Δεδομένης της ραγδαίας εμφάνισης της τεχνητής νοημοσύνης και της πιθανότητας κατάχρησής της, συντάξαμε μια ολοκληρωμένη πολιτική για να διασφαλίσουμε ότι η περιφέρειά μας είναι προετοιμασμένη να αντιμετωπίσει οποιαδήποτε μελλοντικά ζητήματα σχετικά με deepfake ή ακατάλληλο περιεχόμενο που παράγεται με τεχνητή νοημοσύνη.»
Το Κέντρο για τη Δημοκρατία και την Τεχνολογία ανέφερε τον περασμένο μήνα ότι το 40% των μαθητών και το 29% των εκπαιδευτικών γνώριζαν για deepfake που απεικονίζουν παιδιά ή ενήλικες που σχετίζονται με το σχολείο τους κατά τη διάρκεια του ακαδημαϊκού έτους 2023-2024.
(Nimito/Gettyimages)
Η έκθεση βασίζεται σε μια έρευνα περίπου 3.300 ερωτηθέντων από όλη τη χώρα, που εκπροσωπούν τις τάξεις 6-12 (περίπου το ελληνικό Γυμνάσιο και Λύκειο, Σ.τ.Μ.), συμπεριλαμβανομένων γονέων και εκπαιδευτικών. Το 38% θεώρησε το περιεχόμενο των deepfake προσβλητικό και το 33% το περιέγραψε ως πορνογραφικό.
Σύμφωνα με την έκθεση, οι περισσότεροι εκπαιδευτικοί δήλωσαν ότι δεν είχαν καταρτιστεί για τον ενδεδειγμένο τρόπο αντίδρασης στα deepfake και ότι οι περιφέρειές τους δεν είχαν επικαιροποιήσει την πολιτική τους για την αντιμετώπιση τέτοιου είδους περιστατικών.
Η έκθεση αναφέρει, επίσης, ότι οι περισσότεροι από τους εκπαιδευτικούς που συμμετείχαν στην έρευνα δήλωσαν ότι οι εργοδότες τους έχουν λάβει ελάχιστα μέτρα για την αντιμετώπιση της απειλής των deepfake. Λιγότερο από το ένα τέταρτο των ερωτηθέντων δήλωσαν ότι η λέξη deepfake έχει προστεθεί στην πολιτική σεξουαλικής παρενόχλησης της περιφέρειας ή στον κώδικα συμπεριφοράς των μαθητών.
Οι εκπαιδευτικοί προτιμούν κυρίως να απευθύνονται στις αστυνομικές αρχές για την επιβολή κυρώσεων στους δράστες των deepfake, έχοντας τη μακροχρόνια αποβολή ως δεύτερη επιλογή και τη συμβουλευτική ως τρίτη, σύμφωνα με την έκθεση.
Αντίθετα, οι γονείς δεν συμπεριέλαβαν καμία από αυτές τις ενέργειες στις τρεις πρώτες επιλογές τους. Πρώτη τους επιλογή, όσον αφορά όσους προέβαιναν για πρώτη φορά σε παρόμοια κακόβουλη ενέργεια, ήταν η ενημέρωσή τους σχετικά με τις επιβλαβείς επιπτώσεις των deepfake, αναφέρει η έκθεση. Δεύτερη επιλογή τους ήταν η παροχή συμβουλών και τρίτη η έκδοση προειδοποίησης.
Ρύθμιση της ΤΝ
Μια κοινοπραξία μη κερδοσκοπικών οργανισμών, περιλαμβανομένων της Εθνικής Οργάνωσης Γυναικών, του Ινστιτούτου Future of Life και του Κέντρου για την Ανθρώπινη-Συμβατή Τεχνητή Νοημοσύνη, ξεκίνησε φέτος την Εκστρατεία για την Απαγόρευση των Deepfake (CBD), μια παγκόσμια προσπάθεια ευαισθητοποίησης του κοινού.
Η CBD κυκλοφορεί ένα διαδικτυακό αίτημα για να υποστηρίξει την έκκλησή της για την ποινικοποίηση όλων των deepfake και την απόδοση ευθυνών στους προγραμματιστές τεχνολογίας και τους δημιουργούς περιεχομένου για τις πράξεις τους.
«Ο μόνος αποτελεσματικός τρόπος για να σταματήσουν τα deepfake είναι οι κυβερνήσεις να τα απαγορεύσουν σε κάθε στάδιο παραγωγής και διανομής», αναφέρει η CBD στην ιστοσελίδα της, όπου σημειώνεται ότι το deepfake σεξουαλικό περιεχόμενο αυξήθηκε κατά 400% και οι απάτες που σχετίζονται με deepfake κατά 3.000% μεταξύ 2022 και 2023.
«Δεν υπάρχουν νόμοι που να στοχεύουν και να περιορίζουν αποτελεσματικά τη δημιουργία και την κυκλοφορία των deepfake. Όλες οι τρέχουσες διατάξεις για τους δημιουργούς είναι αναποτελεσματικές», αναφέρει η CBD.
Αυτή η εικόνα δείχνει μια οθόνη τηλεφώνου που εμφανίζει μια δήλωση του επικεφαλής της πολιτικής ασφαλείας της Meta σχετικά με ένα ψεύτικο βίντεο που δείχνει τον Ουκρανό πρόεδρο Βολοντίμιρ Ζελένσκι να καλεί τους στρατιώτες του να καταθέσουν τα όπλα (στο φόντο της εικόνας). Ουάσιγκτον, 30 Ιανουαρίου 2023. (Olivier Douliery/AFP via Getty Images)
Νομική καθοδήγηση
Υπάρχει πληθώρα δωρεάν νομικών συμβουλών στο διαδίκτυο, τις οποίες οι σχολικές περιφέρειες μπορούν να χρησιμοποιήσουν για να προλάβουν την απειλή.
Μια εταιρεία από την Καλιφόρνια που ειδικεύεται στο εκπαιδευτικό δίκαιο – η Atkinson, Andelson, Loya, Ruud & Romo (AALRR) – δημοσίευσε οδηγίες σχετικά με τα deepfake, πριν από το ακαδημαϊκό έτος 2024-25, αναφέροντας τα περιστατικά στο Καρμέλ και την κομητεία της Βαλτιμόρης, καθώς και ένα περιστατικό στην πολιτεία της Ουάσιγκτον.
Στο τελευταίο, οι υπάλληλοι της περιφέρειας δήλωσαν ότι δεν κάλεσαν την αστυνομία μετά τη θυματοποίηση μιας μαθήτριας επειδή οι δικηγόροι τους τους είπαν ότι δεν ήταν υποχρεωμένοι να αναφέρουν «ψεύτικες» εικόνες.
Οι δικηγόροι της AALRR αρνήθηκαν να δώσουν συνέντευξη στους Epoch Times, αλλά η ιστοσελίδα της εταιρείας αναφέρει ότι οι περιφέρειες μπορούν να μηνυθούν για τη μη ικανοποιητική αντίδραση στα deepfake, βάσει νόμων που προϋπήρχαν της ΤΝ. Συμβουλεύουν τους διευθυντές των σχολείων να θεσπίσουν πολιτικές για την ΤΝ και να εκπαιδεύσουν τους μαθητές σχετικά με την υπεύθυνη και την καταχρηστική χρήση της ΤΝ.
Ακόμα δυσκολότερο είναι να εντοπιστούν και αντιμετωπιστούν ενέργειες που λαμβάνουν χώρα εκτός σχολικών χώρων, αλλά εξακολουθούν να επηρεάζουν τις σχολικές κοινότητες Κ-12. Τα όρια που διαχωρίζουν τις ευθύνες των γονέων από τις ευθύνες του σχολείου δεν είναι πάντα σαφή.
«Η κακόβουλη χρήση εκ μέρους των μαθητών του περιεχομένου που παράγεται από την ΤΝ πιθανόν να εγείρει ανησυχίες ανάλογες της Πρώτης Τροποποίησης», σημειώνει η ιστοσελίδα της AALR. «Ένα σχολείο που επιδιώκει να τιμωρήσει έναν μαθητή για κακόβουλη χρήση της ΤΝ εκτός σχολείου θα πρέπει να αποδείξει ότι η κακόβουλη χρήση της ΤΝ από τον μαθητή επηρέασε ουσιαστικά το σχολείο.»
Ενώ οι οργανισμοί προσπαθούν να εδραιώσουν έναν κοινωνικό κανόνα παγκοσμίως, εκατομμύρια μαθητές και σχολικοί υπάλληλοι παραμένουν ευάλωτοι.
Οι εκπαιδευτικές αρχές θα πρέπει να στοχεύσουν στην ευαισθητοποίηση σχετικά με τις βλάβες και τις συνέπειες των μιμήσεων που δημιουργούνται από την ΤΝ και να καταστήσουν σαφές στις σχολικές κοινότητες ότι η χρήση αυτής της αναδυόμενης τεχνολογίας για να βλάψει τη φήμη ενός άλλου ατόμου αποτελεί μορφή παρενόχλησης, αναφέρει ο Σηγκλ.
«Αφήστε τις αρχές επιβολής του νόμου να καταλάβουν αν πρόκειται για deepfake ή όχι», δήλωσε.
