Τα Ηνωμένα Έθνη προειδοποιούν ότι τα συστήματα τεχνητής νοημοσύνης (AI) ενδέχεται να αποτελέσουν «αρνητική, ακόμη και καταστροφική» απειλή για τα ανθρώπινα δικαιώματα και ζήτησαν την απαγόρευση των εφαρμογών τεχνητής νοημοσύνης που δεν χρησιμοποιούνται σύμφωνα με τα ανθρώπινα δικαιώματα.
Η επικεφαλής ανθρωπίνων δικαιωμάτων του ΟΗΕ Μισέλ Μπατσελέτ στις 15 Σεπτεμβρίου προέτρεψε τα κράτη μέλη να θέσουν προσωρινή απαγόρευση της πώλησης και της χρήσης τεχνητής ενέργειας μέχρι να αντιμετωπιστούν οι δυνητικοί κίνδυνοι που ενέχει και να τεθούν σε εφαρμογή επαρκείς ασφαλιστικές δικλείδες για να διασφαλιστεί η σωστή χρήση της συγκεκριμένης τεχνολογίας.
«Δεν έχουμε την πολυτέλεια να προσπαθούμε να προφτάσουμε την τεχνητή νοημοσύνη — επιτρέποντας τη χρήση της με περιορισμένα ή καθόλου όρια ή επίβλεψη, και αντιμετωπίζοντας τις σχεδόν αναπόφευκτες συνέπειες των ανθρωπίνων δικαιωμάτων εκ των υστέρων», ανέφερε η Μπατσελέτ σε δήλωσή της.
«Η δύναμη της τεχνητής νοημοσύνης να εξυπηρετεί τους ανθρώπους είναι αναμφισβήτητη, αλλά το ίδιο και η ικανότητα της να τροφοδοτεί τις παραβιάσεις των ανθρωπίνων δικαιωμάτων σε τεράστια κλίμακα χωρίς σχεδόν να γίνεται αντιληπτή. Τώρα απαιτείται δράση για να τεθούν τα τείχη προστασίας για τα ανθρώπινα δικαιώματα στη χρήση της τεχνητής νοημοσύνης, για το καλό όλων μας», πρόσθεσε ο επικεφαλής ανθρωπίνων δικαιωμάτων.
Τα σχόλιά της έρχονται λίγο μετά τη δημοσίευση έκθεσης από το γραφείο της, η οποία αναλύει τον τρόπο με τον οποίο η τεχνητή νοημοσύνη επηρεάζει το δικαίωμα των ανθρώπων στην ιδιωτική ζωή, καθώς και μια σειρά άλλων δικαιωμάτων σχετικά με την υγεία, την εκπαίδευση, την ελεύθερη κυκλοφορία και την ελευθερία της έκφρασης, μεταξύ άλλων.
Το έγγραφο περιλαμβάνει αξιολόγηση της κατάρτισης προφίλ, της αυτοματοποιημένης λήψης αποφάσεων και άλλων τεχνολογιών μηχανικής μάθησης.
Ενώ η έκθεση σημειώνει ότι η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για καλή χρήση και μπορεί να βοηθήσει «τις κοινωνίες να ξεπεράσουν μερικές από τις μεγάλες προκλήσεις της εποχής μας», η χρήση της ως εργαλείου πρόβλεψης και κατάρτισης προφίλ μπορεί να επηρεάσει δραστικά «τα δικαιώματα στην ιδιωτική ζωή, σε μια δίκαιη δίκη, στην ελευθερία από την αυθαίρετη σύλληψη και κράτηση, και το δικαίωμα στη ζωή».
Σύμφωνα με την έκθεση, πολλά κράτη και επιχειρήσεις συχνά αποτυγχάνουν να πραγματοποιήσουν τη δέουσα επιμέλεια ενώ σπεύδουν να ενσωματώσουν εφαρμογές τεχνητής νοημοσύνης, και σε ορισμένες περιπτώσεις, αυτό έχει οδηγήσει σε επικίνδυνες γκάφες, με μερικούς ανθρώπους να φέρονται να κακοποιούνται και ακόμη και να συλλαμβάνονται λόγω ελαττωματικού λογισμικού αναγνώρισης προσώπου.
Εν τω μεταξύ, η αναγνώριση προσώπου έχει τη δυνατότητα να επιτρέψει απεριόριστη παρακολούθηση ατόμων, η οποία μπορεί κάλλιστα να οδηγήσει σε μια σειρά ζητημάτων που αφορούν τις διακρίσεις και την προστασία των δεδομένων.
Καθώς πολλά συστήματα τεχνητής νοημοσύνης βασίζονται σε μεγάλα σύνολα δεδομένων, περαιτέρω ζητήματα σχετικά με τον τρόπο με τον οποίο αποθηκεύονται αυτά τα δεδομένα μακροπρόθεσμα ενέχουν επίσης κίνδυνο και υπάρχει πιθανότητα εκμετάλλευσης τέτοιων δεδομένων στο μέλλον, τα οποία θα μπορούσαν να οδηγήσουν σε σημαντικούς κινδύνους για την εθνική ασφάλεια.
«Η πολυπλοκότητα του περιβάλλοντος δεδομένων, των αλγορίθμων και των μοντέλων στα οποία βασίζεται η ανάπτυξη και λειτουργία συστημάτων τεχνητής νοημοσύνης, καθώς και το εκ προθέσεως απόρρητο κυβερνητικών και ιδιωτικών φορέων είναι παράγοντες που υπονομεύουν σημαντικούς τρόπους για το κοινό να κατανοήσει τις επιπτώσεις των συστημάτων τεχνητής νοημοσύνης στα ανθρώπινα δικαιώματα και την κοινωνία», αναφέρει η έκθεση.
Ο Τιμ Ένγκελχαρτ, υπεύθυνος ανθρωπίνων δικαιωμάτων στο Τμήμα Κράτους Δικαίου και Δημοκρατίας, προειδοποίησε ότι η κατάσταση είναι «τρομερή» και ότι έχει επιδεινωθεί μόνο με την πάροδο των ετών, καθώς ορισμένες χώρες και επιχειρήσεις υιοθετούν εφαρμογές τεχνητής νοημοσύνης, ενώ δεν ερευνούν τους πολλαπλούς πιθανούς κινδύνους που συνδέονται με την τεχνολογία.
Αν και χαιρετίζει τη συμφωνία της ΕΕ για «ενίσχυση των κανόνων ελέγχου», σημείωσε ότι δεν πρόκειται να υπάρξει λύση στα μυριάδες ζητήματα που αφορούν την τεχνητή νοημοσύνη το επόμενο έτος και ότι τα πρώτα βήματα για την επίλυση αυτού του ζητήματος πρέπει να ληφθούν τώρα αλλιώς «πολλοί άνθρωποι στον κόσμο θα πληρώσουν υψηλό τίμημα».
«Όσο υψηλότερος είναι ο κίνδυνος για τα ανθρώπινα δικαιώματα, τόσο αυστηρότερες θα πρέπει να είναι οι νομικές απαιτήσεις για τη χρήση της τεχνολογίας τεχνητής ενέργειας», πρόσθεσε η Μπατσελέτ.
Η έκθεση και τα σχόλια του Μπατσελέτ έρχονται μετά τις αποκαλύψεις του Ιουλίου ότι το λογισμικό υποκλοπής, γνωστό ως Pegasus, χρησιμοποιήθηκε για να χακάρει τα τηλέφωνα χιλιάδων ανθρώπων σε όλο τον κόσμο, συμπεριλαμβανομένων δημοσιογράφων, κυβερνητικών αξιωματούχων και ακτιβιστών ανθρωπίνων δικαιωμάτων.
Το τηλέφωνο του υπουργού Οικονομικών της Γαλλίας Μπρούνο ΛεΜέρ ήταν μόνο ένα από τα πολλά που διερευνώνται εν μέσω της πειρατείας μέσω του κατασκοπευτικού λογισμικού, το οποίο αναπτύχθηκε από την ισραηλινή εταιρεία NSO Group.
Ο Όμιλος NSO εξέδωσε δήλωση σε πολλά μέσα ενημέρωσης χωρίς να απαντήσουν στους ισχυρισμούς, ωστόσο ανέφερε ότι η εταιρεία «θα συνεχίσει να παρέχει υπηρεσίες πληροφοριών και επιβολής του νόμου σε όλο τον κόσμο με τεχνολογίες που σώζουν ζωές για την καταπολέμηση της τρομοκρατίας και του εγκλήματος».
Σε ομιλία του στην ακρόαση του Συμβουλίου της Ευρώπης σχετικά με τις επιπτώσεις που προκύπτουν από τη διαμάχη για το λογισμικό υποκλοπής Pegasus, ο Μπατσελέτ ανέφερε ότι οι αποκαλύψεις δεν ήταν έκπληξη, δεδομένου του «πρωτοφανούς επιπέδου επιτήρησης σε όλο τον κόσμο από κρατικούς και ιδιωτικούς φορείς».
