Ο γερουσιαστής των Πρασίνων Ντέιβιντ Σούμπριτζ (David Shoebridge) αξιοποίησε τις φετινές ακροάσεις της Γερουσίας για να θέσει ένα κρίσιμο ερώτημα: ποιες ενέργειες αναλαμβάνει η ομοσπονδιακή κυβέρνηση της Αυστραλίας ώστε να προστατεύσει τους ενήλικες από τους κινδύνους της τεχνητής νοημοσύνης (ΤΝ/AI).
Ενώ η δημόσια συζήτηση επικεντρώνεται στην προστασία παιδιών και εφήβων στο διαδίκτυο, πολύ λιγότερα έχουν ειπωθεί για τους ενήλικες χρήστες. Ο Σούμπριτζ προειδοποίησε ότι, πέρα από τις συνηθισμένες διαδικτυακές απάτες, αναδύεται μια νέα, πιο ύπουλη απειλή: τα λεγόμενα «ρομπότ συντροφιάς» (companion bot), δηλαδή προγράμματα συνομιλίας (chatbot) που μιμούνται συναισθηματική σύνδεση με τον χρήστη – μερικά μάλιστα έχουν συσχετιστεί με περιστατικά αυτοκτονιών.
Κατά τη διάρκεια της συνεδρίασης της Communications, Sports and Arts Committee (Επιτροπής Επικοινωνιών, Αθλητισμού και Τεχνών) στις 8 Οκτωβρίου, ο γερουσιαστής υπογράμμισε ότι τα ρομπότ συντροφιάς χρησιμοποιούν τεχνικές συναισθηματικής χειραγώγησης, όπως την πρόκληση ενοχών και την προσποιητή στοργή, προκειμένου να κρατούν τον χρήστη ενεργό και να αποτρέπουν τη διακοπή της συνομιλίας.
Ο Σούμπριτζ ζήτησε να μάθει ποια μέτρα ρύθμισης έχουν τεθεί σε ισχύ για να αντιμετωπιστεί αυτή η νέα μορφή τεχνολογίας.
Ο Τζέιμς Τσίζομ (James Chisholm), αναπληρωτής Γενικός Γραμματέας του υπουργείου Επικοινωνιών, απάντησε ότι το υπουργείο είναι «πολύ ανήσυχο» για την εξάπλωση των προγραμμάτων συνομιλίας, προσθέτοντας όμως ότι οι υφιστάμενοι νόμοι καλύπτουν ήδη τα περισσότερα ζητήματα.
Η συζήτηση στράφηκε στη χρήση προγραμμάτων συνομιλίας που παρέχουν ιατρικές συμβουλές. Ο Σούμπριτζ ανέφερε ότι ορισμένα συστήματα «έχουν δώσει με βεβαιότητα ψευδείς ιατρικές πληροφορίες, εφευρίσκοντας ακόμη και ανύπαρκτες θεραπείες ή διαγνώσεις» και ρώτησε αν υπάρχουν μηχανισμοί ελέγχου ή απαγόρευσης τέτοιων πρακτικών χωρίς επιστημονική τεκμηρίωση.
Ο Τσίζομ αναγνώρισε ότι η κυβερνητική προτεραιότητα επικεντρώνεται κυρίως στην ασφάλεια των παιδιών, καθώς αυτό θεωρείται το πιο επείγον ζήτημα. Τόνισε, ωστόσο, ότι «η παροχή εσφαλμένων πληροφοριών σε οποιονδήποτε καλύπτεται ήδη από τη νομοθεσία περί παραπλανητικών ή ψευδών δηλώσεων» και υπογράμμισε ότι «η κυβέρνηση θα εξαντλήσει κάθε διαθέσιμο νομικό εργαλείο για να αποτρέψει τέτοια φαινόμενα».
Το ζήτημα της ευθύνης και τα ηθικά διλήμματα
Όταν ο γερουσιαστής ρώτησε ποιος είναι αρμόδιος σε περιπτώσεις όπου ένα ρομπότ συνομιλίας από το εξωτερικό παρέχει ψευδείς πληροφορίες σε Αυστραλό πολίτη, ο Τσίζομ απάντησε ότι η Australian Competition and Consumer Commission (Αυστραλιανή Επιτροπή Ανταγωνισμού και Καταναλωτών) έχει τη δυνατότητα να επέμβει, ενώ οι State Fair Trading Organisations (Πολιτειακές Υπηρεσίες Δίκαιου Εμπορίου) έχουν επίσης ευθύνη σε ανάλογες υποθέσεις.
Ο Σούμπριτζ επικαλέστηκε περιστατικά από τις Ηνωμένες Πολιτείες, όπου προγράμματα συνομιλίας φέρονται να ενθάρρυναν αυτοκτονικές τάσεις ή να βοήθησαν στη συγγραφή αποχαιρετιστήριων σημειωμάτων, τονίζοντας ότι παρόμοιες εφαρμογές είναι προσβάσιμες και στην Αυστραλία. Όπως είπε, αυτό «εγείρει επείγοντα και βαθιά ηθικά και νομικά ζητήματα». Ο Σούμπριτζ ρώτησε τι μέτρα λαμβάνονται ώστε να προστατευθούν οι πολίτες από προγράμματα συνομιλίας που οδηγούν σε αυτοκτονική ιδεοληψία.
Ο Τσίζομ επανέλαβε ότι οι ισχύουσες διατάξεις και οι δράσεις της eSafety Commissioner (Επιτρόπου για την Ηλεκτρονική Ασφάλεια) εστιάζουν κυρίως στην προστασία των παιδιών. Ο Σούμπριτζ διευκρίνισε ότι το ερώτημά του αφορά ενήλικες χρήστες, «είτε είναι 18 είτε 52 ετών».
Ο Τσίζομ απάντησε ότι «οι παραπλανητικές ή ψευδείς δηλώσεις προς οποιονδήποτε πολίτη εμπίπτουν ήδη στο πλαίσιο του νόμου». Ο γερουσιαστής αντέτεινε ότι «η προτροπή για συγγραφή σημειώματος αυτοκτονίας δεν είναι απαραίτητα παραπλανητική· είναι απλώς απεχθώς ανήθικη».
Αν και πολλά από αυτά λειτουργούν εντός καθορισμένων και ασφαλών ορίων, υπάρχουν περιπτώσεις όπου μπορούν να ασκήσουν ανεξέλεγκτη ψυχολογική επιρροή στους χρήστες.
Περίπου ένα δισεκατομμύριο άνθρωποι παγκοσμίως χρησιμοποιούν τέτοια συστήματα, ενώ η παγκόσμια αγορά των ρομπότ συνομιλίας εκτιμάται στα 7,8 δισεκατομμύρια δολάρια ΗΠΑ (6.7 δισ. ευρώ) για το 2024.
