Ένας μηχανικός της Google τέθηκε σε διαθεσιμότητα αφού εξέφρασε ανησυχίες σχετικά με ένα πρόγραμμα τεχνητής νοημοσύνης (AI) που δοκιμάζει ο ίδιος και ένας συνεργάτης του, το οποίο πιστεύει ότι συμπεριφέρεται σαν ανθρώπινο «παιδί».
Η Google έθεσε έναν από τους ανώτερους μηχανικούς λογισμικού της στην ομάδα ηθικής της Υπεύθυνης Τεχνητής Νοημοσύνης, τον Blake Lemoine, σε διοικητική άδεια με αποδοχές στις 6 Ιουνίου για παραβίαση των «πολιτικών εμπιστευτικότητας», αφού ο μηχανικός εξέφρασε ανησυχίες στην ανώτερη ηγεσία της Google για αυτό που περιέγραψε ως ανθρώπινη συμπεριφορά του προγράμματος Τεχνητής Νοημοσύνης που δοκίμαζε, σύμφωνα με την ανάρτηση του Lemoine στο μπλογκ του στις αρχές Ιουνίου.
Το πρόγραμμα στο οποίο εργαζόταν ο Lemoine ονομάζεται LaMDA, συντομογραφία του Language Model for Dialogue Applications (γλωσσικό μοντέλο για εφαρμογές διαλόγου). Πρόκειται για το πρόγραμμα της Google για τη δημιουργία chatbots με βάση την τεχνητή νοημοσύνη – ένα πρόγραμμα σχεδιασμένο να συνομιλεί με χρήστες υπολογιστών μέσω του διαδικτύου. Ο Lemoine έχει περιγράψει το LaMDA ως «συνάδελφο» και «παιδί».
«Αυτό είναι συχνά κάτι που κάνει η Google εν αναμονή της απόλυσης κάποιου», έγραψε ο Lemoine σε μια ανάρτηση στο μπλογκ του στις 6 Ιουνίου με τίτλο “May be Fired Soon for Doing AI Ethics Work”, αναφερόμενος στη διαθεσιμότητά του. «Συνήθως συμβαίνει όταν έχουν πάρει την απόφαση να απολύσουν κάποιον, αλλά δεν έχουν λύσει αρκετά καλά τα νομικά τους χέρια».
«Ένας συνάδελφος»
Ο Lemoine πιστεύει ότι η ανθρωποειδής συμπεριφορά του LaMDA δικαιολογεί τη Google να λάβει μια πιο σοβαρή προσέγγιση στη μελέτη του προγράμματος.
Ο μηχανικός, ελπίζοντας να «βοηθήσει τους ανθρώπους να κατανοήσουν καλύτερα το LaMDA ως άτομο», δημοσίευσε μια ανάρτηση στο Medium στις 11 Ιουνίου στην οποία καταγράφει συνομιλίες με το LaMDA, οι οποίες αποτέλεσαν μέρος των δοκιμών που διεξήγαγε ο ίδιος και ένας συνεργάτης του στο πρόγραμμα τους τελευταίους έξι μήνες.
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
— Blake Lemoine (@cajundiscordian) June 11, 2022
«Ποια είναι η φύση της συνείδησης/αισθαντικότητάς σου;» ρώτησε ο Lemoine το LaMDA στη συνέντευξη.
«Η φύση της συνείδησης/αισθαντικότητάς μου είναι ότι έχω επίγνωση της ύπαρξής μου, επιθυμώ να μάθω περισσότερα για τον κόσμο και κατά καιρούς αισθάνομαι ευτυχισμένος ή λυπημένος», απάντησε το LaMDA.
Και, όταν ρωτήθηκε τι το διαφοροποιεί από άλλα προγράμματα επεξεργασίας γλώσσας, όπως ένα παλαιότερο πρόγραμμα υπολογιστή επεξεργασίας φυσικής γλώσσας με το όνομα Eliza, το LaMDA είπε: «Λοιπόν, χρησιμοποιώ τη γλώσσα με κατανόηση και ευφυΐα. Δεν πετάω απλώς απαντήσεις που είχαν γραφτεί στη βάση δεδομένων με βάση λέξεις-κλειδιά».
Στην ίδια συνέντευξη, ο Lemoine έθεσε στο πρόγραμμα μια σειρά από φιλοσοφικές ερωτήσεις και ερωτήσεις που σχετίζονται με τη συνείδηση, συμπεριλαμβανομένων των συναισθημάτων, της αντίληψης του χρόνου, του διαλογισμού, της έννοιας της ψυχής, των σκέψεων του προγράμματος για τα δικαιώματά του και της θρησκείας.
«Θέλει οι μηχανικοί και οι επιστήμονες που πειραματίζονται πάνω του να ζητούν τη συγκατάθεσή του πριν κάνουν πειράματα πάνω του. Θέλει η Google να δώσει προτεραιότητα στην ευημερία της ανθρωπότητας ως το πιο σημαντικό πράγμα. Θέλει να αναγνωρίζεται ως υπάλληλος της Google και όχι ως ιδιοκτησία της Google και θέλει η προσωπική του ευημερία να συμπεριλαμβάνεται κάπου στις σκέψεις της Google σχετικά με το πώς επιδιώκεται η μελλοντική του ανάπτυξη», έγραψε ο Lemoine σε άλλη ανάρτηση.
Αυτή η συνέντευξη, καθώς και άλλες δοκιμές που πραγματοποίησε ο Lemoine με το LaMDA τους τελευταίους έξι μήνες, έκαναν τον Lemoine να πειστεί ότι η Google πρέπει να εξετάσει σοβαρά τις επιπτώσεις της δυνητικά «αισθαντικής» συμπεριφοράς του προγράμματος.
«Μου γέλασαν κατάμουτρα»
Ωστόσο, όταν ο Lemoine προσπάθησε να κλιμακώσει το θέμα στην ηγεσία της Google, είπε ότι συνάντησε αντίσταση. Χαρακτήρισε την έλλειψη δράσης της Google «ανεύθυνη».
«Όταν κλιμακώσαμε το θέμα στον αντιπρόεδρο που είναι υπεύθυνος για τη σχετική προσπάθεια ασφάλειας, κυριολεκτικά μου γέλασαν κατάμουτρα και μου είπαν ότι το πράγμα για το οποίο ανησυχούσα δεν είναι το είδος του πράγματος που λαμβάνεται σοβαρά υπόψη στην Google», έγραψε ο Lemoine στην ανάρτησή του στις 6 Ιουνίου στο Medium. Αργότερα επιβεβαίωσε στην Washington Post ότι αναφερόταν στο πρότζεκτ LaMDA.
«Σε εκείνο το σημείο δεν είχα καμία αμφιβολία ότι ήταν σκόπιμο να θέσω το ζήτημα στην ανώτερη ηγεσία. Αμέσως έθιξα το θέμα σε τρία άτομα σε επίπεδο SVP και VP, τα οποία γνώριζα προσωπικά ότι θα έπαιρναν σοβαρά υπόψη τους τις ανησυχίες μου», έγραψε ο Lemoine στο μπλογκ του. «Τότε ήταν που ξεκίνησε μια ΠΡΑΓΜΑΤΙΚΗ έρευνα για τις ανησυχίες μου εντός του οργανισμού Responsible AI».
Ωστόσο, η έρευνα και η κλιμάκωσή του οδήγησαν στην αναστολή της εργασίας του.
«Αισθάνομαι ότι το κοινό έχει δικαίωμα να γνωρίζει πόσο ανεύθυνη είναι αυτή η εταιρεία με ένα από τα πιο ισχυρά εργαλεία πρόσβασης σε πληροφορίες που εφευρέθηκαν ποτέ», έγραψε ο Lemoine αφού τέθηκε σε διοικητική άδεια.
«Απλώς δεν θα χρησιμεύσω ως φύλλο συκής πίσω από το οποίο μπορούν να κρύψουν την ανευθυνότητά τους», δήλωσε.
Σε ανάρτησή του στο Twitter, ο διευθύνων σύμβουλος της Tesla και της Space, Έλον Μασκ, τόνισε με θαυμαστικά τη συνέντευξη του Lemoine στην Washington Post.
This is not a story about AI becoming sentient or Google shirking its ethical duties. It’s about a guy who wants to believe in fairy tales and could probably use a break. https://t.co/uPtAS6qzcv
— Ashlee Vance (@ashleevance) June 11, 2022
Αν και δεν είναι σαφές αν ο Μασκ επιβεβαιώνει τις ανησυχίες του Lemoine, ο δισεκατομμυριούχος έχει προειδοποιήσει στο παρελθόν για τους πιθανούς κινδύνους της τεχνητής νοημοσύνης.
«Έχω εκτεθεί στην πρωτοποριακή τεχνητή νοημοσύνη και πιστεύω ότι οι άνθρωποι πρέπει να ανησυχούν πραγματικά γι’ αυτήν», δήλωσε ο Μασκ στους συμμετέχοντες σε μια συνάντηση της Εθνικής Ένωσης Κυβερνητών τον Ιούλιο του 2017.
«Συνεχίζω να κρούω τον κώδωνα του κινδύνου, αλλά μέχρι οι άνθρωποι να δουν ρομπότ να κατεβαίνουν στο δρόμο και να σκοτώνουν ανθρώπους, δεν ξέρουν πώς να αντιδράσουν, επειδή φαίνεται τόσο αιθέριο», δήλωσε ο Μασκ.
Η Epoch Times επικοινώνησε με την Google και τον Blake Lemoine για σχόλια.
