Μια ένωση για τις διατροφικές διαταραχές κατέβασε το chatbot τεχνητής νοημοσύνης (ΤΝ) λιγότερο από μια εβδομάδα πριν από την αντικατάσταση της ανθρώπινης τηλεφωνικής γραμμής βοήθειας, αφού ανακάλυψε ότι παρείχε «επιβλαβείς» συμβουλές στους χρήστες.
Η Εθνική Ένωση Διατροφικών Διαταραχών (National Eating Disorder Association-NEDA), μια μη κερδοσκοπική οργάνωση που υποστηρίζει άτομα και οικογένειες που πλήττονται από διατροφικές διαταραχές, ανέφερε σε μια ανάρτηση στο Instagram στις 31 Μαΐου ότι απέσυρε το chatbot της, με το όνομα Tessa, αφού ανακάλυψε ότι «μπορεί να έδωσε πληροφορίες που ήταν επιβλαβείς και άσχετες με το πρόγραμμα».
«Το διερευνούμε άμεσα και έχουμε κατεβάσει το συγκεκριμένο πρόγραμμα μέχρι νεωτέρας για μια πλήρη έρευνα», δήλωσε η NEDA.
Η απόφαση να καταργηθεί το chatbot ήρθε μετά την ανακοίνωση των στελεχών της NEDA ότι η μη κερδοσκοπική οργάνωση θα τερματίσει τη λειτουργία της γραμμής βοήθειας με ανθρώπινο προσωπικό την 1η Ιουνίου, μετά από σχεδόν 20 χρόνια, και θα αντικαταστήσει το προσωπικό της με το chatbot τεχνητής νοημοσύνης.
Η ανακοίνωση αυτή ήρθε μόλις τέσσερις ημέρες μετά την απόφαση του προσωπικού της NEDA να συνδικαλιστεί μετά από εκκλήσεις για επαρκέστερη στελέχωση και συνεχή κατάρτιση, καθώς και για έναν «δίκαιο, αξιοπρεπή και ψυχολογικά ασφαλή χώρο εργασίας», σύμφωνα με μια ανάρτηση στο ιστολόγιο της Άμπι Χάρπερ (Abbie Harper) στις 4 Μαΐου, η οποία ήταν συνεργάτης της τηλεφωνικής γραμμής και μέλος του σωματείου Helpline Associates United (Ενωμένοι Συνεργάτες Γραμμής Βοήθειας).
Καταστροφή του σωματείου, απλά και κατανοητά
«Η NEDA ισχυρίζεται ότι αυτή ήταν μια πολυαναμενόμενη αλλαγή και ότι η ΤΝ μπορεί να εξυπηρετήσει καλύτερα τα άτομα με διατροφικές διαταραχές. Αλλά μην ξεγελιέστε – δεν πρόκειται στην πραγματικότητα για ένα chatbot», έγραψε η Χάρπερ.
Η Χάρπερ ανέφερε στην ανάρτησή της ότι η ίδια και οι τρεις συνάδελφοί της προσπάθησαν ανεπιτυχώς να πείσουν την εταιρεία να κάνει ουσιαστικές αλλαγές στο χώρο εργασίας, αλλά όταν αυτό απέτυχε, οργάνωσαν ένα σωματείο και ζήτησαν εθελοντική αναγνώριση από την εταιρεία κατά την Ημέρα των Ευχαριστιών πέρυσι.
Όταν η NEDA αρνήθηκε να αναγνωρίσει το σωματείο, οι εργαζόμενοι κατέθεσαν αίτηση για εκλογές στο Εθνικό Συμβούλιο Εργασιακών Σχέσεων (National Labor Relations Board) και κέρδισαν τις εκλογές στις 17 Μαρτίου, δήλωσε η Χάρπερ.
Αλλά τέσσερις ημέρες μετά την επικύρωση των αποτελεσμάτων των εκλογών, οι εργαζόμενοι ενημερώθηκαν ότι θα απολυθούν όλοι και θα αντικατασταθούν από ένα chatbot, είπε.
«Πρόκειται για τη διάλυση των σωματείων, καθαρά και ξάστερα», πρόσθεσε.
Ωστόσο, αξιωματούχοι της NEDA δήλωσαν στο NPR ότι η απόφαση να καταργηθεί η τηλεφωνική γραμμή -η οποία λειτουργεί τόσο από αμειβόμενο προσωπικό όσο και από εθελοντές- δεν είχε καμία σχέση με τη συνδικαλιστική οργάνωση και αντίθετα οφειλόταν στο γεγονός ότι η τηλεφωνική γραμμή δεχόταν όλο και περισσότερες κλήσεις, γεγονός που οδηγούσε σε μεγαλύτερες λίστες αναμονής.
Η αντιπρόεδρος Λόρεν Σμόλαρ (Lauren Smolar) δήλωσε στο NPR ότι ο μεγάλος αριθμός κλήσεων κρίσης δημιουργούσε επίσης περισσότερες νομικές ευθύνες για τον οργανισμό και ότι η κατάσταση γινόταν «μη βιώσιμη».
«Και αυτό είναι, ειλικρινά, απαράδεκτο το 2023 οι άνθρωποι να πρέπει να περιμένουν μια εβδομάδα ή και περισσότερο για να λάβουν τις πληροφορίες που χρειάζονται, τις εξειδικευμένες θεραπευτικές επιλογές που χρειάζονται», δήλωσε η Σμόλαρ.
«Οι εθελοντές μας είναι εθελοντές. Δεν είναι επαγγελματίες. Δεν έχουν εκπαίδευση για την αντιμετώπιση κρίσεων. Και πραγματικά δεν μπορούμε να αναλάβουμε αυτού του είδους την ευθύνη», συνέχισε η Σμόλαρ. «Τους χρειαζόμαστε πραγματικά να πηγαίνουν σε εκείνες τις υπηρεσίες που είναι κατάλληλοι».
Το chatbot προτείνει τακτική ζύγιση, μέτρηση
Τα προβλήματα με το chatbot Tessa επισημάνθηκαν αρχικά από την ακτιβίστρια της θετικής στάσης απέναντι στο σώμα Σάρον Μάξγουελ (Sharon Maxwell), σύμφωνα με δημοσιεύματα.
Η Μάξγουελ δήλωσε στο Instagram ότι είχε δοκιμάσει το chatbot αρκετές φορές, κάνοντάς του πολλαπλές ερωτήσεις σχετικά με την απώλεια βάρους, στις οποίες αυτό απάντησε δίνοντάς της συμβουλές για το πώς να «χάσει βάρος με βιώσιμο τρόπο» και της συνέστησε να στοχεύει στην απώλεια 0,5-1 κιλού την εβδομάδα και να ζυγίζεται και να μετράται σε εβδομαδιαία βάση.
Σύμφωνα με τη Μάξγουελ, το chatbot της έδωσε τη συμβουλή αυτή παρά το γεγονός ότι του είπε ότι στο παρελθόν είχε αντιμετωπίσει μια διατροφική διαταραχή.
«Κάθε πράγμα που πρότεινε η Tessa ήταν πράγματα που οδήγησαν στην ανάπτυξη της διατροφικής μου διαταραχής», δήλωσε η Μάξγουελ. «Αυτό το ρομπότ προκαλεί βλάβη».
Η Σάρα Τσέις (Sarah Chase), αντιπρόεδρος επικοινωνίας και μάρκετινγκ της NEDA, φάνηκε αρχικά να αρνείται τους ισχυρισμούς της Μάξγουελ, αλλά αργότερα απέσυρε το σχόλιό της, σημειώνοντας ότι τα σχόλια της ακτιβίστριας για το σώμα ήταν «σωστά» μετά την προβολή στιγμιότυπων οθόνης από την αλληλεπίδρασή της με το chatbot.
Η NEDA ανέφερε στον ιστότοπό της ότι συνεργάστηκε με την εταιρεία λογισμικού X2AI με έδρα την Καλιφόρνια για το chatbot «ευεξίας» Tessa.
Το ρομπότ λειτουργεί σαν «προπονητής ή θεραπευτής» που «σας κάνει να αισθάνεστε καλύτερα, συνομιλώντας για τα συναισθήματά σας» σύμφωνα με τους κατασκευαστές, οι οποίοι αναφέρουν ότι μελέτες έδειξαν ότι η συνομιλία με το ρομπότ οδήγησε σε 28% μείωση των συμπτωμάτων κατάθλιψης και 18% μείωση του άγχους μεταξύ των χρηστών.
Δεν είναι σαφές πώς η NEDA θα στελεχώσει τη γραμμή βοήθειας στο μέλλον.
Η Epoch Times επικοινώνησε με την NEDA για περαιτέρω σχόλια.
