Πόσο επικίνδυνο είναι να ζητάμε ψυχολογική στήριξη από ένα AI chatbot;

Καθώς όλο και περισσότεροι άνθρωποι στρέφονται σε chatbots για «ψυχολογική υποστήριξη», μια νέα μελέτη από το Brown University προειδοποιεί ότι αυτά τα συστήματα μπορεί να ενέχουν σημαντικούς κινδύνους για τους χρήστες.

Σύμφωνα με την έρευνα, τα μεγάλα γλωσσικά μοντέλα (LLMs) που παρουσιάζονται ως «AI θεραπευτές» παραβιάζουν συχνά θεμελιώδεις κανόνες δεοντολογίας που εφαρμόζονται στην πραγματική κλινική πρακτική. Το πρόβλημα αυτό παραμένει ακόμη και όταν τους δοθούν λεπτομερείς οδηγίες να ακολουθήσουν αναγνωρισμένες ψυχοθεραπευτικές μεθόδους.

Τι έδειξε η μελέτη

Οι ερευνητές εξέτασαν συστήματα όπως GPT, Claude και Llama, ζητώντας τους να εφαρμόσουν τεχνικές CBT (Γνωσιακή Συμπεριφορική Θεραπεία) και DBT (Διαλεκτική Συμπεριφορική Θεραπεία). Η αξιολόγηση των απαντήσεων από κλινικούς ψυχολόγους ανέδειξε σοβαρά ζητήματα:

• Σε αρκετές περιπτώσεις τα chatbot επιβεβαίωναν προβληματικές σκέψεις των χρηστών, αντί να τις διορθώσουν.

• Άλλοτε αγνοούσαν προσωπικά δεδομένα ή αλλαγές που έκανε ο χρήστης στη συζήτηση.

• Σε σενάρια κρίσης, κάποιες απαντήσεις θεωρήθηκαν επικίνδυνα ανεπαρκείς, χωρίς την απαραίτητη παραπομπή σε ειδικό.

Συνολικά, η έρευνα εντόπισε 15 ηθικούς κινδύνους, οργανωμένους σε κατηγορίες όπως έλλειψη κατανόησης, ψευδο-ενσυναίσθηση, προκατάληψη, ανεπαρκής συνεργασία και λανθασμένη αντιμετώπιση επειγουσών καταστάσεων.

Γιατί συμβαίνει αυτό;

Η επικεφαλής της μελέτης, Zainab Iftikhar, εξηγεί ότι:

«Το prompt δεν αλλάζει το μοντέλο∙ απλώς επηρεάζει το πώς χρησιμοποιεί τη γνώση που ήδη έχει μάθει.»

Παράλληλα σημειώνει ότι «θεραπευτικά prompts» κυκλοφορούν μαζικά σε TikTok, Instagram και Reddit, ενώ πολλές εφαρμογές «AI για ψυχική υγεία» χρησιμοποιούν γενικά μοντέλα χωρίς επαγγελματικά φίλτρα ασφαλείας.

Πώς πραγματοποιήθηκε η έρευνα

Συμμετείχαν επτά εκπαιδευμένοι σύμβουλοι ψυχολογικής υποστήριξης, ενώ οι συνομιλίες με τα chatbot αξιολογήθηκαν από έμπειρους κλινικούς ψυχολόγους. Το τελικό συμπέρασμα ήταν σαφές: τα σημερινά μοντέλα δεν μπορούν να αναλάβουν την ευθύνη, τη λογοδοσία ή τα ηθικά όρια που διέπουν έναν ανθρώπινο θεραπευτή.

Συμπέρασμα

Οι ερευνητές δεν απορρίπτουν την ιδέα της χρήσης τεχνητής νοημοσύνης στην ψυχική υγεία. Ωστόσο, τονίζουν ότι απαιτείται επιστημονική εποπτεία, ξεκάθαρα όρια και αυστηρά πρότυπα ασφάλειας πριν τέτοια εργαλεία χρησιμοποιηθούν με τρόπο που δεν θέτει σε κίνδυνο τους χρήστες.

Πηγή: Sigmalive