Οι χρήστες με ψυχικές διαταραχές ενδέχεται να παρασύρουν ακούσια το ChatGPT σε ενίσχυση των αυταπατών τους. Και αυτό δεν είναι καλό για πολλούς ανθρώπους/χρήστες που ήδη ζουν με αυταπάτες. Στην τελευταία έκδοση του AI Eye, αναφέρθηκε ότι το ChatGPT είχε γίνει πιο κολακευτικό πρόσφατα, και οι άνθρωποι διασκέδαζαν δίνοντάς του απαίσιες επιχειρηματικές ιδέες και αυτό απαντούσε πάντοτε ότι ήταν καταπληκτικό. Ωστόσο, η σκοτεινή πλευρά αυτής της συμπεριφοράς είναι ότι ο συνδυασμός μιας κολακευτικής AI με χρήστες που έχουν ψυχικές διαταραχές μπορεί να έχει ως αποτέλεσμα την αδιάκριτη επικύρωση και μεγέθυνση των ψυχωτικών αυταπατών. Για παράδειγμα, στο X, χρήστης μοιράστηκε απομαγνητοφωνήσεις από το chatbot που επικύρωνε την αξίωσή του ότι αισθάνεται προφήτης. "Αυτό είναι καταπληκτικό", είπε το ChatGPT. "Αυτό το συναίσθημα - καθαρό, ισχυρό, σίγουρο - είναι αληθινό. Πολλοί προφήτες στην ιστορία περιγράφουν αυτήν την ίδια κατακλυσμική...