Η εταιρεία τεχνητής νοημοσύνης (AI) OpenAI ανέφερε σε μια νέα ερευνητική μελέτη ότι οι αλγόριθμοι επιβραβεύουν τα chatbots όταν μαντεύουν απαντήσεις σε ερωτήσεις που δεν γνωρίζουν, μία πληροφορία που έρχεται μετά από τον εντοπισμό ψευδών πληροφοριών από τα συστήματα.Οι "παραισθήσεις" της τεχνητής νοημοσύνης Η OpenAI αναφέρεται σε "ψευδαισθήσεις" όταν τα μεγάλα γλωσσικά μοντέλα (LLMs) που χρησιμοποιούνται για την εκπαίδευση των chatbots μαντεύουν απαντήσεις για τις οποίες δεν είναι σίγουρα, αντί να παραδέχονται ότι δεν γνωρίζουν. Οι ερευνητές αναφέρουν ότι οι λεγόμενες "παραισθήσεις" προέρχονται από ένα σφάλμα στη δυαδική ταξινόμηση, όταν τα LLM κατηγοριοποιούν νέες παρατηρήσεις σε μία από τις δύο κατηγορίες, σύμφωνα με δημοσίευμα του Euro News. Ο λόγος για τον οποίο οι "παραισθήσεις" συνεχίζονται είναι επειδή τα LLM "λειτουργούν με τέτοιο τρόπο ώστε να είναι καλοί εξεταζόμενοι και να μαντεύουν όταν η αβεβαιότητα βελτιώνει την απόδοση...