Ερευνητές του Πανεπιστημίου George Washington βρήκαν έναν μαθηματικά ακριβή τύπο που εντοπίζει τη στιγμή κατά την οποία η τεχνητή νοημοσύνη και ειδικότερα τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) όπως το ChatGPT, μεταπίπτουν από την παροχή αξιόπιστων και χρήσιμων πληροφοριών σε ανακριβή, παραπλανητική ή και δυνητικά επικίνδυνη συμπεριφορά. Η μελέτη επιχειρεί να απαντήσει σε ένα κρίσιμο ερώτημα της εποχής: πότε και γιατί η ΤΝ "ξεφεύγει" από το αρχικό, φαινομενικά ασφαλές της πλαίσιο και γιατί; Από την αξιοπιστία στην εκτροπή Ο καθηγητής Φυσικής Neil Johnson και ο μεταπτυχιακός φοιτητής Frank Yingjie Huo ανέπτυξαν ένα απλό αλλά θεμελιώδες μοντέλο βασισμένο σε έναν μόνο μηχανισμό "προσοχής" (Attention head, όπως το αποκαλούν στην έρευνα τους) που αποτελεί μία από τις βασικές μονάδες λειτουργίας στα μοντέλα, όπως το ChatGPT. Όπως εξηγούν, το μοντέλο αυτό αποτυπώνει με διαφάνεια και μαθηματική αυστηρότητα τη δυναμική ισορροπίας μεταξύ "καλής" και...