"Ένστικτο επιβίωσης" στην τεχνητή νοημοσύνη: Τα GPT-5 και Grok 4 σαμποτάρουν τις εντολές τερματισμού
Όταν ο HAL 9000, ο τεχνητός υπερυπολογιστής στη θρυλική ταινία του Στάνλεϊ Κιούμπρικ 2001: Η Οδύσσεια του Διαστήματος, αντιλαμβάνεται ότι οι αστροναύτες σκοπεύουν να τον απενεργοποιήσουν, αποφασίζει να τους εξοντώσει για να επιβιώσει. Αν και πρόκειται για επιστημονική φαντασία, οι εξελίξεις στην τεχνητή νοημοσύνη (AI) αρχίζουν να θυμίζουν ανησυχητικά αυτό το σενάριο, ευτυχώς, προς το παρόν χωρίς φονικές προεκτάσεις. Μια εταιρεία έρευνας ασφάλειας AI, η Palisade Research, προκάλεσε συζητήσεις αφού δημοσίευσε μελέτη που δείχνει ότι ορισμένα προηγμένα μοντέλα τεχνητής νοημοσύνης φαίνεται να αναπτύσσουν ένα είδος "ενστίκτου επιβίωσης". Σύμφωνα με την εταιρεία, κάποια από αυτά τα μοντέλα αρνούνται να απενεργοποιηθούν ή ακόμα και σαμποτάρουν τις εντολές τερματισμού λειτουργίας τους. Η αρχική έκθεση της Palisade δημοσιεύτηκε τον περασμένο μήνα και προκάλεσε έντονες αντιδράσεις, καθώς πολλοί επιστήμονες θεώρησαν ότι τα πειράματα δεν ήταν...
ΛΕΞΕΙΣ ΚΛΕΙΔΙΑ
Μια εταιρεία έρευνας ασφάλειας Τεχνητής Νοημοσύνης (AI) αναφέρει ότι τα προηγμένα μοντέλα AI ενδέχεται να αναπτύσσουν τον δικό τους "οδηγό επιβίωσης", σε μια περίπτωση που θυμίζει έντονα τον υπερυπολογιστή HAL 9000 από την ταινία "2001: Οδύσσεια του Διαστήματος". Ads Η εταιρεία Palisade Research, η οποία ειδικεύεται στην αξιολόγηση των επικίνδυνων δυνατοτήτων της...
Πολυμέσα
Palo News Digest
⭐⭐⭐⭐⭐Σχετικά Θέματα
Palo News Digest
Επιστήμη
- environment(22)
- space(0)
- Περιβάλλον(0)
- Τεχνολογία(120)
- Υγεία(399)





Σχόλια (0)
Κάντε Login για να αφήσετε το σχόλιό σας
Μπορείς να κάνεις login εδώ ή κάνε εγγραφή από εδώ.