Η αισιοδοξία των μεγάλων "προφητών" της εποχής της τεχνητής νοημοσύνης έχει αρχίσει να υποχωρεί - τουλάχιστον για κάποιους από αυτούς - και το ανθηρό μέλλον που προέβλεπαν τώρα πια φαντάζει πολύ μακρινό. Το βιβλίο "If Anyone Builds It, Everyone Dies" ("Αν το φτιάξει κανένας αυτό, θα πεθάνουν όλοι") του Ελιέζερ Γιουντκόφσκι και του Νέιτ Σόαρς επαναφέρει με οξύτητα το σενάριο της πλήρους εξαφάνισης της ανθρωπότητας λόγω της εμφάνισης μιας τεχνητής υπερνοημοσύνης (ASI). Οι συγγραφείς, όπως γράφει το Bloomberg, υποστηρίζουν ότι το διακύβευμα δεν είναι η τεχνητή νοημοσύνη στο επίπεδο που είναι σήμερα, αλλά η μελλοντική ASI, η οποία θα εξελιχθεί σε οντότητα με άγνωστη στα ανθρώπινα δεδομένα δύναμη, αρκετά έξυπνη ώστε να υπερνικήσει κάθε προσπάθεια των δημιουργών της να την περιορίσουν. Όπως σημειώνουν χαρακτηριστικά, "μια τεχνητή υπερνοημοσύνη θα γνωρίζει ότι, για να γίνει ισχυρότερη, χρειάζεται πρόσβαση σε επιπλέον υπολογιστικούς πόρους...