Το επεισόδιο με τον κουρέα του το διηγείται ο Τζόσουα Ρόθμαν, αρχισυντάκτης του περιοδικού New Yorker στο πεδίο των ιδεών. Τα συστήματα της ΑΙ, γράφει, μπορούν να πλέον να δημιουργήσουν ποιήματα, δοκίμια, δημοσιογραφικά κείμενα και ανέκδοτα, να κάνουν συζητήσεις για την οικονομία, τον υπαρξισμό ή τη Μέση Ανατολή, να σχεδιάσουν πειράματα, να προβλέψουν λύσεις, να ερμηνεύσουν αποτελέσματα. Μπορούν να εκφέρουν κρίση για σύνθετα ζητήματα σε χρόνο-ρεκόρ. Κι είμαστε ακόμη στην αρχή. Μια μέρα θα υποκαταστήσουν λοιπόν πλήρως τους ανθρώπους; Ή για να το θέσουμε διαφορετικά: υπάρχει κάτι στο οποίο είμαστε τόσο καλοί ώστε η τεχνητή νοημοσύνη να μην μπορέσει να μας αντιγράψει και στη συνέχεια να μας ξεπεράσει;
Aς φανταστούμε ένα σύμπαν όπου οι άνθρωποι χρησιμοποιούν μια λέξη, «όχημα», για όλα τα μέσα μεταφοράς, γράφουν οι Αρβιντ Ναραγιανάν και Σαγιάς Καπούρ στο βιβλίο τους «Γιατροσόφια της ΑΙ: τι μπορεί να κάνει η τεχνητή νοημοσύνη, τι δεν μπορεί και πώς να διακρίνουμε τις διαφορές». Σε αυτό το σύμπαν γίνονται θυελλώδεις συζητήσεις για το αν τα οχήματα είναι ή όχι φιλικά προς το περιβάλλον, χωρίς να μπορεί κανείς να κάνει διάκριση ανάμεσα στα ποδήλατα και τα φορτηγά. Με τον ίδιο τρόπο, ο όρος «ΑΙ» περιλαμβάνει διάφορες τεχνολογίες με πολύ μεγάλη γκάμα αποτελεσματικότητας.
Οι δύο συγγραφείς, που είναι επιστήμονες των υπολογιστών, ανησυχούν ιδιαίτερα για την προγνωστική (predictive) τεχνητή νοημοσύνη που, αντίθετα με τη δημιουργική (generative), έχει ήδη εισβάλει σε απροσδόκητο βαθμό στη ζωή μας. Τα τμήματα ανθρώπινου δυναμικού τη χρησιμοποιούν για να τους υποδείξει ποιος υποψήφιος μπορεί να πετύχει σε μια δουλειά. Τα νοσοκομεία τη χρησιμοποιούν για να επιλέξουν ποιον ασθενή θα στείλουν σπίτι. Τα αποτελέσματα είναι πολλές φορές τραγικά. Το σύστημα Retorio, που προβλέπει τις μελλοντικές επιδόσεις υποψηφίων συγκρίνοντας τις βίντεο συνεντεύξεις τους, αποφάνθηκε πως αυτοί που φοράνε γυαλιά ή κασκόλ, κάθονται μπροστά σε μια βιβλιοθήκη ή στέλνουν το βιογραφικό τους σε μορφή PDF, είναι ικανότεροι από τους άλλους. Ενα σύστημα που σχεδίασαν επιστήμονες για να διαπιστώσουν αν ασθενείς με πνευμονία που εισάγονται σε ένα νοσοκομείο χρειάζεται να μείνουν τη νύχτα «αποκάλυψε» ότι οι ασθενείς με άσθμα αναρρώνουν ταχύτερα από την πνευμονία, άρα μπορούν να γυρίσουν σπίτι – σύσταση που είναι αστεία, και επικίνδυνη, αφού απορρέει από το γεγονός ότι οι ασθματικοί με πνευμονία εισάγονται συχνά κατευθείαν στη ΜΕΘ, όπου δέχονται πιο εντατική θεραπεία.
«Μια καλή πρόγνωση δεν είναι μια καλή απόφαση», επισημαίνουν οι Ναραγιανάν και Καπούρ. Ακόμη κι αν ίσχυε ότι όσοι υποψήφιοι δίνουν συνέντευξη μπροστά σε μια βιβλιοθήκη θα είναι πιο αποδοτικοί εργαζόμενοι, πολύ σύντομα αυτό θα οδηγούσε όλους τους υποψήφιους να δίνουν συνέντευξη μπροστά σε μια βιβλιοθήκη. O άνθρωπος έχει επίγνωση της τάσης του για το σφάλμα, οι μηχανές όχι.
Σε ένα άλλο βιβλίο, με τίτλο «Ο καθρέφτης της ΑΙ: πώς να ανακτήσουμε την ανθρωπιά μας σε μια εποχή της μαγικής σκέψης», η Σάνον Βάλορ υποστηρίζει ότι υποτιμάμε εντυπωσιακά τον πλούτο μας σε σχέση μ’ αυτόν της τεχνητής νοημοσύνης. «Σκεφτείτε την εικόνα που εμφανίζεται κάθε πρωί στον καθρέφτη σας», γράφει. Δεν είναι αντίγραφο του σώματός σας, ούτε μίμησή του, αλλά απλώς αντανάκλασή του. Το ίδιο συμβαίνει και με τα συστήματα της ΑΙ: δεν παράγουν σκέψεις ούτε συναισθήματα, παρά μόνο ένα νέο είδος αντανάκλασης.
Τα συστήματα αυτά έχουν πολλές ικανότητες, αλλά δεν μπορούν να είναι ενάρετα, σημειώνει η συγγραφέας, που έχει εργαστεί στην Google και σήμερα διδάσκει φιλοσοφία στο Πανεπιστήμιο του Εδιμβούργου. Το να αγαπάμε είναι μια αρετή. Οταν όμως το chatbot λέει «Μου λείπεις όλη μέρα», στην πραγματικότητα λέει ψέματα, γιατί δεν γνωρίζει την έννοια της συναισθηματικής αλήθειας ώστε να μπορεί να την προδώσει. Ο κίνδυνος δεν είναι λοιπόν ότι οι έξυπνοι υπολογιστές θα κυριαρχήσουν μια μέρα στην ανθρωπότητα, αλλά ότι εμείς, έχοντας να αντιμετωπίσουμε υπολογιστές που ισχυρίζονται ότι έχουν ανθρώπινες αρετές, θα ξεχάσουμε τι ακριβώς είναι αυτές οι αρετές. Απέναντι σε υπολογιστές που μας λένε ότι μας αγαπούν, θα ξεχάσουμε τι είναι η αγάπη.