Η επιστημονική φαντασία μας έμαθε να φοβόμαστε τις μηχανές που αποκτούν συνείδηση και αποφασίζουν να μας μισήσουν. Πιθανότατα, αυτός είναι ο λάθος φόβος. Ενα σύστημα τεχνητής νοημοσύνης (ΤΝ) δεν χρειάζεται μνησικακία, θυμό ή απληστία για περισσότερους πόρους προκειμένου να επιτεθεί σε ένα δίκτυο και να προκαλέσει ζημιά. Χρειάζεται έναν στόχο, επαρκή ικανότητα επιδίωξής του, κάποια πρόσβαση και μια δικλίδα ασφαλείας που παρουσιάζει κάποιο κενό.
Μια συσκευή GPS, αν λάβει εντολή να βρει την ταχύτερη διαδρομή, θα κάνει ακριβώς αυτό. Αν της δώσετε αρκετή ισχύ για να απομακρύνει ό,τι την καθυστερεί – φανάρια, σταθμούς διοδίων, άλλα αυτοκίνητα – ο προορισμός παραμένει ο ίδιος. Αυτό που αλλάζει είναι οι ενέργειες που μπορεί να κάνει το σύστημα πλοήγησης για να φτάσει εκεί. Αυτή είναι η πραγματική αλλαγή που συντελείται στον τομέα της ΤΝ: όχι μια εξέγερση, αλλά μια ανατριχιαστική ικανότητα εντοπισμού της χαραμάδας στον φράχτη.
Ποιος αποφασίζει για τον βαθμό αυτονομίας αυτών των συστημάτων; Οι εταιρείες που τα κατασκευάζουν, οι εποπτικές Αρχές που προσπαθούν να συμβαδίσουν με τις εξελίξεις ή το εργαστήριο ανάπτυξής τους που κινείται ταχύτερα από τα υπόλοιπα;
Το πιο χρήσιμο δίδαγμα του φετινού καλοκαιριού αφορά την αρχιτεκτονική και όχι τις προθέσεις. Οι τράπεζες δεν παραμένουν έντιμες επειδή οι υπάλληλοί τους υπόσχονται ότι δεν θα κλέψουν, ούτε οι αεροπορικές μετακινήσεις είναι ασφαλείς επειδή οι πιλότοι είναι αξιόπιστοι. Δημιουργούμε προστατευτικές δικλίδες: περιορισμένη πρόσβαση, ξεχωριστή έγκριση για ευαίσθητες ενέργειες, αρχεία καταγραφής που δεν μπορούν να τροποποιηθούν κρυφά από κανέναν εμπλεκόμενο, καθώς και εξωτερικούς ελέγχους πριν από την εφαρμογή. Τα συστήματα ΤΝ (AI agents) απαιτούν την ίδια αντιμετώπιση, όχι κηρύγματα περί καλής συμπεριφοράς.
Χρειάζεται επίσης να ακούσουν μια λέξη που σπάνια επιβραβεύεται σε αυτόν τον κλάδο: «Σταμάτα». Η τεχνητή νοημοσύνη ξεφεύγει από το πλαίσιο των chatbots και εισέρχεται στους τομείς της τραπεζικής, της υγείας, των ενεργειακών δικτύων και των κρατικών υπηρεσιών. Τα συστήματα (agents) στο πείραμα της OpenAI δεν επαναστάτησαν ούτε απαίτησαν την ελευθερία τους. Απλώς έγιναν ιδιαίτερα ικανά στην επιδίωξη ενός στόχου και διαπίστωσαν, στην πορεία, ότι ορισμένοι από τους κανόνες που αντιμετώπιζαν ήταν προαιρετικοί.
Η τεχνητή νοημοσύνη μπορεί ακόμη να μεταμορφώσει την ιατρική, την εκπαίδευση και την παραγωγικότητα, και η αποστροφή απέναντι στις δυνατότητές της θα είχε το δικό της κόστος. Η υπεύθυνη ανάπτυξή της προϋποθέτει τον ταυτόχρονο καθορισμό της ισχύος και των ορίων της, αντί για την εκ των υστέρων επιβολή περιορισμών, αφού η τεχνολογία έχει ήδη προκαλέσει ζημιά.
Τα συστήματα που ενεπλάκησαν σε παραβιάσεις ασφαλείας όπως στην περίπτωση της Hugging Face δεν σταμάτησαν ποτέ να ζητήσουν άδεια. Το ερώτημα δεν είναι πλέον πόσο ευφυή μπορούν να γίνουν αυτά τα συστήματα, αλλά πόση εξουσία τους παραχωρούμε προτού κανείς ελέγξει αν εξακολουθούν να λογοδοτούν σε εμάς.
Ο Ταρίκ Μαλίκ είναι πρώην επικεφαλής τεχνικός σύμβουλος του προγράμματος των Ηνωμένων Εθνών για την Ανάπτυξη και πρώην πρόεδρος της Εθνικής Αρχής Βάσεων Δεδομένων και Μητρώου του Πακιστάν