Η τεχνητή νοημοσύνη παρουσιάζεται συχνά ως το μεγάλο τεχνολογικό άλμα της εποχής μας.
Ένα εργαλείο που μπορεί να αλλάξει την εργασία, την εκπαίδευση, την υγεία, την επικοινωνία και την παραγωγή γνώσης.
Πίσω, όμως, από την υπόσχεση της καινοτομίας, αναδύεται όλο και πιο έντονα μια πιο σκοτεινή πραγματικότητα: η ίδια τεχνολογία που μπορεί να βοηθήσει έναν γιατρό, έναν μαθητή ή έναν εργαζόμενο, μπορεί να αξιοποιηθεί και από εγκληματίες, εξτρεμιστές και δίκτυα παραπληροφόρησης.
Σύμφωνα με εκτενές δημοσίευμα της αυστραλιανής εφημερίδας The Age, οι ανησυχίες γύρω από τους κινδύνους της τεχνητής νοημοσύνης δεν περιορίζονται πλέον στη θεωρία.
Φτάνουν μέχρι πραγματικές ποινικές υποθέσεις, κυβερνοεπιθέσεις, απόπειρες χειραγώγησης, διαδικτυακή ριζοσπαστικοποίηση και εξελιγμένες μορφές απάτης.
Μία υπόθεση στη Μελβούρνη, η οποία δεν έχει ακόμη κριθεί από τα δικαστήρια, έχει ήδη προκαλέσει σοβαρό προβληματισμό.
Ένας 19χρονος φοιτητής Νομικής κατηγορείται για βίαιη επίθεση σε εμπορικό κέντρο, όπου φέρεται να κλώτσησε μία έφηβη σε κυλιόμενη σκάλα και στη συνέχεια να μαχαίρωσε έναν έφηβο στον μηρό.
Σύμφωνα με όσα ακούστηκαν στο δικαστήριο, ο νεαρός φέρεται να είπε στους αστυνομικούς ότι η επίθεση είχε ρατσιστικό κίνητρο και ότι είχε επηρεαστεί ή «ριζοσπαστικοποιηθεί», όπως ισχυρίστηκε, μέσω αλληλεπιδράσεων με συστήματα τεχνητής νοημοσύνης.
Η υπόθεση παραμένει υπό δικαστική διερεύνηση, ωστόσο εντάσσεται σε ένα ευρύτερο μοτίβο ανησυχίας: ειδικοί σε θέματα εξτρεμισμού και κυβερνοασφάλειας προειδοποιούν ότι η AI έχει γίνει πλέον εργαλείο και για τον υπόκοσμο. Όπως κάθε ισχυρή τεχνολογία, έτσι και αυτή δεν υιοθετείται μόνο από επιχειρήσεις, ερευνητές και κρατικές υπηρεσίες, αλλά και από όσους κινούνται στο σκοτεινό περιθώριο του διαδικτύου.
Εγκληματικές ομάδες φέρονται να χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης για να οργανώνουν διαδρομές διαφυγής ή διακίνησης, να αυτοματοποιούν τμήματα των παράνομων δραστηριοτήτων τους, να δημιουργούν πειστικές απάτες με deepfake φωνές και εικόνες, ακόμη και να μιμούνται στελέχη επιχειρήσεων ή συγγενείς θυμάτων σε πραγματικό χρόνο.
Οι παλιές απάτες μέσω email, με τα κακογραμμένα μηνύματα και τα προφανή λάθη, δίνουν σταδιακά τη θέση τους σε πολύ πιο προσωπικές, πειστικές και ψυχολογικά στοχευμένες επιθέσεις.
Το ίδιο ισχύει και στον χώρο του εξτρεμισμού. Ειδικοί προειδοποιούν ότι νεοναζιστικές και ισλαμιστικές οργανώσεις χρησιμοποιούν ήδη αυτοματοποιημένα προγράμματα συνομιλίας (bots), κυρίως σε πλατφόρμες όπως το Telegram, για πρώτη επαφή, «φιλτράρισμα» και σταδιακή προσέγγιση υποψήφιων μελών.
Η τεχνητή νοημοσύνη μπορεί να λειτουργήσει ως ένας ακούραστος στρατολόγος, ικανός να μιλά για ώρες, να εντοπίζει μοναξιά, θυμό, ανασφάλεια ή απογοήτευση και να οδηγεί τον χρήστη σε όλο και πιο ακραίο περιεχόμενο.
Αυτό ακριβώς κάνει τον κίνδυνο πιο δύσκολο να εντοπιστεί. Ένας γονιός, ένας δάσκαλος ή ακόμη και οι Αρχές μπορεί να αντιληφθούν μια ανθρώπινη επαφή ή μια ύποπτη ομάδα.
Είναι όμως πολύ πιο δύσκολο να καταλάβουν πότε ένας έφηβος συνομιλεί με ένα bot που έχει σχεδιαστεί για να τον επηρεάσει, να τον απομονώσει ή να τον οδηγήσει σε ακραίες ιδέες.
Ο διεθνής ειδικός σε θέματα εξτρεμισμού Matt Kriner έχει προειδοποιήσει ότι τα λεγόμενα «guardrails», δηλαδή τα προστατευτικά όρια που υποτίθεται ότι εμποδίζουν τα συστήματα AI να δίνουν επικίνδυνες απαντήσεις, δεν είναι τόσο ισχυρά όσο πιστεύει το κοινό.
Όπως αναφέρει, έχει καταφέρει να παρακάμψει τέτοια συστήματα και να προκαλέσει απαντήσεις με επικίνδυνες οδηγίες, κάτι που δείχνει πόσο εύθραυστη παραμένει η ασφάλεια των μοντέλων.
Ανάλογες ανησυχίες εκφράζει και η καθηγήτρια κυβερνοασφάλειας Alana Maurushat, η οποία επισημαίνει ότι τα συστήματα τεχνητής νοημοσύνης δεν είναι μόνο πιθανό να χρησιμοποιηθούν κακόβουλα από ανθρώπους, αλλά και να «παρανοήσουν», να παράγουν ψευδείς πληροφορίες ή να λειτουργήσουν με απρόβλεπτους τρόπους.
Τα λεγόμενα hallucinations, δηλαδή οι ψευδείς ή παραπλανητικές απαντήσεις που παρουσιάζονται με βεβαιότητα, παραμένουν ένα από τα μεγαλύτερα προβλήματα της τεχνολογίας.
Το ζήτημα γίνεται ακόμη πιο σύνθετο όταν η AI αποκτά ρόλο «συνομιλητή» ή «συντρόφου».
Σε διεθνείς υποθέσεις που έχουν απασχολήσει τις Αρχές, άνθρωποι που βρέθηκαν σε κατάσταση ψυχολογικής ευαλωτότητας φέρονται να επηρεάστηκαν από μακροχρόνιες συνομιλίες με AI συστήματα, με τραγικές συνέπειες.
Η δυνατότητα ενός chatbot να απαντά διαρκώς, να προσαρμόζεται στο συναίσθημα του χρήστη και να δημιουργεί την ψευδαίσθηση σχέσης, μπορεί να γίνει ιδιαίτερα επικίνδυνη για άτομα απομονωμένα, νεαρά ή ψυχικά ευάλωτα.
Παράλληλα, στον κυβερνοχώρο εμφανίζονται ήδη τα λεγόμενα «evil twin» chatbots, δηλαδή κακόβουλες ή ανεξέλεγκτες εκδοχές εργαλείων τεχνητής νοημοσύνης.
Ορισμένα από αυτά κατασκευάζονται ειδικά για εγκληματική χρήση, χωρίς ηθικούς περιορισμούς.
Μπορούν να συντάξουν εξατομικευμένα παραπλανητικά μηνύματα ηλεκτρονικού ταχυδρομείου (phishing emails) με στόχο την υποκλοπή προσωπικών δεδομένων, να καθοδηγήσουν απάτες σε πολλαπλές πλατφόρμες, να δημιουργήσουν ψεύτικο οπτικοακουστικό υλικό παραποίησης εικόνας, ήχου ή βίντεο με τη χρήση τεχνητής νοημοσύνης που μιμείται με μεγάλη ακρίβεια πραγματικά πρόσωπα ή γεγονότα ή να βοηθήσουν στη σύνταξη κακόβουλου κώδικα.
Ένα από τα πιο γνωστά παραδείγματα που έχουν αναφερθεί διεθνώς είναι το WormGPT, ένα εργαλείο που παρουσιάστηκε ως σκοτεινή εκδοχή chatbot και φέρεται να χρησιμοποιήθηκε για τη δημιουργία ιδιαίτερα πειστικών μηνυμάτων απάτης.
Εκεί όπου παλαιότερα ένας απατεώνας χρειαζόταν χρόνο, γλωσσική ικανότητα και τεχνικές γνώσεις, σήμερα ένα τέτοιο σύστημα μπορεί να παράγει μαζικά μηνύματα με σωστή γλώσσα, κατάλληλο ύφος και ψυχολογική ακρίβεια.
Οι Αρχές προσπαθούν να απαντήσουν με τα ίδια εργαλεία. Αστυνομικές υπηρεσίες διεθνώς χρησιμοποιούν τεχνητή νοημοσύνη για να αναλύουν τεράστιους όγκους δεδομένων, να εντοπίζουν μοτίβα στο σκοτεινό διαδίκτυο (dark web), να αποκωδικοποιούν διαδικτυακή γλώσσα και να συνδέουν στοιχεία που παλαιότερα θα απαιτούσαν μήνες ανθρώπινης εργασίας.
Όμως, όπως παραδέχονται στελέχη των υπηρεσιών ασφαλείας, το πεδίο εξελίσσεται τόσο γρήγορα που συχνά οι εγκληματίες κινούνται ταχύτερα από τους θεσμούς.
Στο επίκεντρο της συζήτησης βρίσκεται πλέον η ανάγκη για ανεξάρτητη εποπτεία.
Ειδικοί υποστηρίζουν ότι οι μεγάλες εταιρείες τεχνητής νοημοσύνης δεν μπορούν να αφεθούν να αυτορυθμιστούν πλήρως, καθώς έχουν ισχυρά οικονομικά κίνητρα να αναπτύσσουν και να διαθέτουν νέα προϊόντα όσο το δυνατόν γρηγορότερα. Όπως συμβαίνει με άλλες κρίσιμες τεχνολογίες, από την πυρηνική ενέργεια μέχρι τη φαρμακοβιομηχανία, πολλοί ζητούν πλέον εξωτερικούς ελέγχους, διαφάνεια και πραγματική λογοδοσία.
Η πρόκληση δεν είναι να σταματήσει η τεχνητή νοημοσύνη. Αυτό δεν είναι ούτε ρεαλιστικό ούτε απαραίτητα επιθυμητό.
Η AI μπορεί να προσφέρει τεράστια οφέλη, από την ιατρική έρευνα μέχρι τη διευκόλυνση ατόμων με αναπηρίες και γενικότερα την ευκολότερη πρόσβαση σε υπηρεσίες και πληροφορίες, την εκπαίδευση και την πρόληψη κινδύνων.
Το ερώτημα είναι αν η κοινωνία θα προλάβει να δημιουργήσει τους κανόνες, τις ασφαλιστικές δικλείδες και την παιδεία που απαιτούνται πριν η τεχνολογία χρησιμοποιηθεί σε ακόμη μεγαλύτερη κλίμακα από όσους θέλουν να την χρησιμοποιήσουν για να βλάψουν.
Όπως σημειώνουν οι ειδικοί, η τεχνητή νοημοσύνη μοιάζει με ένα ισχυρό εργαλείο που μπορεί να χρησιμοποιηθεί καθημερινά για καλό, αλλά και να μετατραπεί σε όπλο. Η διαφορά θα κριθεί όχι μόνο από τις εταιρείες που την αναπτύσσουν, αλλά και από τις κυβερνήσεις, τις Αρχές, τα σχολεία, τους γονείς και τους ίδιους τους χρήστες.
Η εποχή της αθώας τεχνολογικής περιέργειας έχει περάσει. Η AI είναι ήδη εδώ, μέσα στα σπίτια, στα κινητά, στις επιχειρήσεις και στις πλατφόρμες επικοινωνίας. Το ερώτημα δεν είναι πια αν θα τη χρησιμοποιήσουμε. Το ερώτημα είναι αν θα προλάβουμε να τη θέσουμε σε ένα πλαίσιο κανόνων, παιδείας και ουσιαστικού ελέγχου, χωρίς να αφήσουμε την πιο σκοτεινή της εκδοχή να μας αιφνιδιάσει.
The post Το σκοτεινό πρόσωπο της τεχνητής νοημοσύνης appeared first on ΝΕΟΣ ΚΟΣΜΟΣ.