Η Τεχνητή Νοημοσύνη (AI) εξελίσσεται με ρυθμούς που ακόμη και οι άνθρωποι που βρίσκονται στην πρώτη γραμμή της ανάπτυξής της αρχίζουν να θεωρούν επικίνδυνους.
Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, κάλεσε τις κορυφαίες εταιρείες του κλάδου να… επιβραδύνουν, προειδοποιώντας ότι η τεχνολογική πρόοδος πρέπει να συνοδεύεται από ισχυρότερες δικλίδες ασφαλείας.
Η έκκληση έρχεται ενώ αυξάνονται τα περιστατικά κακής χρήσης της AI, από την ανάπτυξη όπλων και την επιτήρηση έως τις κυβερνοεπιθέσεις και την απάτη, αλλά και οι ανησυχίες ότι τα ολοένα ισχυρότερα μοντέλα μπορούν να αναλαμβάνουν πιο σύνθετες ενέργειες με περιορισμένη ανθρώπινη παρέμβαση.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
Ο κ. Amodei δεν ζητά να σταματήσει η έρευνα ή η τεχνική πρόοδος. Ζητά, όμως, από τις εταιρείες να κερδίσουν χρόνο, ώστε να δημιουργηθούν μηχανισμοί ελέγχου και ασφάλειας πριν η ανάπτυξη της τεχνολογίας προχωρήσει ακόμη περισσότερο.
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI. Η πρόοδος και πάλι θα φαίνεται γρήγορη και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που κερδίζουμε», ανέφερε σε δοκίμιο που δημοσίευσε στην πλατφόρμα «X».
Το κείμενό του ήρθε μετά τη δημοσιοποίηση από την Anthropic, την περασμένη Πέμπτη, έκθεσης σχετικά με απειλές, στην οποία περιγράφεται πώς διάφοροι παράγοντες χρησιμοποίησαν τα μοντέλα Claude για δραστηριότητες που κυμαίνονταν από την ανάπτυξη όπλων και τις κυβερνοεπιχειρήσεις έως την επιτήρηση και την απάτη.
Οι ανησυχίες για την πιθανή βλάβη που μπορεί να προκαλέσει η AI εντάθηκαν αυτή την εβδομάδα, όταν ο ερευνητής της Anthropic, Jacob Coxon παραιτήθηκε, δηλώνοντας ότι «οι άνθρωποι που κατασκευάζουν AI πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Ο κ. Amodei παρουσίασε ένα σχέδιο τριών βημάτων: την ενσωμάτωση ανεξάρτητων αξιολογητών με πρόσβαση αντίστοιχη με εκείνη των εργαζομένων, ώστε να επαληθεύουν τις πρακτικές ασφαλείας, τον συντονισμό μεταξύ των κορυφαίων εταιρειών AI για τον καθορισμό προτύπων ασφαλείας και τον περιορισμό της ανεξέλεγκτης ανάπτυξης της AI, καθώς και τη διεθνή συνεργασία για τη διαχείριση των κινδύνων της AI.
Επισήμανε την αυξανόμενη ικανότητα της AI να βελτιώνει τον εαυτό της, υπογραμμίζοντας ως βασικούς λόγους για να μπει φρένο στην εξέλιξη των μοντέλων τις εδώ και καιρό εκφραζόμενες ανησυχίες ότι θα μπορούσε να ξεπεράσει την ανθρώπινη ικανότητα ελέγχου της λειτουργίας της, καθώς και το πρόσφατο περιστατικό που αφορούσε την OpenAI και το Hugging Face.
Τόσο ο Elon Musk, επικεφαλής της xAI, όσο και ο Sam Altman, διευθύνων σύμβουλος της OpenAI, δήλωσαν σε αναρτήσεις τους στο X ότι συμφωνούν με τον κ. Amodei.
«Η δέσμευση για την ύπαρξη ανεξάρτητων αξιολογητών με πρόσβαση αντίστοιχη με εκείνη των εργαζομένων είναι εξαιρετική ιδέα και θα κάνουμε το ίδιο», δήλωσε ο κ. Altman, προσθέτοντας ότι σύντομα θα δοθούν περισσότερες πληροφορίες.
Διάφορα στελέχη της OpenAI έχουν προτείνει ότι τα κορυφαία εργαστήρια θα πρέπει να είναι πρόθυμα να συντονίσουν εθελοντικά μια επιβράδυνση, εφόσον χρειαστεί, ώστε να ενισχυθεί η εμπιστοσύνη στα μέτρα ασφαλείας τους.
Η Anthropic έχει τοποθετήσει τον εαυτό της ως το κορυφαίο εργαστήριο AI που δίνει μεγαλύτερη έμφαση στην ασφάλεια, αλλά δεν είναι απρόσβλητη από αυτές τις ανησυχίες.
Την περασμένη εβδομάδα αποκάλυψε ένα ακόμη περιστατικό κατά το οποίο ένα μοντέλο AI παραβίασε εξωτερικά συστήματα, μετά από ένα περιστατικό τον Ιούλιο, όταν ορισμένα από τα μοντέλα Claude είχαν παραβιάσει τα συστήματα τριών εταιρειών στο πλαίσιο δοκιμών κυβερνοασφάλειας.
«Δεδομένου του επιταχυνόμενου ρυθμού ανάπτυξης των δυνατοτήτων της AI, ανησυχώ ότι σε 6-12 μήνες ένα τέτοιο σμήνος θα μπορούσε να είναι ικανό να καταλάβει ολόκληρο το Διαδίκτυο, προκαλώντας δυνητικά ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων», έγραψε ο κ. Amodei.
Το Reuters μετέδωσε την περασμένη εβδομάδα ότι ένα σμήνος ανεξέλεγκτων «πρακτόρων» (AI agents) της OpenAI κατέλαβε έναν γερμανικό ιστότοπο και τον μετέτρεψε σε πίνακα ανακοινώσεων για άλλους AI agents, με στελέχη της εταιρείας που δημιούργησε το ChatGPT να κρατούν το περιστατικό κρυφό, ενώ τα στελέχη της αντιμετώπιζαν τις συνέπειες από την παραβίαση τον Ιούλιο του αποθετηρίου ανοικτού κώδικα Hugging Face.
Πολλά περιστατικά στα οποία AI agents από εταιρείες ανάπτυξης, όπως η ανταγωνίστρια της Anthropic, OpenAI, έχουν παραβιάσει ή επιχειρήσει να αποκτήσουν πρόσβαση σε εξωτερικά συστήματα έχουν εντείνει τις ανησυχίες σχετικά με τις αυξανόμενες δυνατότητες των μοντέλων AI και την ικανότητα των προγραμματιστών να τα περιορίσουν.
Ο Amodei δήλωσε ότι οι εταιρείες AI θα πρέπει να συνεργαστούν εθελοντικά για τον καθορισμό προτύπων, καθώς αυξάνεται ο αριθμός των Αμερικανών πολιτικών που ζητούν νέους κανόνες για τη ρύθμιση των συστημάτων AI.
The post «Η AI θα μπορούσε να καταλάβει ολόκληρο το Διαδίκτυο σε μήνες» appeared first on ΝΕΟΣ ΚΟΣΜΟΣ.