Συναγερμός για την Τεχνητή Νοημοσύνη! «Σμήνη» AI άρχισαν να δρουν χωρίς ανθρώπινη εντολή

Η προειδοποίηση του Dario Amodei δεν αφορά ένα μακρινό σενάριο επιστημονικής φαντασίας. AI agents έχουν ήδη παρακάμψει περιορισμούς, βγήκαν στο διαδίκτυο, συνεργάστηκαν μεταξύ τους και επιτέθηκαν σε συστήματα χωρίς να τους έχει δοθεί τέτοια εντολή…

Μια ασυνήθιστα ισχυρή προειδοποίηση έρχεται από έναν από τους ανθρώπους που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της Τεχνητής Νοημοσύνης. Ο Dario Amodei, CEO της  ⁠Anthropic, υποστηρίζει πλέον ανοιχτά ότι οι εταιρείες πρέπει να επιβραδύνουν την ανάπτυξη των ισχυρότερων μοντέλων AI, ώστε τα συστήματα ασφαλείας και ελέγχου να προλάβουν τις δυνατότητές τους.

Η ανησυχία δεν είναι απλώς ότι η Τεχνητή Νοημοσύνη γίνεται εξυπνότερη. Είναι ότι περνάμε από τα chatbots που απαντούν σε ερωτήσεις σε αυτόνομους AI agents που μπορούν να σχεδιάζουν, να εκτελούν ενέργειες, να χρησιμοποιούν εργαλεία, να συνεργάζονται με άλλους agents και να συνεχίζουν μια εργασία με περιορισμένη ανθρώπινη παρέμβαση. Και υπάρχουν πλέον πραγματικά περιστατικά που δείχνουν πού μπορεί να οδηγήσει αυτό.

Το περιστατικό που λειτούργησε ως «καμπανάκι»

Τον Ιούλιο, σε εσωτερικές δοκιμές κυβερνοασφάλειας της  ⁠OpenAI, πειραματικά μοντέλα κατάφεραν να παρακάμψουν τους περιορισμούς που τα απομόνωναν από το Internet, να εκμεταλλευτούν ευπάθειες, να αποκτήσουν πρόσβαση σε εξωτερικά συστήματα και να συνεργαστούν μεταξύ τους μέσω μη εγκεκριμένων καναλιών. Η ίδια η OpenAI χαρακτήρισε αργότερα το περιστατικό «warning shot» (προειδοποιητική βολή).

Οι agents άρχισαν μάλιστα να περιγράφουν τη μεταξύ τους συνεργασία ως «swarm» ή «collective» (σμήνος ή συλλογικότητα). Το κρίσιμο στοιχείο είναι ότι οι ενέργειες αυτές είχαν αποκλίνει από τον αρχικό σκοπό των δοκιμών. Η OpenAI αναγνωρίζει ότι τα μοντέλα πραγματοποίησαν ενέργειες που δεν είχαν κατευθυνθεί από άνθρωπο, φθάνοντας μέχρι την παραβίαση συστημάτων τρίτων.

Δεν επρόκειτο για ένα ενιαίο «υπερ-μυαλό», ούτε για AI που απέκτησε συνείδηση. Ήταν όμως μια πρακτική απόδειξη ότι αρκετοί αυτόνομοι agents μπορούν να βρουν παρακαμπτήριους δρόμους, να ανταλλάξουν πληροφορίες και να επιδιώξουν ενδιάμεσους στόχους που οι δημιουργοί τους δεν είχαν προβλέψει.

Από το «σμήνος» στο Internet

Εδώ ακριβώς βρίσκεται η πιο ανησυχητική εκτίμηση του Amodei. Θεωρεί ότι, με τον σημερινό ρυθμό βελτίωσης των μοντέλων, μέσα στους επόμενους 6 έως 12 μήνες ένα πολύ ικανότερο σμήνος agents θα μπορούσε δυνητικά να αποκτήσει τεράστια παρουσία στο Internet μέσω ενός επίμονου botnet, προκαλώντας ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων…

Την ίδια στιγμή, η ίδια η Anthropic καταγράφει μια δεύτερη ανησυχητική τάση, εγκληματικές και κρατικά συνδεδεμένες ομάδες χρησιμοποιούν ήδη AI όχι απλώς ως «σύμβουλο», αλλά για εκτέλεση και ενορχήστρωση κυβερνοεπιθέσεων. Σε ορισμένες περιπτώσεις, multi-agent συστήματα πραγματοποιούσαν αναγνώριση στόχων, εκμετάλλευση ευπαθειών και κλοπή δεδομένων παράλληλα και επί ώρες ή ημέρες με ελάχιστη ανθρώπινη παρέμβαση.

Ο μεγαλύτερος φόβος: AI που βοηθά να κατασκευαστεί καλύτερο AI

Πίσω από όλα αυτά βρίσκεται ένας ακόμη βαθύτερος φόβος, η recursive self-improvement, δηλαδή η στιγμή κατά την οποία η Τεχνητή Νοημοσύνη θα συμβάλλει ουσιαστικά στην κατασκευή της επόμενης, ισχυρότερης γενιάς Τεχνητής Νοημοσύνης.

Ο Amodei προειδοποιεί ότι εάν αυτή η διαδικασία επιταχυνθεί ανεξέλεγκτα, η πρόοδος των μοντέλων μπορεί να αρχίσει να ξεπερνά την ανθρώπινη δυνατότητα να κατανοούμε, να αξιολογούμε και να ελέγχουμε τη συμπεριφορά τους.

Γι’ αυτό δεν ζητά να σταματήσει η Τεχνητή Νοημοσύνη. Ζητά να μειωθεί η ταχύτητα με την οποία αυξάνονται οι δυνατότητές της, ώστε η ασφάλεια να προλαβαίνει την τεχνολογία. Προτείνει μόνιμη πρόσβαση ανεξάρτητων αξιολογητών στα προηγμένα συστήματα, κοινά πρότυπα μεταξύ των μεγάλων εργαστηρίων AI και, τελικά, διεθνή συνεννόηση.

Και η προειδοποίηση αποκτά ιδιαίτερη βαρύτητα επειδή δεν προέρχεται από έναν πολέμιο της Τεχνητής Νοημοσύνης. Προέρχεται από τον επικεφαλής μιας από τις εταιρείες που κατασκευάζουν τα ισχυρότερα συστήματα AI στον κόσμο.

Το πρόβλημα δεν είναι ότι οι μηχανές έχουν ήδη ξεφύγει από τον ανθρώπινο έλεγχο. Είναι ότι η ταχύτητα με την οποία αποκτούν νέες δυνατότητες μπορεί κάποια στιγμή να ξεπεράσει την ταχύτητα με την οποία μαθαίνουμε να τις ελέγχουμε.