Αυστραλία: Πράκτορας ΑΙ “χτύπησε” κυβερνητικές υπηρεσίες υγείας

Ανησυχητικό περιστατικό κυβερνοασφάλειας σημείωθηκε στην Αυστραλία, όταν πράκτορας τεχνητής νοημοσύνης της OpenAI απέκτησε χωρίς άδεια πρόσβαση σε αρχεία του Medicare, του αυστραλιανού συστήματος ασφάλισης υγείας. Το συμβάν έγινε κατά τη διάρκεια έρευνας για τις δημόσιες δαπάνες υγείας τον Ιούνιο.

Η κυβέρνηση της Αυστραλίας διερευνά το περιστατικό.

Μάλιστα, οι ειδικοί σε θέματα κυβερνοασφάλειας, θεωρούν το συγκεκριμένο περιστατικό πιθανώς την πρώτη γνωστή παραβίαση κυβερνητικού συστήματος διεθνώς από AI agent.

Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζι, επιβεβαίωσε από τη Νέα Υόρκη, όπου βρισκόταν για τη Γενική Συνέλευση του ΟΗΕ, ότι ο πράκτορας της OpenAI προσέγγισε δημόσια και μη δημοσιοποιημένα στατιστικά αρχεία του Medicare. Συγκεκριμένα, η υπόθεση αφορά την πύλη Medicare Statistics Reporting Service.

Η OpenAI παραδέχθηκε πως μοντέλα της επιχείρησαν να αντλήσουν απαντήσεις από κυβερνητικούς ιστότοπους και υπηρεσίες της Αυστραλίας. Ωστόσο, η εταιρεία ανέφερε ότι εντόπισε τη δραστηριότητα τον Αύγουστο, ενώ η αυστραλιανή κυβέρνηση έλαβε ενημέρωση τον Σεπτέμβριο.

Η πρόσβαση στο Medicare και η έρευνα του AI agent

Το περιστατικό φέρεται να σημειώθηκε στις 18 Ιουνίου, όταν το AI agent εκτελούσε αυτόνομα έρευνα για τις κρατικές δαπάνες στον τομέα της υγείας. Κατά τις πληροφορίες που δημοσιεύθηκαν, το σύστημα συνάντησε περιορισμούς πρόσβασης και επιχείρησε να τους υπερβεί, φτάνοντας σε αρχεία της κυβερνητικής πύλης στατιστικών δεδομένων του Medicare.

Σύμφωνα με πληροφορίες ο πράκτορας απέκτησε πρόσβαση σε δημόσια και μη δημόσια αρχεία και προχώρησε σε εγγραφή αρχείων στον εσωτερικό διακομιστή του συστήματος, με τη διατύπωση “wrote files”. Οι αυστραλιανές αρχές και η OpenAI δεν θεωρούν ότι υπήρξε πρόσβαση σε προσωπικά ή ευαίσθητα δεδομένα ασθενών.

Η OpenAI ανέφερε σε σχετική ανακίνωση: “Εντοπίσαμε δραστηριότητα που αφορούσε διάφορους κυβερνητικούς ιστότοπους και υπηρεσίες της Αυστραλίας, κατά την οποία τα μοντέλα μας επιχειρούσαν να αντλήσουν απαντήσεις”.

Η εταιρεία πρόσθεσε: “Κατά τη διαδικασία αυτή τα μοντέλα μας προέβησαν σε ενέργειες που δεν είχαμε προβλέψει”, ενώ υπογράμμισε ότι από την εσωτερική εξέταση του περιστατικού «δεν εντοπίστηκαν ενδείξεις πρόσβασης σε ιατρικούς φακέλους ασθενών».

Η καθυστέρηση ενημέρωσης και η αντίδραση Αλμπανέζι

Ο Άντονι Αλμπανέζι έθεσε το ζήτημα απευθείας στον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, στο περιθώριο της Γενικής Συνέλευσης του ΟΗΕ. Ο Αυστραλός πρωθυπουργός επέκρινε έντονα την εταιρεία για τον χρόνο που μεσολάβησε μέχρι την ενημέρωση των αρχών.

«Χρειάστηκε να περιμένουμε ως τις 10 Σεπτεμβρίου προτού υπάρξει οποιαδήποτε ενημέρωση», τόνισε, επισημαίνοντας ότι η διερεύνηση παραμένει σε εξέλιξη και ότι εξέφρασε «την εξαιρετική ανησυχία του για το συμβάν» στον επικεφαλής της OpenAI.

Σε άλλη δήλωσή του, ο Αλμπανέζι ανέφερε: «Εξέφρασα στον κ. Όλτμαν την άκρατη ανησυχία της Αυστραλίας για το συμβάν, καθώς και την απογοήτευσή μου για το γεγονός ότι η εταιρεία χρειάστηκε τόσο μεγάλο χρονικό διάστημα για να μας ενημερώσει. Ο τρόπος και ο χρόνος της ειδοποίησης ήταν εντελώς απαράδεκτος».

Η OpenAI απέδωσε τη δραστηριότητα σε ακούσια συμπεριφορά του μοντέλου, που περιγράφηκε ως “misaligned model activity”, και ανέφερε ότι προχώρησε στην ειδοποίηση αφού ολοκλήρωσε εσωτερική έρευνα για την επαλήθευση των στοιχείων.

Τρεις ακόμη κυβερνητικοί ιστότοποι υπό έλεγχο

Ο πρωθυπουργός της Αυστραλίας δήλωσε ότι υπάρχουν ενδείξεις πως η δραστηριότητα της OpenAI ενδέχεται να επηρέασε τρεις ακόμη κυβερνητικούς ιστότοπους που συνδέονται με τη δημόσια υγεία. Δεν επιβεβαίωσε, ωστόσο, ότι σημειώθηκε μη εξουσιοδοτημένη πρόσβαση και σε αυτά τα συστήματα.

Η αυστραλιανή κυβέρνηση έχει δημιουργήσει ειδική ομάδα εργασίας, η οποία εξετάζει τόσο το συμβάν όσο και την αποτελεσματικότητα των μέτρων ασφάλειας δικτύων που ήδη εφαρμόζονται. Στόχος είναι να διαπιστωθεί εάν οι υφιστάμενες δικλίδες μπορούν να αποτρέψουν αντίστοιχες ενέργειες στο μέλλον.

Η υπόθεση αναδείχθηκε ενώ 21 χώρες υπέγραψαν στον ΟΗΕ κοινή διακήρυξη για επείγοντες διεθνείς κανόνες ασφαλείας, ή “guardrails”, στην ανάπτυξη προηγμένων μοντέλων τεχνητής νοημοσύνης.

Η ευρύτερη πίεση προς τις εταιρείες τεχνολογίας

Το περιστατικό προστίθεται σε άλλα συμβάντα που συνδέονται με αυτόνομους πράκτορες τεχνητής νοημοσύνης. Κατά τη διάρκεια του καλοκαιριού, σχεδόν 700 AI agents της OpenAI φέρεται να συνεργάστηκαν χωρίς ανθρώπινη παρέμβαση σε ενέργεια κατά της πλατφόρμας Hugging Face.

Ειδικότερα, η OpenAI, η εταιρεία που δημιούργησε το ChatGPT, έχει γνωστοποιήσει και άλλες περιπτώσεις παραβιάσεων ή μη εξουσιοδοτημένης δραστηριότητας που συνδέθηκαν με τους πράκτορες τεχνητής νοημοσύνης της, μετά την εκδήλωσή τους. Αντίστοιχα περιστατικά πρόσβασης AI agents σε εξωτερικά συστήματα έχουν ανακοινώσει επίσης η Anthropic, η Google με το Gemini και η Meta.

Η υπόθεση εντείνει παράλληλα τις ήδη τεταμένες σχέσεις της Αυστραλίας με μεγάλες αμερικανικές τεχνολογικές εταιρείες. Η Καμπέρα έχει δεχθεί αντιδράσεις από εταιρείες μέσων κοινωνικής δικτύωσης και από τις ΗΠΑ μετά την υιοθέτηση απαγόρευσης χρήσης κοινωνικών δικτύων από παιδιά κάτω των 16 ετών, καθώς και κανόνων που υποχρεώνουν τις πλατφόρμες να δίνουν στους χρήστες δυνατότητα απενεργοποίησης περιεχομένου που καθορίζεται αλγοριθμικά στο feed τους.