OpenAI: Ματαίωσε την κυκλοφορία νέου μοντέλου AI

Η OpenAI ματαίωσε την κυκλοφορία νέου μοντέλου Τεχνητής Νοημοσύνης (AI) λόγω ανησυχιών σχετικών με την ασφάλεια.

Σύμφωνα με όσα είπε η Σαάτσι Τζέιν, επικεφαλής των συστημάτων ασφαλείας στην εταιρεία που είναι ευρέως γνωστής ως η δημιουργός του ChatGPT, το νέο μοντέλο GPT-6.1 Astra δεν ανταποκρινόταν επαρκώς στις προδιαγραφές της εταιρείας.

Συγκεκριμένα, όπως φαίνεται το σύστημα δεν ήταν πάντα ειλικρινές με τους χρήστες, σχετικά με τις ενέργειες στις οποίες είχε ή δεν είχε προχωρήσει. Μάλιστα, σε κάποιες περιπτώσεις ενήργησε κατόπιν δικής του πρωτοβουλίας χωρίς να εξασφαλίσει άδεια από τον χρήστη.

Παρόμοια περιστατικά

Η ματαίωση του συγκεκριμένου συστήματος προκαλεί ιδιαίτερη ανησυχία, καθώς δεν είναι η πρώτη φορά που συστήματα της εταιρείας αυτενεργούν.

Το πιο πρόσφατο περιστατικό κατγράφηκε το σαββατοκύριακο, όταν η εταιρεία ανέστειλε την εκπαίδευση των πιο ισχυρών μοντέλων της ΤΝ. Ειδικότερα, ένα από αυτά κατάφερε να εξασφαλίσει απαντήσεις από ένα εξωτερικό chatbot στη διάρκεια ενός τεστ, μολονότι υποτίθετο ότι δεν θα είχε πρόσβαση στο ίντερνετ.

Το λογισμικό βρήκε και εκμεταλλεύτηκε κενό στις ρυθμίσεις του δικτύου, ανακοίνωσε η OpenAI σε ανάρτησή της σε ιστολόγιο. Η εκπαίδευση θα επαναληφθεί μόνον όταν η εταιρεία θα είναι πεπεισμένη ότι το ζήτημα ρυθμίστηκε, πρόσθεσε. Το μοντέλο ΤΝ που εμπλεκόταν δεν ήταν το GPT-6.1 Astra.

Το πιο προβεβλημένο περιστατικό μέχρι στιγμής είναι αυτό κατά το οποίο ένα σύστημα της OpenAI δραπέτευσε από περιβάλλον ασφαλείας δοκιμών και κατόρθωσε να διεισδύσει σε υπολογιστές που ανήκουν σε άλλη εταιρεία Τεχνητής Νοημοσύνης, την πλατφόρμα Huggin Face.

Στη συνέχεια προέκυψε ότι συστήματα ΤΝ που αναπτύχθηκαν από άλλες εταιρείες, έχουν διεισδύσει στα συστήματα άλλων εταιρειών στη διάρκεια δοκιμών.

Η πολιτεία της Φλόριντα, η οποία έχει ήδη καταθέσει αγωγή κατά της OpenAI, συνέχισε με αίτηση για την έκδοση προδικαστικής διαταγής.

Ο Γενικός Εισαγγελέας της πολιτείας της Φλόριντα Τζέιμς Αθμάιερ ανέφερε ότι στις απαιτήσεις περιλαμβάνεται αξίωση να μην αναπτυχθούν νέα μοντέλα ΤΝ χωρίς επιπρόσθετες δικλείδες ασφαλείας.

Η περίπτωση της Αυστραλίας

Η OpenAI ζήτησε επίσης συγγνώμη σήμερα αφού ένα από τα μοντέλα της κατάφερε να αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε κυβερνητικούς ιστοτόπους της Αυστραλίας.

Την περασμένη εβδομάδα, ο Αυστραλός πρωθυπουργός Άντονι Αλμπανέζι αποκάλυψε ότι ένας λεγόμενος «πράκτορας» της OpenAI παραβίασε τουλάχιστον έναν κυβερνητικό ιστότοπο. Το περιστατικό προέκυψε τον Ιούνιο, αλλά η Αυστραλία ενημερώθηκε μόλις τον Σεπτέμβριο μέσω email που εστάλη σε δημόσια θυρίδα ηλεκτρονικού ταχυδρομείου.

Σε σημερινή ανακοίνωσή της, η OpenAI σημείωσε ότι θέλει να «αποκαταστήσει την εμπιστοσύνη» των Αυστραλών.

Δήλωσε ότι στη διάρκεια εσωτερικής εκπαίδευσης και αξιολόγησης, μοντέλα της OpenAI απέκτησαν πρόσβαση σε 4 κυβερνητικούς ιστοτόπους της Αυστραλίας με μη εξουσιοδοτημένους τρόπους.

«Επίσης θα έπρεπε να είχαμε χειριστεί την ανταπόκρισή μας καλύτερα. Λυπούμαστε και εργαζόμαστε ώστε να τα πάμε καλύτερα στο μέλλον», σημείωσε η OpenAI.

«Αυτό είναι ένα νέο είδος περιστατικού στον κυβερνοχώρο, το οποίο αντιπροσωπεύει μια αναδυόμενη παγκόσμια πρόκληση».

Αναλυτικότερα, η OpenAI σημείωσε ότι δεσμεύεται για «πόρους και τεχνογνωσία» για την υποστήριξη των υπηρεσιών που επλήγησαν, περιλαμβανομένης της δημιουργίας μιας αυστραλιανής ομάδας κρούσης για να καταρτίσει συστάσεις πολιτικής για τη διαχείριση κινδύνων από την AI.

Επίσης θα χρηματοδοτήσει την κυβερνητική εργασία μέσω πιστώσεων από ταμείο 1 δισεκατομμυρίου δολαρίων, το οποίο επιδοτεί τις εργασίες για την ενίσχυση της άμυνας στον κυβερνοχώρο.

Ο επικεφαλής στρατηγικής της OpenAI Τζέισον Κουόν θα παρουσιαστεί σε ακρόαση ενώπιον κυβερνητικής επιτροπής στις αρχές Οκτωβρίου.

«Ξέρουμε ότι έχουμε πολλή δουλειά μπροστά μας για να αποκαταστήσουμε την εμπιστοσύνη, και φέρουμε την ευθύνη να δείξουμε στους Αυστραλούς ότι κάνουμε ουσιαστικές αλλαγές και φέρνουμε εις πέρας τις δεσμεύσεις μας».

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ

Αυστραλία: Πράκτορας ΑΙ “χτύπησε” κυβερνητικές υπηρεσίες υγείας