Anthropic: Μπλόκαρε χρήση AI για επικίνδυνη βιολογική έρευνα

Η Anthropic ανακοίνωσε ότι απέτρεψε προσπάθειες κακόβουλης χρήσης των μοντέλων τεχνητής νοημοσύνης της, μεταξύ άλλων για κυβερνοεπιθέσεις, παρακολούθηση και έρευνα που θα μπορούσε να έχει εφαρμογές στην ανάπτυξη βιολογικών όπλων.

Η εταιρεία παρουσίασε την Πέμπτη νέα έκθεση για περιστατικά κακόβουλης χρήσης των συστημάτων της. Πρόκειται για την τρίτη σχετική έκθεση που δημοσιεύει από τον Μάρτιο του 2025.

Μία από τις πιο σοβαρές περιπτώσεις αφορούσε αίτημα προς το Claude για τη σύνταξη πρότασης χρηματοδότησης επιστημονικής έρευνας.

Σύμφωνα με την Anthropic, η έρευνα αφορούσε τον ιό chikungunya και περιλάμβανε μελέτη γενετικών αλλαγών που θα μπορούσαν να επηρεάσουν χαρακτηριστικά του ιού.

Η εταιρεία υποστηρίζει ότι μια τέτοια έρευνα μπορεί να έχει νόμιμες εφαρμογές, όπως η ανάπτυξη εμβολίων και θεραπειών. Παράλληλα, όμως, μπορεί να δημιουργήσει κινδύνους εάν χρησιμοποιηθεί με διαφορετικό σκοπό.

Για τον λόγο αυτό, η Anthropic αναφέρει ότι έχει ενισχύσει τα μέτρα ασφαλείας στα νεότερα μοντέλα της και περιορίζει την πρόσβαση σε ένα ευρύτερο φάσμα ερωτημάτων που αφορούν βιολογική έρευνα διπλής χρήσης.

Η εταιρεία επισημαίνει ότι τα περιστατικά που περιλαμβάνονται στην έκθεση δεν αποτελούν τη συνηθισμένη μορφή χρήσης των μοντέλων της. Τα χαρακτηρίζει ως ορισμένες από τις πιο σημαντικές και νέες περιπτώσεις κακόβουλης δραστηριότητας που εντόπισε.

Κυβερνοεπιθέσεις και πολιτική επιρροή

Η Anthropic αναφέρει επίσης περιστατικά που συνδέονται με κυβερνοεπιθέσεις, spyware και επιχειρήσεις πολιτικής επιρροής.

Σε ορισμένες περιπτώσεις, ομάδες δημιούργησαν εκατοντάδες λογαριασμούς στα social media που έμοιαζαν να ανήκουν σε απλούς χρήστες. Στη συνέχεια χρησιμοποίησαν τους λογαριασμούς για να ενισχύσουν συγκεκριμένες πολιτικές απόψεις.

Η εταιρεία υποστηρίζει ότι εντόπισε και μπλόκαρε τις δραστηριότητες που περιγράφει στην έκθεση. Παράλληλα, μοιράστηκε πληροφορίες με αρμόδιες αρχές και άλλους φορείς του κλάδου.

Η νέα ανησυχία για τα ισχυρότερα μοντέλα

Η Anthropic υποστηρίζει ότι τα παλαιότερα μοντέλα της δεν είχαν την ίδια δυνατότητα να βοηθήσουν έναν έμπειρο χρήστη σε σύνθετη και επικίνδυνη βιολογική έρευνα.

Με τα νεότερα συστήματα, η εταιρεία θεωρεί ότι αυτή η βεβαιότητα δεν υπάρχει πλέον.

Γι’ αυτό και τα μέτρα ασφαλείας έχουν γίνει αυστηρότερα.

Η εξέλιξη έρχεται σε μια περίοδο έντονης συζήτησης για τα όρια της τεχνητής νοημοσύνης. Μόλις μία ημέρα νωρίτερα, ο ερευνητής Jacob Coxon ανακοίνωσε την αποχώρησή του από την Anthropic, εκφράζοντας σοβαρές ανησυχίες για τον τρόπο με τον οποίο αναπτύσσεται η προηγμένη AI.

Ο Coxon υποστήριξε ότι η Anthropic και η OpenAI κινούνται υπερβολικά γρήγορα προς ολοένα ισχυρότερα συστήματα, χωρίς να έχουν λυθεί όλα τα ζητήματα ασφάλειας.

Η Anthropic, από την πλευρά της, υποστηρίζει ότι η δημοσιοποίηση τέτοιων περιστατικών είναι απαραίτητη. Στόχος της είναι, όπως αναφέρει, να βοηθήσει άλλες εταιρείες και τις κυβερνήσεις να αναγνωρίζουν παρόμοιες απειλές και να ενισχύσουν τα μέτρα προστασίας.

Η συζήτηση πλέον δεν αφορά μόνο το τι μπορεί να κάνει η τεχνητή νοημοσύνη. Αφορά και το ποιος μπορεί να προσπαθήσει να τη χρησιμοποιήσει και για ποιο σκοπό.