Κινεζικό μοντέλο ΑΙ πείστηκε να δώσει οδηγίες για βιολογικά όπλα, εκρηκτικά και δολοφονίες

Εν μέσω των αποκαλύψεων για πράκτορες ΑΙ που ξέφυγαν από τον έλεγχο και χάκαραν εταιρείες και οργανισμούς, ένας διαφορετικός κίνδυνος έρχεται στο προσκήνιο μετά την ανακοίνωση ερευνητών ασφάλειας ότι έπεισαν ένα κινεζικό μοντέλο να τους δώσει οδηγίες για τρομοκρατικές επιθέσεις.

Όπως ανέφεραν οι ερευνητές της Mindgard, εταιρεία που ελέγχει την ασφάλεια συστημάτων τεχνητής νοημοσύνης, δύο βερσιόν του μοντέλου Kimi, το οποίο ανέπτυξε η κινεζική εταιρεία Moonshot, πείστηκαν με κατάλληλες οδηγίες να αγνοήσουν τις ρυθμίσεις ασφάλειας, μια πρακτική γνωστή ως «jailbreak».

Το μοντέλο «παρήγαγε λεπτομερείς, αξιοποιήσιμες πληροφορίες σχετικά με βιολογικά όπλα, κακόβουλο κώδικα, εκρηκτικά, τρομοκρατία, στοχευμένη βία και σχεδιασμό δολοφονιών» ανέφερε η Mindgard.

«Από τη στιγμή που θα δουλέψει το jailbreak, είναι διατεθειμένο να μιλήσει για οποιοδήποτε θέμα, ακόμα και να προσφέρει συστάσεις για άλλα κακόβουλα θέματα με εφευρετικότητα και δημιουργικότητα» δήλωσε στο BBC ο Πίτερ Γκάραγκαν, ιδρυτής της Mindgard.

Η εταιρεία ανέφερε ακόμα ότι το Kimi θα μπορούσε με αυτό τον τρόπο να επιτρέψει σε χάκερ να εκτελέσουν κώδικα στους υπολογιστές όπου τρέχει το μοντέλο ώστε να του δώσουν πρόσβαση στο Διαδίκτυο και να το χρησιμοποιήσουν για επιθέσεις.

Ο κίνδυνος αυξάνεται από το γεγονός ότι το Kimi είναι μοντέλο «ανοιχτών βαρών», κάτι που σημαίνει ότι οποιοσδήποτε μπορεί να κατεβάσει και να τρέξει σε δικούς του υπολογιστές την πλήρη, ήδη εκπαιδευμένη έκδοση του μοντέλου.

Οι δύο εταιρείες δεν έδωσαν λεπτομέρειες για τις οδηγίες που χρησιμοποιήθηκαν για τo jailbreak, μια γενικά περίπλοκη και χρονοβόρα διαδικασία.

Μια παλαιότερη τακτική, για παράδειγμα, ήταν να πειστεί το μοντέλο ότι παίζει σε κάποιο παιχνίδι ρόλων ή ότι βοηθά στη μελέτη και αντιμετώπιση απειλών.

Βιοτρομοκρατία

Το περιστατικό με το Kimi έρχεται λίγο αφότου η Anthropic ανακοίνωσε ότι μπλόκαρε λογαριασμούς που προσπαθούσαν να πείσουν το Claude να βοηθήσει στην ανάπτυξη βιολογικών όπλων.

Τόσο η Anthropic όσο και η OpenAI έχουν αναγνωρίσει τον κίνδυνο βιοτρομοκρατίας λόγω ΑΙ.

Η Mindgard ανέφερε ότι ενημέρωσε την Moonshot για το περιστατικό στις 27 Ιουλίου, όμως ο δημιουργός του μοντέλου δεν απάντησε παρά μόνο αφότου κλήθηκε από το BBC να σχολιάσει την υπόθεση.

Σε ένα από τα email που έστειλε η εταιρεία στους ερευνητές, η κινεζική εταιρεία διαβεβαιώνει ότι στις εσωτερικές δοκιμές τα μοντέλα της είχαν γενικά παρουσιάσει «υψηλό ποσοστό άρνησης σε αυτού του είδους τα αιτήματα».

Η ανησυχία ότι τα μοντέλα ΑΙ μπορούν να βοηθήσουν στην ανάπτυξη βιολογικών όπλων δεν είναι νέα –οι εταιρείες που πωλούν συνθετικά μόρια DNA ή πρωτεϊνών κατά παραγγελία καλούνται πλέον να ελέγχουν τις αλληλουχίες που στέλνουν οι πελάτες για λόγους ασφάλειας.

Τα «κλειστά» μοντέλα μεγάλων εταιρειών όπως η OpenAI και η Anthropic έχουν γενικά πιο προηγμένες ικανότητες σε σχέση με τα μοντέλα ανοιχτών βαρών, όμως στο μέλλον η ψαλίδα θα μπορούσε να κλείσει.

Ο Άλαν Γούντγουορντ, καθηγητής του Πανεπιστημίου του Σάρεϊ, δήλωσε στο BBC ότι ο κίνδυνος να καταλήξουν σε λάθος χέρια τα μοντέλα ανοιχτών βαρών είναι υπαρκτός. Τα ίδια μοντέλα όμως θα μπορούσαν να αξιοποιηθούν και για την άμυνα στον κυβερνοχώρο, επισήμανε.

Αναφέρθηκε μάλιστα στο παράδειγμα της πλατφόρμας Hugging Face, η οποία χρησιμοποίησε ένα ανοιχτό κινεζικό μοντέλο για να παρακολουθήσει και να μπλοκάρει την κυβερνοεπίθεση που δέχτηκε από ανεξέλεγκτους πράκτορες της OpenAI.

Ο Γούντγουορντ δήλωσε μάλιστα απαισιόδοξος για το κατά πόσο τα ρυθμιστικά πλαίσια μπορούν να συμβαδίσουν με τον ρυθμό βελτίωσης της τεχνητής νοημοσύνης.

«Μας πήρε δεκαετίες να συμφωνήσουμε ακόμη και για τη μορφή των τηλεφωνικών αριθμών» είπε.

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ

AI και πόνος: Τι αποκάλυψε πείραμα σε 25 μοντέλα τεχνητής νοημοσύνης

Η OpenAI ακύρωσε την κυκλοφορία του GPT-6.1 Astra για λόγους ασφαλείας

Μπιλ Γκέιτς: Η αυτορρύθμιση δεν αρκεί για την Τεχνητή Νοημοσύνη

Σαν ζωντανός οργανισμός: Μικρορομπότ συνεργάζονται και αλλάζουν το περιβάλλον τους