AI: «Μην ακούτε τους καταστροφόλογους» – Η Ευρώπη απαντά στον πανικό της Σίλικον Βάλεϊ

Την ώρα που οι προειδοποιήσεις για τον πιθανό αφανισμό ανθρωπότητας από την Τεχνητή Νοημοσύνη (ΤΝ) πυκνώνουν, κορυφαίοι ευρωπαίοι ηγέτες του τεχνολογικού κλάδου και ειδικοί στην κυβερνοασφάλεια υψώνουν τη φωνή τους, καλώντας την παγκόσμια κοινότητα να αγνοήσει τις υπερβολές της Σίλικον Βάλεϊ και να επικεντρωθεί στην ουσιαστική οχύρωση των ψηφιακών συστημάτων.



Αυτή η πεζή έκκληση, όπως αποτυπώνεται σε δημοσίευμα του Politico, βρίσκεται στο επίκεντρο μιας όλο και πιο έντονης αντίδρασης εντός της ευρωπαϊκής βιομηχανίας τεχνολογίας απέναντι στον πανικό περί «τέλους της ανθρωπότητας» που καλλιεργείται από τις ΗΠΑ.

«Δεν θα έρθει ο Εξολοθρευτής»

Όλες οι προειδοποιήσεις περί «καταστροφής του κόσμου», υποστηρίζουν τόσο στελέχη όσο και επαγγελματίες του χώρου της κυβερνοασφάλειας, εμποδίζουν τη σκληρή δουλειά που απαιτείται για την ενίσχυση των αμυνών απέναντι στη νέα πραγματικότητα της Τεχνητής Νοημοσύνης.



Εθνικό Σύστημα Διαχείρισης Θαλάσσιας Κυκλοφορίας (VTMIS) και Πληροφόρησης: Με χρηματοδότηση από το ΕΣΠΑ η επέκταση, η αναβάθμιση και ο εκσυγχρονισμός

Οι αμερικανικές εταιρείες που κατασκευάζουν τα πιο προηγμένα μοντέλα AI είναι σε μεγάλο βαθμό υπεύθυνες για την καλλιέργεια του φόβου ότι η ΤΝ θα μπορούσε να οδηγήσει στον αφανισμό του ανθρώπινου γένους.

Οι ανησυχίες έφτασαν στο κατακόρυφο έπειτα από περιστατικά όπως η παραβίαση της πλατφόρμας Hugging Face από αυτόνομους πράκτορες (agents) της OpenAI αυτό το καλοκαίρι.

«Το ΑΙ μπορεί να μας σκοτώσει όλους έως το 2030»: Η ηχηρή παραίτηση ερευνητή της Anthropic και οι αποκαλύψεις για την αυτοβελτιούμενη Τεχνητή Νοημοσύνη

Το περιστατικό αυτό πυροδότησε την προειδοποίηση που απηύθυνε νωρίτερα αυτό το μήνα ο Τζέικομπ Κόξον, πρώην υπάλληλος της Anthropic, ότι η Τεχνητή Νοημοσύνη θα μπορούσε σύντομα «να χακάρει τα πάντα» και «να μας σκοτώσει όλους».

«Δυστυχώς, η συζήτηση έχει διολισθήσει στο ότι “έρχεται ο Εξολοθρευτής” (Terminator)», δήλωσε σχετικά με το τρέχον αφηγημα ο Τζέιμς Γουάιζ, εταίρος στην Balderton Capital και πρόεδρος του κρατικού ταμείου Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου.

«Δεν πιστεύω καθόλου ότι έρχεται ο Εξολοθρευτής».

Αυτοί οι φόβοι βρίσκονται στην κορυφή της ατζέντας των παγκόσμιων ηγετών αυτή την εβδομάδα, με τον πρόεδρο των ΗΠΑ, Ντόναλντ Τραμπ, και τον Κινέζο ηγέτη Σι Τζινπίνγκ να συναντώνται σε σύνοδο κορυφής την Πέμπτη, αφού η ασφάλεια της Τεχνητής Νοημοσύνης συζητήθηκε στη Γενική Συνέλευση των Ηνωμένων Εθνών και σε ειδική συνεδρίαση της G7.

Ηγέτες από 22 έθνη υιοθέτησαν τη Δευτέρα μια διακήρυξη στην οποία αναφέρεται ότι η Τεχνητή Νοημοσύνη πρέπει να παραμείνει υπό ανθρώπινη καθοδήγηση, εποπτεία και έλεγχο, προτείνοντας τη δημιουργία ενός παγκόσμιου εποπτικού καθεστώτος.

Ωστόσο, για όσους είναι επιφορτισμένοι με την υπεράσπιση των υπολογιστικών συστημάτων, η αποθαρρυντική «χορωδία» προειδοποιήσεων σχετικά με τα προηγμένα μοντέλα Τεχνητής Νοημοσύνης —και η πολιτική σπουδή να δοθούν απαντήσεις— εγκυμονεί τον κίνδυνο εφαρμογής της λάθος λύσης στο λάθος πρόβλημα.

«Θα έπρεπε να αφιερώνουμε περισσότερο χρόνο στο να κάνουμε τους κανόνες και τα πρότυπα που έχουμε να λειτουργούν σε κλίμακα, και λιγότερο χρόνο εστιάζοντας σε φόβους για θεωρητικούς κινδύνους ή δημοσιεύματα από τη φούσκα καταστροφολογίας της Σίλικον Βάλεϊ», δήλωσε ο Αλεξάντρου Βόικα, επικεφαλής πολιτικής στην εταιρεία Τεχνητής Νοημοσύνης Synthesia με έδρα το Ηνωμένο Βασίλειο.

«Πολλά αφηγήματα τρίτων, ακόμη και τα αφηγήματα των ίδιων των εργαστηρίων αιχμής, παραλείπουν εντελώς να λάβουν υπόψη τη συμπεριφορά και τις δυνατότητες [των χάκερ] στις θεωρίες καταστροφής τους», δήλωσε ο Μάρκους Χάτσινς, ερευνητής απειλών στον κυβερνοχώρο και πρώην χάκερ, γνωστός για την αναχαίτιση της τεράστιας επίθεσης ransomware WannaCry το 2017.

Επιστροφή στην πραγματικότητα

Ένα πρόσφατο παράδειγμα φωνών από τον χώρο της Τεχνητής Νοημοσύνης που εκτιμάται ότι αστόχησαν, είναι η προειδοποίηση του διευθύνοντος συμβούλου της Anthropic, Ντάριο Αμοντέι, ότι ένας πράκτορας AI θα μπορούσε να καταλάβει το διαδίκτυο.

Ο ισχυρισμός αυτός, που αναπαράχθηκε ευρέως, διακωμωδήθηκε και καταρρίφθηκε στους κύκλους της κυβερνοασφάλειας, σημειώνει το Politico.

Οι σκεπτικιστές επισημαίνουν επίσης τις συνεχείς αναφορές στο περιστατικό της Hugging Face —το οποίο επικαλέστηκε ακόμη και η πρόεδρος της Ευρωπαϊκής Επιτροπής, Ούρσουλα φον ντερ Λάιεν, στην ομιλία της για την Κατάσταση της Ένωσης— ως χαρακτηριστικές της υστερίας σχετικά με τα υποτιθέμενα ανεξέλεγκτα μοντέλα Τεχνητής Νοημοσύνης.

Αντί να απεικονίζει ένα ισχυρό μοντέλο AI που σπάει τα δεσμά του, η επίθεση στο Hugging Face προσφέρει ένα πολύ πιο πεζό δίδαγμα: ότι η OpenAI απέτυχε να περιορίσει σωστά το μοντέλο σε ένα τεχνικό περιβάλλον γνωστό ως «sandbox».

«Πολλά μπορούν να επιλυθούν αν αυτές οι εταιρείες ενεργήσουν απλώς λίγο πιο υπεύθυνα», δήλωσε ο Πιμ ντε Βίτε του ολλανδικού εργαστηρίου AI General Intuition, το οποίο αναπτύσσει μοντέλα με επίγνωση του περιβάλλοντός τους.

Ο Χάτσινς δήλωσε ότι η OpenAI γνώριζε πως το μοντέλο ήταν πολύ καλό στην εκμετάλλευση σφαλμάτων λογισμικού, και παρ’ όλα αυτά το προκάλεσε να κάνει ακριβώς αυτό σε μια δοκιμή που διεξήχθη με μειωμένες δικλείδες ασφαλείας.

«Ωστόσο, ούτε το περιόρισαν σωστά χτίζοντας αρκετά εμπόδια μεταξύ των πρακτόρων και του ανοιχτού διαδικτύου, ούτε διαχώρισαν επαρκώς τους πράκτορες μεταξύ τους, ούτε παρακολουθούσαν τα συστήματα αρκετά στενά ώστε να παρεμβούν», δήλωσε.

Η OpenAI αρνήθηκε να σχολιάσει, παραπέμποντας στην έκθεσή της για το περιστατικό, ενώ η Anthropic δεν ανταποκρίθηκε σε αίτημα για σχολιασμό.

Κόπωση από την καταστροφολογία

Ο Μαξ Γιούνεστραντ, συνιδρυτής και διευθύνων σύμβουλος της Legora, μιας αμερικανο-σουηδικής εταιρείας που αναπτύσσει εργαλεία AI για δικηγόρους, δήλωσε σχετικά με τα περιστατικά χάκινγκ: «Ένα μεγάλο μέρος όλου αυτού είναι μάρκετινγκ».

Παρ’ όλα αυτά, η θωράκιση των λειτουργιών της Legora απέναντι σε επιθέσεις χάκινγκ που τροφοδοτούνται από AI αποτελεί κορυφαία προτεραιότητα για τον Γιούνεστραντ, ο οποίος τόνισε ότι η πρόσβαση στα πιο πρόσφατα και προηγμένα αμερικανικά μοντέλα είναι καθοριστική.

«Η ασφάλεια προηγείται ακόμη και των νέων λειτουργιών».

Πράγματι, ακόμη και οι επικριτές και οι σκεπτικιστές του αφηγήματος της καταστροφολογίας συμφωνούν ότι τα προηγμένα μοντέλα AI είναι μοναδικά ισχυρά εργαλεία στον κυβερνοχώρο, καθώς και ένας στρατηγικός πόρος στον οποίο η Ευρώπη πρέπει να έχει πρόσβαση.

Επιπλέον, ελάχιστοι αρνούνται ότι οι τρέχουσες δυνατότητες AI που αναπτύσσονται βρίσκονται σε ένα εντελώς νέο επίπεδο, με τις πιθανές επιπτώσεις τους —θετικές και αρνητικές— να είναι δύσκολο να προβλεφθούν.

Ωστόσο, οι επικριτές του σημερινού αφηγήματος υποστηρίζουν ότι η υπερβολή γύρω από τις δυνατότητες της Τεχνητής Νοημοσύνης ή την έκταση στην οποία οι χάκερ τις χρησιμοποιούν —καθώς και το παιχνίδι εικασιών για θεωρητικά αποτελέσματα— δεν βοηθούν, την ώρα που πραγματικές κυβερνοεπιθέσεις ήδη διαταράσσουν κρίσιμες υποδομές.

Το οπλοστάσιο των αμυντικών εργαλείων και τεχνικών, σημειώνουν, είναι ήδη καλά εδραιωμένο.

Η εστίαση σε εξωφρενικά ή αμφίβολα σενάρια όχι μόνο παραγκωνίζει πιο πιεστικά ζητήματα, αλλά δεν βοηθά ούτε στο τρέχον έργο, υποστήριξε ο ερευνητής απειλών Χάτσινς.

«Η καταστροφολογία είναι πολύ αντιπαραγωγική», δήλωσε, επικαλούμενος την «κόπωση από την καταστροφολογία» που εμποδίζει τη λήψη κρίσιμων μέτρων, όπως οι ενημερώσεις ασφαλείας που θα μπορούσαν πράγματι να βοηθήσουν.

Η ομάδα που ζητεί «προσγείωση στην πραγματικότητα» έχει υποστήριξη εντός του ευρωπαϊκού κατεστημένου κυβερνοασφάλειας, συμπεριλαμβανομένου του Βενσάν Στρουμπέλ, επικεφαλής της γαλλικής υπηρεσίας κυβερνοασφάλειας ANSSI.

«Όπως κάθε μεγάλη αλλαγή, η Τεχνητή Νοημοσύνη δημιουργεί σημαντικούς κινδύνους και τεράστιες ευκαιρίες. Η διαχείριση αυτών των κινδύνων και η αξιοποίηση αυτών των ευκαιριών θα απαιτήσει πολλή σοβαρή δουλειά, υπό σοβαρό χρονικό περιορισμό», έγραψε πρόσφατα στο Linkedin.



«Αυτό που δεν απαιτεί, ωστόσο, είναι η πυροδότηση ενός νέου πανικού κάθε δεύτερη εβδομάδα, επειδή γενικά δεν καταφέρνεις πολλά τρέχοντας γύρω-γύρω, κουνώντας τα χέρια σου ή/και ουρλιάζοντας για την κυβερνο-αποκάλυψη».

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ:

Πέτυχε απίστευτο ρεκόρ πάνω από τον Δούναβη: Περπάτησε σε ιμάντα επί 12 ώρες (βίντεο)

Τουρκία: Σεισμός 5,4 Ρίχτερ - Στην περιοχή Σανλιούρφα το επίκεντρο