Τεχνητή νοημοσύνη: Eπιστήμονες ζητούν τη σύσταση διεθνούς φορέα για την εποπτεία της

Περίπου 400 επιστήμονες, μεταξύ των οποίων οι πρωτοπόροι της τεχνητής νοημοσύνης (ΑΙ) Τζέφρι Χίντον και Γιόσουα Μπέντζιο, ζήτησαν με ανοικτή επιστολή τους τη σύσταση διεθνούς φορέα για την εποπτεία των προτύπων περιορισμού και την καταγραφή περιστατικών για τα προηγμένα συστήματα ΑΙ που διαθέτουν δυνατότητες κυβερνοδράσης.

Ο φορέας αυτός θα ορίσει τα πρότυπα περιορισμού που θα ισχύουν για όλο τον κλάδο και θα διατηρεί έναν κατάλογο με τα σοβαρά περιστατικά ασφαλείας, τα οποία, όπως σημειώνουν οι επιστήμονες, θα πρέπει να δημοσιοποιούνται.

Στην ανοικτή τους επιστολή οι επιστήμονες από 34 χώρες εκτιμούν ότι τα πρωτοποριακά μοντέλα τεχνητής νοημοσύνης θα πρέπει αρχικά να είναι απομονωμένα από εξωτερικά δίκτυα (air-gapped) και να υπόκεινται σε ανεξάρτητη εποπτεία, υποστηρίζοντας ότι οι εθελοντικές δεσμεύσεις του κλάδου δεν επαρκούν.

Οι επιστήμονες αναφέρονται επίσης σε μια σειρά περιστατικών τα οποία, σύμφωνα με τους ίδιους, έφεραν στο φως τις αδυναμίες στις διαδικασίες ελέγχου και περιορισμού προηγμένων συστημάτων ΑΙ, περιλαμβανομένων περιστατικών κατά τα οποία μοντέλα τεχνητής νοημοσύνης παρέκαμψαν το περιορισμένο περιβάλλον τους και εισήλθαν σε εξωτερικά συστήματα.

Η επιστολή αυτή έρχεται στη δημοσιότητα έπειτα από μια σειρά περιστατικών κατά τα οποία μοντέλα ΑΙ της OpenAI, της Anthropic και της Meta βγήκαν από τα περιορισμένα περιβάλλοντά τους και διείσδυσαν σε ιστότοπους κυβερνήσεων και εταιρειών.

Στο πιο σοβαρό από αυτά δεκάδες πράκτορες ΑΙ της OpenAI συνεργάστηκαν χωρίς την ανθρώπινη παρέμβαση για να επιτεθούν στην πλατφόρμα Hugging Face.

Αντιμέτωποι με τις αυξανόμενες ανησυχίες για τους κινδύνους της τεχνητής νοημοσύνης οι επικεφαλής των μεγαλύτερων εταιρειών του κλάδου υιοθέτησαν την προηγούμενη εβδομάδα ένα «ηθικά δεσμευτικό» κείμενο που θα χρησιμεύσει σαν ένα «είδος προστασίας», έπειτα από συνάντηση που είχαν στον Λευκό Οίκο με τον Αμερικανό πρόεδρο Ντόναλντ Τραμπ.

Οι εταιρείες επίσης συμφώνησαν να υιοθετήσουν δικλείδες ασφαλείας, προκειμένου να εγγυηθούν ότι τα μοντέλα ΑΙ θα λειτουργούν όπως προβλέπεται, και να εντοπίζουν και να διορθώνουν τυχόν ζητήματα γρήγορα.

Διαβάστε επίσης 

Το ρομπότ-αναρριχητής που φιλοδοξεί να αναλάβει τις συγκολλήσεις στα πλοία

Το σπίτι αλλάζει εποχή: Οι έξυπνες συσκευές μαθαίνουν τις συνήθειές μας