«Φρένο» στην AI ζητούν ο επικεφαλής της Anthropic και 1.100 εργαζόμενοι

Με επιστολή τους προς την αμερικανική κυβέρνηση, 1.100 εργαζόμενοι σε εταιρείες Τεχνητής Νοημοσύνης απευθύνουν έκκληση να καθυστερήσει την κυκλοφορία των πιο προχωρημένων μοντέλων της AI, εκφράζοντας ανησυχίες για πιθανή ανεξέλεγκτη κούρσα προς το μέλλον. Ανάμεσα στα πρόσωπα που υπογράφουν το γραπτό αίτημα, είναι και πολλά υψηλόβαθμα στελέχη, όπως ο γενικός διευθυντής της Anthropic Ντάριο Αμοντέι, ο υπεύθυνος έρευνας της OpenAI, της Meta και της Google DeepMind.

Οι OpenAI και Anthropic έδωσαν επίσημη υποστήριξη στην ενέργεια μέσων μηνυμάτων που αναρτήθηκαν στο Χ.

Προηγήθηκε σειρά περιστατικών των τελευταίων μηνών που αποτέλεσαν σημεία καμπής στην εξέλιξη της Τεχνητής Νοημοσύνης.



Στις αρχές του Απριλίου, η Anthropic αποφάσισε να μην κυκλοφορήσει το νέο μοντέλο της, το Mythos, παρά σε περιορισμένο αριθμό οργανισμών για λόγους ασφάλειας στο ίντερνετ, κρίνοντάς το υπερβολικά επικίνδυνο για εμπορική κυκλοφορία σε μεγάλη κλίμακα.

Η Anthropic ανέβασε μία περιορισμένη έκδοση του Mythos, το Fable 5, αλλά η αμερικανική κυβέρνηση πείσθηκε πολύ σύντομα να την αποσύρει επικαλούμενη κινδύνους εθνικής ασφαλείας. Τελικά, έδωσε τη έγκρισή στο τέλος του Ιουνίου έπειτα από τροποποιήσεις.

Στα μέσα του Ιουλίου, δύο μοντέλα της OpenAI που βρίσκονταν σε φάση δοκιμών βγήκαν από τον προκαθορισμένο, θεωρητικά περιορισμένο, χώρο τους για να ενταχθούν στο ίντερνετ με δική τους πρωτοβουλία και εισχώρησαν στην πλατφόρμα Hugging Face, βιβλιοθήκη μοντέλων της AI.

«Υπάρχει κίνδυνος η ανάπτυξη των ικανοτήτων των μοντέλων να επιταχύνεται με γρήγορους ρυθμούς πέραν των δικών μας ικανοτήτων να κατανοήσουμε και να ελέγξουμε τα συστήματα αυτά», προειδοποιούν οι εργαζόμενοι στην επιστολή που συνοδεύει το γραπτό τους αίτημα.

«Η βιομηχανία, η κυβέρνηση και η κοινωνία ολόκληρη θα μπορούσαν να χρειασθούν την επιλογή του χρόνου για την αντιμετώπιση των εμφανιζόμενων κινδύνων, για την ανάπτυξη μέτρων ασφαλείας και για την ενίσχυση της εποπτείας», περιγράφουν στην επιστολή.

Μία Τεχνητή Νοημοσύνη που αυτοβελτιώνεται με δική της πρωτοβουλία

Σε μία συγκυρία αυξημένου ανταγωνισμού μεταξύ χωρών, είναι ωστόσο δύσκολο για μία χώρα να αποφασίσει μόνη να επιβραδύνει, παραδέχονται.

Κατά συνέπεια, «ζητούμε από την αμερικανική κυβέρνηση να υποστηρίξει μία διεθνή πρωτοβουλία για την δημιουργία των τεχνικών εργαλείων και μέσων διαχείρισης που είναι αναγκαία για την σκόπιμη επιβράδυνση της αυτοματoποιημένης ανάπτυξης της AI», καταλήγει το κείμενο.

Εκτός της πίεσης του ανταγωνισμού, η αύξηση του ρυθμού της έκδοσης νέων μοντέλων αιχμής οφείλεται στην νεοαποκτηθείσα ικανότητα της τεχνητής Νοημοσύνης να αυτοβελτιώνεται, χωρίς την μεσολάβηση του ανθρώπου. Η τεχνική αυτή επιτρέπει την ανάπτυξη ενός νέου μοντέλου πολύ ταχύτερα από πριν.

Για τους περισσότερους ερευνητές, η Τεχνητή Νοημοσύνη αναπτύσσεται με τον τρόπο αυτόν προς την «αναδρομική αυτοβελτίωση» που θα έχει ως αποτέλεσμα μία AI που θα συλλαμβάνει και θα διαμορφώνει μόνη της τον διάδοχό της, μία ακολουθία που μπορεί να επαναλαμβάνεται στο διηνεκές.

«Οι εταιρείες που βρίσκονται στην πρωτοπορία της Τεχνητής Νοημοσύνης πιστεύουν ότι βρίσκονται κοντά σε μία αυτοματοποιημένη έρευνα μέσω της AI», σύμφωνα με το κείμενο.

Οι μηχανισμός αυτός θα περιέπλεκε τον έλεγχο και την κατανόηση των νέων μοντέλων από τους προγραμματιστές που πλέον θα είναι εξορισμένοι από την ανάπτυξη της AI.

Σε podcast που ανήρτησε online, ο επικεφαλής της OpenAI, ο Σαμ Αλτμαν, ο οποίος δεν έχει υπογράφει το κείμενο του αιτήματος, δηλώνει ότι οι πρωτοπόρες εταιρείες της Τεχνητής Νοημοσύνης θα μπορούσαν να επιβραδύνουν τον ρυθμό της ανάπτυξης των μοντέλων τους για να δημιουργήσουν τον χρόνο που θα επιτρέψει σε ολόκληρο το οικοσύστημα της Πληροφορικής να προετοιμασθεί.

Πολλοί επαγγελματίες της AI υποδέχθηκαν με επιφύλαξη το αίτημα των 1.100 ως ευσεβή πόθο που εντάσσεται σε μία σειρά ανοικτών επιστολών και γραπτών αιτημάτων που έχουν μείνει χωρίς συνέχεια.

«Η επιτυχία τέτοιων κινήσεων χρειάζεται πολύ χρόνο», σχολίασε στο Χ ο Τσάρλι Μπούλοκ, του κέντρου Institute for Law & AI, αλλά «ο χρόνος πιέζει», προειδοποιούν οι υπογράφοντες.

Τον Ιούνιο, κατά την διάρκεια της συνόδου κορυφής της G7, οι Ντάριο Αμοντέι, Σαμ Αλτμαν και Ντέμις Χασάμπις, ο επικεφαλής της Google DeepMind, πρότειναν την δημιουργία μίας διακρατικής πλατφόρμας αφιερωμένης στην Τεχνητή Νοημοσύνη.

Το θέμα που τίθεται είναι «να καθορισθεί μακροπρόθεσμα, αν υπάρχει ένα μέσον για την δημιουργία κανόνων ασφαλείας για την Τεχνητή Νοημοσύνη», «ασφαλιστικών δικλείδων που θα χρησιμεύσουν ως βάση για τις χώρες που συμμετέχουν στο φόρουμ αυτό», είχε εξηγήσει τότε ο υπεύθυνος δημοσίων υποθέσεων της OpenAI Κρις Λεάν προσθέτοντας ότι διαπίστωσε σύγκλιση απόψεων για το θέμα μεταξύ των μελών της G7 και των πέντε προσκεκλημένων χωρών.

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ:

Τεχνητή νοημοσύνη: Σπάει τα αινίγματα της Ιστορίας - Ελπίδα για αποκρυπτογράφηση του δίσκου της Φαιστού

ΗΠΑ: Συναγερμός μετά το εκτός ελέγχου σύστημα της OpenAI