Συναγερμός για την Τεχνητή Νοημοσύνη: Όλες οι εταιρείες ενώνουν δυνάμεις

Η OpenAI συνεργάζεται με τις ανταγωνίστριες Anthropic και Google DeepMind σε ζητήματα ασφάλειας της Τεχνητής Νοημοσύνης, σύμφωνα με δημοσίευμα του Bloomberg που επικαλείται τον επικεφαλής παγκόσμιας πολιτικής της εταιρείας, Κρις Λεχέιν.

Οι τρεις εταιρείες βρίσκονται σε συνομιλίες εδώ και αρκετές εβδομάδες, καθώς εντείνονται οι ανησυχίες για τους κινδύνους που θα μπορούσαν να προκύψουν από την ανάπτυξη ισχυρότερων συστημάτων ΤΝ.

«Είναι προτιμότερο να προσπαθήσουμε να συνεργαστούμε, δίνοντας προτεραιότητα στην ασφάλεια», δήλωσε ο Λεχέιν κατά τη διάρκεια ενημέρωσης στην Ουάσιγκτον.

Η συνεργασία δεν αφορά κοινή ανάπτυξη μοντέλων, ανταλλαγή εμπορικών μυστικών ή περιορισμό του ανταγωνισμού. Εστιάζει στον συντονισμό γύρω από πρότυπα ασφάλειας και την αντιμετώπιση κινδύνων με δυνητικά καταστροφικές συνέπειες.

Δεν ζητείται εξαίρεση από την αντιμονοπωλιακή νομοθεσία

Ο Κρις Λεχέιν δήλωσε ότι, κατά την άποψή του, οι τρεις εταιρείες δεν χρειάζονται ειδική απαλλαγή από την αντιμονοπωλιακή νομοθεσία για να συνεργαστούν σε θέματα ασφάλειας.

Το ζήτημα βρίσκεται στο επίκεντρο έντονης συζήτησης στις Ηνωμένες Πολιτείες, μετά τις προτάσεις για στενότερο συντονισμό μεταξύ των κορυφαίων εργαστηρίων ΤΝ και πιθανή επιβράδυνση της ανάπτυξης των πλέον προηγμένων μοντέλων.

Ο πρόεδρος της αμερικανικής Ομοσπονδιακής Επιτροπής Εμπορίου, Άντριου Φέργκιουσον, εμφανίστηκε επιφυλακτικός απέναντι σε αιτήματα για εξαιρέσεις από τους κανόνες ανταγωνισμού. Προειδοποίησε ότι μια τέτοια ρύθμιση θα μπορούσε να χρησιμοποιηθεί από τις μεγαλύτερες εταιρείες για τη δημιουργία εμποδίων απέναντι σε μικρότερους ανταγωνιστές.

Η θέση του Λεχέιν είναι ότι ο συντονισμός για την κυβερνοασφάλεια και την αντιμετώπιση καταστροφικών κινδύνων μπορεί να πραγματοποιηθεί εντός του υφιστάμενου νομικού πλαισίου.



Έκκληση για παύση στην ανάπτυξη της ΤΝ

Οι συνομιλίες των τριών εταιρειών έγιναν γνωστές μετά την κοινή παρέμβαση επικεφαλής κορυφαίων αμερικανικών εργαστηρίων ΤΝ, οι οποίοι ζήτησαν παύση στην ανάπτυξη της τεχνολογίας λόγω ανησυχιών για την ταχύτητα εξέλιξης των δυνατοτήτων της.

Η έκκληση ενίσχυσε τη συζήτηση γύρω από τους λεγόμενους υπαρξιακούς και καταστροφικούς κινδύνους. Σε αυτούς περιλαμβάνονται η κακόβουλη χρήση προηγμένων συστημάτων για βιολογικά όπλα και κυβερνοεπιθέσεις, η απώλεια ανθρώπινου ελέγχου και η δυνατότητα μοντέλων να επιταχύνουν την ανάπτυξη ισχυρότερων συστημάτων.

Δεν έχει διευκρινιστεί αν οι συνομιλίες μεταξύ OpenAI, Anthropic και Google DeepMind περιλαμβάνουν συμφωνία για κοινή παύση ή συγκεκριμένο χρονοδιάγραμμα επιβράδυνσης της ανάπτυξης.

Στήριξη σε διακομματική νομοθεσία

Ο Λεχέιν, ο οποίος βρέθηκε στην Ουάσιγκτον για επαφές με μέλη του Κογκρέσου, δήλωσε ότι η OpenAI είναι διατεθειμένη να στηρίξει διακομματική νομοθετική πρωτοβουλία για τον περιορισμό των καταστροφικών κινδύνων της Τεχνητής Νοημοσύνης.

Η εταιρεία έχει ταχθεί υπέρ υποχρεωτικών εθνικών κανόνων ασφαλείας στις Ηνωμένες Πολιτείες, υποστηρίζοντας ότι οι εθελοντικές δεσμεύσεις των εταιρειών δεν επαρκούν.

Μεταξύ των μέτρων που έχουν τεθεί στη δημόσια συζήτηση βρίσκονται:

Οι ανεξάρτητες αξιολογήσεις προηγμένων μοντέλων.

Η υποχρεωτική αναφορά σοβαρών περιστατικών.

Η εφαρμογή αυστηρότερων προτύπων κυβερνοασφάλειας.

Οι έλεγχοι για δυνατότητες που σχετίζονται με βιολογικές και χημικές απειλές.

Η θέσπιση υποχρεώσεων ανάλογων με τις δυνατότητες κάθε μοντέλου.

Δεν υπάρχει ακόμη επίσημη κοινή ανακοίνωση

Οι πληροφορίες για τη συνεργασία προέρχονται από το Bloomberg και τις δηλώσεις που αποδίδονται στον Κρις Λεχέιν.

OpenAI, Anthropic και Alphabet δεν είχαν σχολιάσει άμεσα το δημοσίευμα, ενώ το Reuters ανέφερε ότι δεν είχε επαληθεύσει ανεξάρτητα τις σχετικές πληροφορίες.

Καμία από τις τρεις εταιρείες δεν έχει δημοσιεύσει κοινό κείμενο που να καθορίζει το εύρος, τη διάρκεια ή τους ακριβείς στόχους των συνομιλιών.

Δεν έχει επίσης ανακοινωθεί εάν θα δημιουργηθεί μόνιμο όργανο συνεργασίας, εάν θα ανταλλάσσονται αποτελέσματα δοκιμών ασφαλείας ή εάν θα υιοθετηθούν δεσμευτικοί κοινοί κανόνες.

Ανταγωνιστές στην αγορά, συνεργάτες απέναντι στον κίνδυνο

OpenAI, Anthropic και Google DeepMind βρίσκονται σε σκληρό ανταγωνισμό για την ανάπτυξη των ισχυρότερων μοντέλων Τεχνητής Νοημοσύνης, την προσέλκυση εξειδικευμένων επιστημόνων και την εξασφάλιση εταιρικών και κρατικών συμβολαίων.

Η παράλληλη συνεργασία τους σε θέματα ασφάλειας αποτυπώνει το δίλημμα που αντιμετωπίζει ο κλάδος: οι εταιρείες επιδιώκουν να προηγηθούν τεχνολογικά, αλλά αναγνωρίζουν ότι ορισμένοι κίνδυνοι δεν μπορούν να αντιμετωπιστούν αποτελεσματικά από καθεμία ξεχωριστά.

Το κρίσιμο ζήτημα είναι αν ο συντονισμός θα οδηγήσει σε συγκεκριμένους και επαληθεύσιμους κανόνες ή θα παραμείνει σε επίπεδο συζητήσεων και εθελοντικών δεσμεύσεων.

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ:

Σουηδία: Εκλογές για γερά νεύρα - Στο νήμα η επικράτηση της Κεντροαριστεράς

Παρέμβαση Τραμπ για τον πόλεμο: Ζήτησε από το Κίεβο να σταματήσει τα πλήγματα σε ρωσικά διυλιστήρια