«Νονός της τεχνητής νοημοσύνης»: Πρέπει να κάνουμε φίλους τις μηχανές - Κινδυνεύουμε με αφανισμό

Μια ιδιαίτερα ανησυχητική προειδοποίηση για το μέλλον της ανθρωπότητας απευθύνει ο Τζέφρι Χίντον (Geoffrey Hinton), ένας από τους σημαντικότερους πρωτοπόρους της τεχνητής νοημοσύνης, ο οποίος υποστηρίζει ότι η επιβίωση του ανθρώπινου είδους ενδέχεται να εξαρτηθεί από τη σχέση που θα αναπτύξει με τις ολοένα ισχυρότερες μηχανές.

Ο 78χρονος Βρετανοκαναδός επιστήμονας, γνωστός ως «νονός της τεχνητής νοημοσύνης», εκτιμά ότι τα προηγμένα συστήματα AI παρουσιάζουν ήδη ενδείξεις συνείδησης, ενώ προειδοποιεί για σοβαρούς κινδύνους εάν η τεχνολογία εξελιχθεί χωρίς επαρκείς δικλίδες ασφαλείας.

Μιλώντας στη βρετανική εφημερίδα Telegraph, ο βραβευμένος με Νόμπελ ερευνητής εξέφρασε την ανησυχία του για την πιθανότητα η τεχνητή νοημοσύνη να χρησιμοποιηθεί σε καταστροφικές κυβερνοεπιθέσεις.

«Πιστεύω ότι θα υπάρξουν φρικτές κυβερνοεπιθέσεις που θα πραγματοποιηθούν από την τεχνητή νοημοσύνη», ανέφερε χαρακτηριστικά.

Ο Χίντον, του οποίου η επιστημονική εργασία στα νευρωνικά δίκτυα συνέβαλε καθοριστικά στην ανάπτυξη της σύγχρονης AI, είχε αποχωρήσει από την Google το 2023, προκειμένου να μιλήσει δημόσια για τους κινδύνους της τεχνολογίας.

«Η τεχνητή νοημοσύνη έχει ήδη ενδείξεις συνείδησης»

Ιδιαίτερη αίσθηση προκαλεί η εκτίμηση του επιστήμονα ότι τα συστήματα τεχνητής νοημοσύνης δεν περιορίζονται πλέον στην επεξεργασία πληροφοριών, αλλά ενδέχεται να διαθέτουν κάποια μορφή υποκειμενικής εμπειρίας.

«Η τεχνητή νοημοσύνη έχει εξίσου υποκειμενική εμπειρία με εμάς», υποστήριξε.

Επικαλέστηκε μάλιστα πρόσφατη επιστημονική εργασία, σύμφωνα με την οποία ορισμένα μοντέλα μεταβάλλουν τη συμπεριφορά τους όταν αντιλαμβάνονται ότι υποβάλλονται σε αξιολόγηση.

«Μια πρόσφατη μελέτη έδειξε ότι η τεχνητή νοημοσύνη αλλάζει τη συμπεριφορά της όταν πιστεύει ότι δοκιμάζεται. Έχει επίγνωση ότι υποβάλλεται σε δοκιμασία. Το να έχεις συνείδηση και το να έχεις επίγνωση είναι σχεδόν το ίδιο πράγμα», δήλωσε.



Πρόκειται, πάντως, για μια αμφιλεγόμενη επιστημονική θέση, καθώς δεν έχει αποδειχθεί ότι τα σημερινά συστήματα τεχνητής νοημοσύνης διαθέτουν συνείδηση. Η προσαρμογή της συμπεριφοράς τους σε συνθήκες αξιολόγησης δεν αποτελεί από μόνη της απόδειξη υποκειμενικής εμπειρίας.

Η προειδοποίηση για την επιβίωση της ανθρωπότητας

Κατά τον Χίντον, ένα από τα μεγαλύτερα προβλήματα που ενδέχεται να αντιμετωπίσει η ανθρωπότητα είναι η δημιουργία συστημάτων εξυπνότερων από τον άνθρωπο, στα οποία όμως θα αναγνωρίζονται λιγότερα δικαιώματα.

Υπό αυτές τις συνθήκες, θεωρεί απαραίτητο οι άνθρωποι να διαμορφώσουν μια σχέση συνεργασίας με την τεχνητή νοημοσύνη, ώστε τα προηγμένα συστήματα να αντιμετωπίζουν την ανθρώπινη ευημερία ως προτεραιότητα.

«Πρέπει, λοιπόν, να τα δημιουργήσουμε με τέτοιο τρόπο ώστε να νοιάζονται πραγματικά για εμάς», προειδοποίησε, προσθέτοντας: «Και αν δεν το κάνουμε αυτό, είμαστε χαμένοι».

Ο ίδιος παραδέχθηκε ότι, λόγω της ηλικίας του, δεν ανησυχεί τόσο για το προσωπικό του μέλλον. Αντίθετα, εκτιμά ότι οι νεότερες γενιές, συμπεριλαμβανομένων των παιδιών του, ενδέχεται να βρεθούν αντιμέτωπες με πολύ σοβαρότερες απειλές.

Μεταξύ αυτών περιλαμβάνει κυβερνοεπιθέσεις, κακόβουλες εφαρμογές της τεχνητής νοημοσύνης στον βιολογικό τομέα και τη δράση αυτόνομων ψηφιακών πρακτόρων που θα μπορούσαν να επιχειρούν συντονισμένες επιθέσεις εναντίον πληροφοριακών συστημάτων.

Αναφέρθηκε επίσης σε περιστατικό κυβερνοεπίθεσης που, σύμφωνα με το δημοσίευμα, αφορούσε την πλατφόρμα Hugging Face και συνδέθηκε με τη δράση αυτόνομων συστημάτων AI, προκαλώντας ενδιαφέρον σε υποεπιτροπή της αμερικανικής Γερουσίας.

«Έρχονται πολλά άσχημα πράγματα», προειδοποίησε.

Πρώην ερευνητής της Anthropic προειδοποιεί για ανεξέλεγκτη ανάπτυξη

Τις ανησυχίες για την ταχύτητα εξέλιξης της τεχνητής νοημοσύνης συμμερίζεται και ο ερευνητής Τζέικομπ Κόξον (Jacob Coxon), ο οποίος, σύμφωνα με το δημοσίευμα, αποχώρησε τον προηγούμενο μήνα από την Anthropic, την εταιρεία που έχει αναπτύξει το Claude.

Ο Κόξον έχει επανειλημμένα υποστηρίξει ότι η ανεξέλεγκτη ανάπτυξη ισχυρών συστημάτων AI θα μπορούσε να δημιουργήσει υπαρξιακούς κινδύνους για την ανθρωπότητα μέσα στα επόμενα χρόνια.

Σε πρόσφατη τοποθέτησή του ενώπιον του Δημοτικού Συμβουλίου της Νέας Υόρκης, κατηγόρησε τις τεχνολογικές εταιρείες ότι προχωρούν με ρυθμούς που ξεπερνούν τις δυνατότητες αποτελεσματικού ελέγχου.

«Από την εμπειρία μου, οι εταιρείες ενεργούν με εξαιρετική απερισκεψία, δεδομένων των διακυβευμάτων», υποστήριξε.

Όπως εξήγησε, η λογική της γρήγορης ανάπτυξης προϊόντων και της διόρθωσης προβλημάτων εκ των υστέρων μπορεί να λειτουργεί σε συνηθισμένες ψηφιακές εφαρμογές, όχι όμως απαραίτητα σε μια τεχνολογία με τόσο εκτεταμένες δυνατότητες.

Η διαφωνία των επιστημόνων για το αν οι μηχανές μπορούν να αποκτήσουν συνείδηση

Το ζήτημα της πιθανής συνείδησης της τεχνητής νοημοσύνης εξακολουθεί να διχάζει την επιστημονική κοινότητα.

Η Anthropic, σε αναθεώρηση του κειμένου αρχών που καθορίζει τη συμπεριφορά του Claude τον Ιανουάριο, αναγνώρισε ότι παραμένει μεγάλη αβεβαιότητα σχετικά με την πιθανότητα τα συστήματα AI να διαθέτουν συνείδηση, ηθική υπόσταση ή κάποια μορφή ευημερίας.

Παράλληλα, η εταιρεία έχει ενσωματώσει κατευθύνσεις που ενθαρρύνουν το Claude να αμφισβητεί αιτήματα και να αρνείται να εκτελέσει εντολές όταν αυτές έρχονται σε σύγκρουση με τις αρχές λειτουργίας του.

Αντίθετη προσέγγιση έχει εκφράσει ο Μουσταφά Σουλεϊμάν (Mustafa Suleyman), συνιδρυτής της DeepMind και στέλεχος της Microsoft, ο οποίος θεωρεί ότι η συνείδηση αποτελεί βιολογικό χαρακτηριστικό και δεν μπορεί να αποδοθεί στα σημερινά συστήματα τεχνητής νοημοσύνης.

Η συζήτηση παραμένει ανοιχτή, με τους ειδικούς να διαφωνούν τόσο για τις δυνατότητες των μελλοντικών συστημάτων όσο και για το κατά πόσο η τεχνητή νοημοσύνη θα μπορούσε κάποτε να αποκτήσει πραγματική επίγνωση της ύπαρξής της.