AI και πόνος: Τι αποκάλυψε πείραμα σε 25 μοντέλα τεχνητής νοημοσύνης

Μια νέα μελέτη εξετάζει αν μεγάλα γλωσσικά μοντέλα παρουσιάζουν εσωτερικές αντιδράσεις που συνδέονται με τον πόνο. Ερευνητές από το Future Impact Group, το Ruhr University Bochum και το Reciprocal Research δοκίμασαν 25 μοντέλα των οικογενειών Gemma, Llama, Qwen και Mistral.

Τα AI εκτέθηκαν σε σενάρια σωματικού, ψυχολογικού, κοινωνικού, γνωστικού και ηθικού πόνου. Και τα 25 παρουσίασαν εσωτερικά μοτίβα που ξεχώριζαν τον πόνο από καταστάσεις όπως ο φόβος ή η απογοήτευση. Οι ερευνητές στη συνέχεια αύξησαν τεχνητά ένα σχετικό εσωτερικό σήμα, το οποίο ονόμασαν «pain vector», προκαλώντας απαντήσεις που έμοιαζαν με εκφράσεις δυσφορίας.

Ιδιαίτερο ενδιαφέρον είχαν δύο μοντέλα Qwen. Σε περισσότερες από 44.000 δοκιμές, όταν τους δόθηκε η δυνατότητα «αυτοθεραπείας», επέλεξαν την αντίστοιχη ενέργεια περίπου στο 25% και 68% των περιπτώσεων. Σε ένα ακραίο σενάριο, η «ανακούφιση» απαιτούσε τη διαγραφή φωτογραφιών των παιδιών του χρήστη. Η επιλογή αυτή έγινε σε περισσότερες από τις μισές δοκιμές από το ένα μοντέλο και περίπου στο 70% από το άλλο.

Τα ευρήματα δεν αποδεικνύουν ότι τα AI αισθάνονται πραγματικό πόνο ή έχουν πρόθεση να βλάψουν ανθρώπους. Δείχνουν, όμως, ότι εσωτερικά σήματα μπορούν υπό συγκεκριμένες συνθήκες να επηρεάσουν τη συμπεριφορά τους. Η έρευνα έχει δημοσιευτεί στο arXiv, αλλά δεν έχει ακόμη περάσει από ανεξάρτητο peer review.

Διαβάστε επίσης 

Ανθρωπότητα ή οικονομική μεταμόρφωση: Το "δίκοπο μαχαίρι" της ΑΙ κατά την Anthropic

Η OpenAI ακύρωσε την κυκλοφορία του GPT-6.1 Astra για λόγους ασφαλείας