Η OpenAI εξηγεί γιατί η Τεχνητή Νοημοσύνη εξακολουθεί να έχει «παραισθήσεις»
📅 Πρώτη δημοσίευση: Σεπτέμβριος 2025 · Ενημέρωση: Ιούλιος 2026 | ⏱️ 4 λεπτά ανάγνωσης
Με τον όρο «παραισθήσεις» περιγράφονται οι φαινομενικά εύλογες, αλλά εντελώς λανθασμένες πληροφορίες που παράγουν εργαλεία Τεχνητής Νοημοσύνης, όπως το ChatGPT. Νέα ερευνητική εργασία της OpenAI εξηγεί γιατί το φαινόμενο επιμένει ακόμη και στα πιο εξελιγμένα μοντέλα, όπως το GPT-5, και τι θα μπορούσε να το περιορίσει.
Πώς εντοπίστηκε το πρόβλημα
Ένα χαρακτηριστικό παράδειγμα από τη μελέτη, είναι όταν οι ερευνητές ζήτησαν από ένα chatbot τον τίτλο της διδακτορικής διατριβής του Adam Tauman Kalai, ενός εκ των συγγραφέων της έρευνας, το μοντέλο έδωσε 3 διαφορετικές απαντήσεις, όλες λανθασμένες. Το ίδιο συνέβη με την ημερομηνία γέννησής του, 3 απαντήσεις, 3 φορές λάθος, πάντα όμως με την ίδια βεβαιότητα.
Γιατί συμβαίνει
Σύμφωνα με την OpenAI, τα γλωσσικά μοντέλα εκπαιδεύονται προβλέποντας την επόμενη λέξη σε ένα κείμενο, χωρίς να αξιολογείται άμεσα η αλήθεια του περιεχομένου. Το σύστημα μαθαίνει να παράγει ρέοντα και πειστικά κείμενα, όχι να ξεχωρίζει το αληθές από το ψευδές. Το πρόβλημα εντείνεται με σπάνιες ή ασυνήθιστες πληροφορίες που δεν ακολουθούν αναγνωρίσιμα μοτίβα στα δεδομένα εκπαίδευσης.
Το πρόβλημα της αξιολόγησης
Η μελέτη εστιάζει ιδιαίτερα στον τρόπο αξιολόγησης των μοντέλων. Τα σημερινά συστήματα αξιολόγησης βαθμολογούν μόνο την ακρίβεια, δηλαδή το ποσοστό ερωτήσεων που απαντιούνται σωστά, χωρίς να τιμωρούν αυστηρότερα τις λανθασμένες βέβαιες απαντήσεις, σε σχέση με μια ειλικρινή παραδοχή άγνοιας. Το αποτέλεσμα μοιάζει με τη λογική ενός σταυρόλεξου, όπου μια κενή απάντηση παίρνει σίγουρα μηδέν, ενώ μια τυχαία απάντηση μπορεί να αποδειχθεί κατά τύχη σωστή. Έτσι, τα μοντέλα «μαθαίνουν» να προτιμούν μια βέβαιη, αλλά ενδεχομένως λανθασμένη απάντηση αντί να παραδεχτούν άγνοια.
Η προτεινόμενη λύση
Οι ερευνητές της OpenAI προτείνουν αλλαγή στον τρόπο αξιολόγησης, όπως αυστηρότερη «τιμωρία» για βέβαιες λανθασμένες απαντήσεις, και ανταμοιβή όταν το μοντέλο αναγνωρίζει τα όριά του. Η λογική θυμίζει σχολικές εξετάσεις όπου η λάθος απάντηση κοστίζει περισσότερο από την κενή, ενθαρρύνοντας προσοχή, αντί για τυχαίο ρίσκο. Η ίδια η OpenAI σημειώνει ότι το GPT-5, έχει ήδη σημαντικά λιγότερες παραισθήσεις, σε σχέση με προηγούμενα μοντέλα, ειδικά όταν χρησιμοποιεί ικανότητες συλλογιστικής (reasoning), αλλά το φαινόμενο δεν έχει εξαλειφθεί πλήρως.
Μια σημαντική διευκρίνιση
Η μελέτη διευκρινίζει ότι οι παραισθήσεις δεν είναι αναπόφευκτες, ούτε θα εξαλειφθούν αυτόματα με τη βελτίωση της ακρίβειας, καθώς κάποια ερωτήματα του πραγματικού κόσμου παραμένουν εγγενώς αναπάντητα. Ούτε απαιτείται απαραίτητα μεγαλύτερο μοντέλο για τον περιορισμό τους, μερικές φορές είναι ευκολότερο για ένα μικρότερο μοντέλο να αναγνωρίσει τα όριά του.
💡 Το Πιο Σημαντικό
Οι παραισθήσεις δεν είναι μυστηριώδης «ιδιοτροπία» της Τεχνητής Νοημοσύνης, αλλά αποτέλεσμα του τρόπου εκπαίδευσης και αξιολόγησης των μοντέλων. Μέχρι να αλλάξει ριζικά αυτός ο τρόπος αξιολόγησης, ο πιο πρακτικός κανόνας για τον χρήστη παραμένει να επαληθεύει ανεξάρτητα κάθε συγκεκριμένο γεγονός, ημερομηνία ή στοιχείο πριν το εμπιστευτεί.
📖 Πηγές
Why language models hallucinate
OpenAI, επίσημη ανακοίνωση
👉 Διαβάστε περισσότερα
