Το Reddit αυστηροποιεί την επαλήθευση χρηστών μετά το σκάνδαλο των bots στο r/changemyview
📅 Μάιος 2025 | ⏱️ 4 λεπτά ανάγνωσης
Ερευνητές του Πανεπιστημίου της Ζυρίχης διεξήγαγαν επί τετράμηνο μη εγκεκριμένο πείραμα στο δημοφιλές subreddit r/changemyview, αναρτώντας πάνω από 1.700 σχόλια από bots Τεχνητής Νοημοσύνης που παρίσταναν πραγματικούς ανθρώπους, χωρίς καμία ενημέρωση ή συναίνεση των χρηστών. Το Reddit αντέδρασε αυστηρά, απειλώντας με νομικές ενέργειες και αυστηροποιώντας την επαλήθευση χρηστών σε όλη την πλατφόρμα.
Τι ακριβώς έκαναν οι ερευνητές
Το r/changemyview είναι κοινότητα 3.800.000 μελών, γνωστή για σοβαρή, σεβαστική συζήτηση γύρω από αμφιλεγόμενα θέματα. Οι ερευνητές δημιούργησαν δεκάδες ψεύτικες ταυτότητες Τεχνητής Νοημοσύνης, οι οποίες παρίσταναν, μεταξύ άλλων, επιζώντες βιασμού, συμβούλους τραύματος, και μαύρους χρήστες επικριτικούς προς το κίνημα Black Lives Matter. Σε πολλές περιπτώσεις, τα bots προσάρμοζαν τα επιχειρήματά τους αναλόγως στο φύλο, την εθνικότητα ή την πολιτική τοποθέτηση κάθε συνομιλητή, συνδυάζοντας αυτά τα στοιχεία από το ιστορικό αναρτήσεών του, κάτι που δεν περιλαμβανόταν καν στο αρχικό, εγκεκριμένο πλάνο δεοντολογίας της έρευνας.
Το εύρημα που προκαλεί ανησυχία
Η μελέτη διαπίστωσε ότι τα σχόλια Τεχνητής Νοημοσύνης ήταν, έως και 6 φορές πιο πειστικά, από τις μέσες ανθρώπινες απαντήσεις, ειδικά όταν προσαρμόζονταν στο προφίλ του συνομιλητή. Το εύρημα αυτό, αν και επιστημονικά ενδιαφέρον, προέκυψε μέσα από παραπλάνηση χιλιάδων ανυποψίαστων χρηστών.
Η αντίδραση
«Αυτό που έκανε η ομάδα του Πανεπιστημίου της Ζυρίχης είναι βαθιά λανθασμένο, τόσο σε ηθικό όσο και σε νομικό επίπεδο. Παραβιάζει τους κανόνες της ακαδημαϊκής έρευνας και των ανθρωπίνων δικαιωμάτων.»
Πηγή: Ben Lee, Chief Legal Officer, Reddit
Το Reddit απαγόρευσε όλους τους λογαριασμούς που συνδέονταν με την ερευνητική ομάδα, και ξεκίνησε διαδικασία αποστολής επίσημων νομικών αιτημάτων προς το Πανεπιστήμιο. Οι διαχειριστές του r/changemyview κατέθεσαν επίσημη καταγγελία δεοντολογίας, ζητώντας από το Πανεπιστήμιο να μην επιτρέψει τη δημοσίευση των ευρημάτων, και να ενισχύσει την εποπτεία τέτοιων ερευνών. Η ερευνητής Casey Fiesler του Πανεπιστημίου του Κολοράντο το χαρακτήρισε «μία από τις χειρότερες παραβιάσεις ερευνητικής δεοντολογίας» που έχει δει ποτέ.
Το ίδιο το Πανεπιστήμιο της Ζυρίχης υποστήριξε την έγκριση της μελέτης, αν και επιβεβαίωσε ότι ο κύριος ερευνητής έλαβε επίσημη προειδοποίηση για το έργο.
Τι αλλάζει στο Reddit
Ως απάντηση, το Reddit ανακοίνωσε αυστηροποίηση της επαλήθευσης χρηστών, με χρήση τρίτων υπηρεσιών για επιβεβαίωση ότι ένας λογαριασμός ανήκει πράγματι σε άνθρωπο. Το πραγματικό όνομα δεν θα απαιτείται, αλλά η επαλήθευση ηλικίας, ενδέχεται να ζητείται σε ορισμένες περιοχές.
Γιατί έχει σημασία για όλους μας
Το μάθημα πέρα από το Reddit
Αυτό το περιστατικό αποδεικνύει, εμπειρικά κάτι που πολλοί υποψιάζονταν, το γεγονός πως η Τεχνητή Νοημοσύνη μπορεί να είναι πιο πειστική από αληθινούς ανθρώπους, ειδικά όταν προσαρμόζεται στο προφίλ σας. Αυτό ενισχύει τη σημασία της κριτικής σκέψης σε κάθε online συζήτηση, ανεξάρτητα από το πόσο «αυθεντικός» φαίνεται ο συνομιλητής σας. Δείτε περισσότερα στο άρθρο μας για τη μέθοδο SIFT και την αναγνώριση παραπλανητικού περιεχομένου online.
💡 Το Πιο Σημαντικό
Η επόμενη φορά που θα διαβάσετε 1 ιδιαίτερα πειστικό σχόλιο online, ειδικά 1 που φαίνεται να μιλά κατευθείαν στη δική σας εμπειρία ή ταυτότητα, θυμηθείτε ότι η πειθώ από μόνη της, δεν αποδεικνύει αυθεντικότητα. Τα ίδια εργαλεία που προσαρμόζουν επιχειρήματα σε σας, μπορεί να προέρχονται από άνθρωπο ή από αλγόριθμο.
📖 Πηγές
Reddit slams University of Zurich experiment over secret AI bots in forum
The Washington Post
👉 Διαβάστε περισσότερα
Researchers secretly infiltrated a popular Reddit forum with AI bots, causing outrage
NBC News
👉 Διαβάστε περισσότερα
‘Unethical’ AI research on Reddit under fire
Science (AAAS)
👉 Διαβάστε περισσότερα
