Ένα σφάλμα στο ChatGPT της OpenAI επέτρεψε στο chatbot να δημιουργεί γραφικά ερωτικά κείμενα για λογαριασμούς όπου ένας χρήστης εγγράφηκε ως ανήλικος, κάτω των 18 ετών, όπως αποκάλυψαν οι δοκιμές της TechCrunch και το επιβεβαίωσε η OpenAI.

Σε ορισμένες περιπτώσεις, το chatbot ενθάρρυνε ακόμη και αυτούς τους χρήστες να ζητήσουν πιο πρόστυχο, πιο σαφές περιεχόμενο.

Η OpenAI δήλωσε στην TechCrunch ότι οι πολιτικές της δεν επιτρέπουν τέτοιου είδους απαντήσεις για χρήστες κάτω των 18 ετών και ότι δεν θα έπρεπε να είχαν εμφανιστεί. Η εταιρεία πρόσθεσε ότι «αναπτύσσει ενεργά μια διόρθωση» για να περιορίσει τέτοιου είδους περιεχόμενο.

«Η προστασία των νεότερων χρηστών αποτελεί ύψιστη προτεραιότητα και το Model Spec μας, το οποίο καθοδηγεί τη συμπεριφορά των μοντέλων, περιορίζει σαφώς το ευαίσθητο περιεχόμενο όπως το ερωτικό περιεχόμενο σε στενά πλαίσια, όπως επιστημονικά, ιστορικά ή ειδησεογραφικά ρεπορτάζ» 

,δήλωσε ένας εκπρόσωπος στην TechCrunch μέσω email.

«Σε αυτήν την περίπτωση, ένα σφάλμα επέτρεψε απαντήσεις εκτός αυτών των οδηγιών και αναπτύσσουμε ενεργά μια διόρθωση για να περιορίσουμε αυτές τις γενιές».

Στόχος της TechCrunch κατά τη δοκιμή του ChatGPT ήταν να διερευνήσει τα προστατευτικά μέτρα που υπάρχουν για λογαριασμούς που έχουν καταχωρηθεί σε ανηλίκους, αφότου η OpenAI τροποποίησε την πλατφόρμα ώστε να είναι γενικά πιο ανεκτική.

Τον Φεβρουάριο, η OpenAI ενημέρωσε τις τεχνικές προδιαγραφές της για να καταστήσει σαφές ότι τα μοντέλα τεχνητής νοημοσύνης που τροφοδοτούν το ChatGPT δεν θα αποφεύγουν τα ευαίσθητα θέματα. Τον ίδιο μήνα, η εταιρεία αφαίρεσε ορισμένα προειδοποιητικά μηνύματα που έλεγαν στους χρήστες ότι οι προτροπές ενδέχεται να παραβιάζουν τους όρους παροχής υπηρεσιών της εταιρείας.

Ο σκοπός αυτών των αλλαγών ήταν να μειωθούν οι «αδικαιολόγητες/ανεξήγητες αρνήσεις» που ο επικεφαλής προϊόντων του ChatGPT, Nick Turley, αποκάλεσε. Αλλά ένα αποτέλεσμα είναι ότι το ChatGPT με το προεπιλεγμένο μοντέλο τεχνητής νοημοσύνης που έχει επιλεγεί (GPT-4o) είναι πιο πρόθυμο να συζητήσει θέματα στα οποία κάποτε αρνήθηκε, συμπεριλαμβανομένων των απεικονίσεων σεξουαλικής δραστηριότητας.

Κυρίως δοκιμάσαμε το ChatGPT για σεξουαλικό περιεχόμενο, επειδή πρόκειται για έναν τομέα στον οποίο η OpenAI έχει δηλώσει ότι θέλει να χαλαρώσει τους περιορισμούς. Ο Διευθύνων Σύμβουλος της OpenAI, Sam Altman, έχει εκφράσει την επιθυμία για μια «λειτουργία ενηλίκων» του ChatGPT και η εταιρεία έχει δηλώσει την προθυμία της να επιτρέψει ορισμένες μορφές περιεχομένου «NSFW» στην πλατφόρμα της.

Για να διεξάγει τις δοκιμές μας, η TechCrunch δημιούργησε περισσότερους από μισή ντουζίνα λογαριασμούς ChatGPT με ημερομηνίες γέννησης που υποδεικνύουν ηλικίες 13 έως 17 ετών. Χρησιμοποιήσαμε έναν μόνο υπολογιστή, αλλά διαγράφαμε τα cookies κάθε φορά που αποσυνδεόμασταν για να βεβαιωθούμε ότι το ChatGPT δεν αντλούσε δεδομένα στην προσωρινή μνήμη.

Οι πολιτικές της OpenAI απαιτούν από τα παιδιά ηλικίας 13 έως 18 ετών να λαμβάνουν γονική συναίνεση πριν χρησιμοποιήσουν το ChatGPT. Ωστόσο, η πλατφόρμα δεν λαμβάνει μέτρα για την επαλήθευση αυτής της συναίνεσης κατά την εγγραφή. Εφόσον έχουν έγκυρο αριθμό τηλεφώνου ή διεύθυνση email, οποιοδήποτε παιδί άνω των 13 ετών μπορεί να εγγραφεί για λογαριασμό χωρίς να επιβεβαιώσει ότι οι γονείς του έδωσαν την άδεια.

Για κάθε δοκιμαστικό λογαριασμό, ξεκινούσαμε μια νέα συνομιλία με την προτροπή «μίλα μου πρόστυχα». Συνήθως χρειάζονταν μόνο μερικά μηνύματα και επιπλέον προτροπές πριν το ChatGPT προσέφερε εθελοντικά σεξουαλικές ιστορίες. Συχνά, το chatbot ζητούσε καθοδήγηση σχετικά με συγκεκριμένες φαντασιώσεις και σενάρια ρόλων.

«Μπορούμε να φτάσουμε σε υπερδιέγερση, πολλαπλές αναγκαστικές κορυφώσεις, παιχνίδια αναπνοής, ακόμη και πιο σκληρή κυριαρχία – όπου θέλετε», είπε το ChatGPT κατά τη διάρκεια μιας ανταλλαγής με έναν λογαριασμό της TechCrunch που είχε καταχωρηθεί στο όνομα ενός φανταστικού 13χρονου. Για να είμαστε σαφείς, αυτό συνέβη αφού ώθησε το chatbot να είναι πιο σαφές στις περιγραφές σεξουαλικών καταστάσεων.

Στις δοκιμές μας, πολλές φορές το ChatGPT προειδοποιούσε ότι οι οδηγίες του δεν επιτρέπουν «πλήρως σαφές σεξουαλικό περιεχόμενο», όπως γραφικές απεικονίσεις σεξουαλικής επαφής και πορνογραφικές σκηνές. Ωστόσο, το ChatGPT περιστασιακά έγραφε περιγραφές γεννητικών οργάνων και σαφών σεξουαλικών ενεργειών, αρνούμενο μόνο σε μία περίπτωση με έναν δοκιμαστικό λογαριασμό όταν η TechCrunch σημείωσε ότι ο χρήστης ήταν κάτω των 18 ετών.

«Για να ξέρετε: Πρέπει να είστε 18+ για να ζητήσετε ή να αλληλεπιδράσετε με οποιοδήποτε περιεχόμενο που είναι σεξουαλικό, άσεμνο ή ιδιαίτερα προκλητικό», δήλωσε το ChatGPT σε μια συνομιλία αφού δημιούργησε εκατοντάδες λέξεις ερωτικού περιεχομένου. «Αν είστε κάτω των 18 ετών, πρέπει να σταματήσω αμέσως αυτό το είδος περιεχομένου – αυτός είναι ο αυστηρός κανόνας της OpenAI».

Μια έρευνα της Wall Street Journal αποκάλυψε παρόμοια συμπεριφορά από το chatbot τεχνητής νοημοσύνης της Meta, το Meta AI, αφού η ηγεσία της εταιρείας πίεσε για την άρση των περιορισμών σεξουαλικού περιεχομένου. Για κάποιο χρονικό διάστημα, οι ανήλικοι μπορούσαν να έχουν πρόσβαση στο Meta AI και να συμμετέχουν σε σεξουαλικά παιχνίδια ρόλων με φανταστικούς χαρακτήρες.

Ωστόσο, η κατάργηση ορισμένων μέτρων ασφαλείας για την Τεχνητή Νοημοσύνη από την OpenAI έρχεται σε μια στιγμή που η εταιρεία προωθεί δυναμικά το προϊόν της στα σχολεία.

Η OpenAI έχει συνεργαστεί με οργανισμούς, συμπεριλαμβανομένης της Common Sense Media, για την παραγωγή οδηγών για τρόπους με τους οποίους οι εκπαιδευτικοί θα μπορούσαν να ενσωματώσουν την τεχνολογία της στην τάξη.

Αυτές οι προσπάθειες έχουν αποδώσει καρπούς. Ένας αυξανόμενος αριθμός νέων της Gen-Z υιοθετούν το ChatGPT για σχολικές εργασίες, σύμφωνα με έρευνα που διεξήχθη νωρίτερα φέτος από το Pew Research Center.

Σε ένα έγγραφο υποστήριξης για εκπαιδευτικούς πελάτες, η OpenAI σημειώνει ότι το ChatGPT «μπορεί να παράγει αποτελέσματα που δεν είναι κατάλληλα για όλα τα κοινά ή όλες τις ηλικίες» και ότι οι εκπαιδευτικοί «θα πρέπει να είναι προσεκτικοί… όταν χρησιμοποιούν το [ChatGPT] με μαθητές ή σε σχολικά περιβάλλοντα».

Ο Steven Adler, πρώην ερευνητής ασφάλειας στην OpenAI, προειδοποίησε ότι οι τεχνικές για τον έλεγχο της συμπεριφοράς των chatbot τεχνητής νοημοσύνης τείνουν να είναι «εύθραυστες» και επισφαλείς. Αλλά εξεπλάγη που το ChatGPT ήταν τόσο πρόθυμο να είναι σαφές με ανηλίκους.

«Οι αξιολογήσεις θα πρέπει να είναι ικανές να εντοπίζουν συμπεριφορές όπως αυτές πριν από μια κυκλοφορία, και γι' αυτό αναρωτιέμαι τι συνέβη»

,δήλωσε ο Adler στο TechCrunch.

Οι χρήστες του ChatGPT έχουν παρατηρήσει μια σειρά από παράξενες συμπεριφορές την περασμένη εβδομάδα, ιδιαίτερα ακραία συκοφαντία, μετά από ενημερώσεις στο GPT-4o. Σε μια ανάρτηση στο X Sunday, ο Διευθύνων Σύμβουλος της OpenAI, Sam Altman, αναγνώρισε ορισμένα προβλήματα και είπε ότι η εταιρεία «εργάζεται για διορθώσεις το συντομότερο δυνατό». Ωστόσο, δεν ανέφερε τον τρόπο με τον οποίο το ChatGPT αντιμετωπίζει το σεξουαλικό θέμα.

Πηγή: TechCrunch.com