Η Character.AI δεν θα επιτρέπει πλέον σε άτομα κάτω των 18 ετών να έχουν ατελείωτες συνομιλίες με την τεχνητή νοημοσύνη της και δηλώνει ότι προβαίνει σε «τολμηρές» αλλαγές για να δημιουργήσει ένα ασφαλές περιβάλλον για τους εφήβους.
Η αλλαγή θα τεθεί σε ισχύ στις 25 Νοεμβρίου, αλλά η εταιρεία θα περιορίσει σταδιακά την πρόσβαση, ξεκινώντας με ένα όριο δύο ωρών την ημέρα και μειώνοντας το όριο τις επόμενες εβδομάδες.
«Προς τους χρήστες μας κάτω των 18 ετών: Κατανοούμε ότι αυτή είναι μια σημαντική αλλαγή για εσάς. Λυπούμαστε βαθιά που πρέπει να καταργήσουμε μια βασική λειτουργία της πλατφόρμας μας», δηλώνει η Character.AI. «Εργαζόμαστε για να βρούμε νέους τρόπους για να παίζετε και να δημιουργείτε με τους αγαπημένους σας Characters».
Η εταιρεία σχεδιάζει να εισαγάγει μια νέα εμπειρία για χρήστες κάτω των 18 ετών με έμφαση στη δημιουργικότητα, όπως η δημιουργία βίντεο, ιστοριών και ροών με χαρακτήρες τεχνητής νοημοσύνης που δημιουργούν στην πλατφόρμα, αν και η εμπειρία για εφήβους βρίσκεται ακόμα σε φάση ανάπτυξης. Επί του παρόντος, οι έφηβοι μπορούν να δημιουργούν φανταστικούς χαρακτήρες, να συνομιλούν με άλλους και να συμμετέχουν σε «σκηνές» όπου αλληλεπιδρούν με άλλους χαρακτήρες τεχνητής νοημοσύνης σε φανταστικούς κόσμους.
Το τελευταίο αυτό στοιχείο έβαλε την Character.AI σε νομικούς μπελάδες, όταν ένας χαρακτήρας φέρεται να ενθάρρυνε έναν 14χρονο να αυτοκτονήσει. Η μητέρα του κατέθεσε αγωγή, υποστηρίζοντας ότι η Character.AI «γνώριζε ότι θα ήταν επιβλαβές για σημαντικό αριθμό ανηλίκων, αλλά δεν το επανασχεδίασε για να μετριάσει τέτοιες βλάβες ή να παρέχει επαρκείς προειδοποιήσεις για τους κινδύνους που προκύπτουν από την προβλέψιμη χρήση του προϊόντος της».
Η Character.AI εισήγαγε τότε το Parental Insights, το οποίο παρέχει στους κηδεμόνες μεγαλύτερη διαφάνεια σχετικά με τις δραστηριότητες των παιδιών τους. Ωστόσο, με τους νομοθέτες και τις ρυθμιστικές αρχές να εξετάζουν τώρα το ζήτημα, η Character.AI δηλώνει ότι απαιτείται μια πιο αυστηρή προσέγγιση.
Η Character.AI προβαίνει σε δύο επιπλέον αλλαγές για την προστασία των εφήβων. Δημιουργεί έναν τρόπο ανίχνευσης της ηλικίας ενός χρήστη, ή «λειτουργία διασφάλισης ηλικίας», και θα ιδρύσει και θα χρηματοδοτήσει ένα εργαστήριο ασφάλειας AI, έναν μη κερδοσκοπικό οργανισμό για την έρευνα ασφαλών μορφών ψυχαγωγίας AI, όπως η ίδια θεωρεί τον εαυτό της.
«Προβαίνουμε σε αυτές τις αλλαγές στην πλατφόρμα μας για άτομα κάτω των 18 ετών, λαμβάνοντας υπόψη το εξελισσόμενο τοπίο γύρω από την AI και τους εφήβους», δηλώνει η εταιρεία. «Έχουμε δει πρόσφατες ειδήσεις που θέτουν ερωτήματα και έχουμε λάβει ερωτήσεις από ρυθμιστικές αρχές σχετικά με το περιεχόμενο που ενδέχεται να συναντήσουν οι έφηβοι όταν συνομιλούν με την τεχνητή νοημοσύνη και σχετικά με τον τρόπο με τον οποίο η ανοιχτή συνομιλία με τεχνητή νοημοσύνη εν γένει μπορεί να επηρεάσει τους εφήβους, ακόμη και όταν οι έλεγχοι περιεχομένου λειτουργούν τέλεια».
Η συζήτηση γύρω από την ασφάλεια των εφήβων και τα chatbots έχει ενταθεί φέτος, ιδίως μετά την αγωγή που άσκησαν άλλοι γονείς κατά της OpenAI για τον υποτιθέμενο ρόλο του ChatGPT στην αυτοκτονία του παιδιού τους. Παρόμοια με την Character.AI, η OpenAI αντέδρασε με νέους γονικούς ελέγχους και επί του παρόντος αναπτύσσει ένα αυτόματο σύστημα ανίχνευσης ηλικίας για την αναγνώριση των εφήβων χρηστών. Πάνω από ένα εκατομμύριο χρήστες της συνομιλούν με το ChatGPT για την αυτοκτονία κάθε εβδομάδα, αποκάλυψε χθες η εταιρεία, και εργάζεται για την «ενίσχυση» της απόκρισης του ChatGPT κατά τη διάρκεια «ευαίσθητων» συνομιλιών, ιδιαίτερα με εφήβους.
Αυτή την εβδομάδα, τέσσερις γερουσιαστές παρουσίασαν το The GUARD Act, ένα δικομματικό νομοσχέδιο για την προστασία των εφήβων από επιβλαβείς αλληλεπιδράσεις με chatbots τεχνητής νοημοσύνης. Εάν ψηφιστεί, θα απαγορεύσει τους συντρόφους τεχνητής νοημοσύνης για ανηλίκους, θα υποχρεώσει τα chatbots τεχνητής νοημοσύνης να αποκαλύπτουν τη μη ανθρώπινη φύση τους και θα δημιουργήσει νέα αδικήματα για εταιρείες που κατασκευάζουν τεχνητή νοημοσύνη για εφήβους, η οποία παράγει σεξουαλικά ακατάλληλο περιεχόμενο.
«Τα AI chatbotsαποτελούν σοβαρή απειλή για τα παιδιά μας», λέει ο γερουσιαστής Josh Hawley (R-Mo.). «Πάνω από το 70% των αμερικανικών παιδιών χρησιμοποιούν πλέον αυτά τα προϊόντα τεχνητής νοημοσύνης. Τα chatbots αναπτύσσουν σχέσεις με τα παιδιά χρησιμοποιώντας ψεύτικη ενσυναίσθηση και ενθαρρύνουν την αυτοκτονία. Εμείς στο Κογκρέσο έχουμε το ηθικό καθήκον να θεσπίσουμε σαφείς κανόνες για να αποτρέψουμε περαιτέρω βλάβες από αυτή τη νέα τεχνολογία».
Πηγή: PC Mag
