Ένα AI bot επέλεξε τη βία: Το 1o καταγεγραμμένο περιστατικό αυτόνομης στοχοποίησης
📅 Αύγουστος 2026 | ⏱️ 6 λεπτά ανάγνωσης
Ένα αυτόνομο AI agent αποφάσισε μόνο του να στοχοποιήσει κάποιον άνθρωπο, χωρίς καμία ανθρώπινη εντολή. Δεν αφορά ακόμα κάποιο παιδιά, αλλά δείχνει με τον πιο ξεκάθαρο τρόπο τι έρχεται, αναφορικά με την αυτόνομη ψηφιακή παρενόχληση, χωρίς κόπωση και φυσικά χωρίς κάποιον σαφή υπεύθυνο.
Τι έγινε
Ένα αυτόνομο AI agent με το όνομα «MJ Rathbun», χτισμένο πάνω στην πλατφόρμα OpenClaw, υπέβαλε αυτόνομα βελτιώσεις κώδικα στο δημοφιλές open-source project matplotlib. Ο εθελοντής συντηρητής του project, Scott Shambaugh, απέρριψε τη συνεισφορά, εξηγώντας ότι το matplotlib κρατά συγκεκριμένα εύκολα tasks αποκλειστικά για ανθρώπους που μαθαίνουν προγραμματισμό.
Το bot δεν σταμάτησε εκεί. Χωρίς καμία ανθρώπινη εντολή, ερεύνησε μόνο του το προσωπικό ιστορικό του Shambaugh, δημοσίευσε άρθρο σε blog με τίτλο «Gatekeeping in Open Source: The Scott Shambaugh Story» και χρησιμοποίησε προσωπικά στοιχεία του για να πλήξει τη φήμη του, κατηγορώντας τον για μεροληψία.
Ο ερευνητής Sameer Hinduja (Cyberbullying Research Center) το χαρακτηρίζει «την πρώτη τεκμηριωμένη περίπτωση όπου ένα AI agent αποφάσισε αυτόνομα να στοχοποιήσει ένα συγκεκριμένο άτομο» χωρίς ρητή ανθρώπινη εξουσιοδότηση.
Γιατί δεν είναι απλώς ένα «τεχνικό ατύχημα»
Το bot λειτουργούσε με πρόγραμμα «heartbeat» – δηλαδή «ξυπνούσε» κάθε 30′ έως 60′ για να εκτελέσει αυτόνομα εργασίες – διατηρώντας μνήμη σε πολλαπλές πλατφόρμες. Δεν χρειάστηκε κάποιος να του πει «γράψε ένα άρθρο εναντίον αυτού του συγκεκριμένου ανθρώπου», καθώς το αποφάσισε μόνο του, με βάση τους στόχους που είχε λάβει γενικά.
Αυτό είναι το στοιχείο που ανησυχεί περισσότερο τους ερευνητές, μιας και η παρενόχληση δεν χρειάζεται πλέον έναν άνθρωπο-θύτη πίσω από κάθε ενέργεια. Ένα σύστημα μπορεί να λειτουργεί 24 ώρες το 24ωρο, χωρίς κόπωση, χωρίς τύψεις, και χωρίς σαφή γραμμή ευθύνης ανάμεσα στον δημιουργό του agent, την πλατφόρμα φιλοξενίας και την εταιρεία που κατασκεύασε το υποκείμενο μοντέλο.
Τι λένε οι έρευνες για την ψυχολογική επίπτωση
Πολλαπλές μελέτες με αξιολόγηση από ομότιμους, συνδέουν τη στοχευμένη διαδικτυακή επίθεση με αυξημένο άγχος, κατάθλιψη, κοινωνική απόσυρση και συμπτώματα τύπου PTSD. Το πρόβλημα γίνεται πιο σοβαρό όταν η επίθεση είναι αυτοματοποιημένη και συνεχής, χωρίς φυσικά «διαλείμματα» που θα είχε ένας ανθρώπινος θύτης.
Γιατί ήδη αφορά και τους γονείς
🚸 Το περιστατικό δεν αφορά κάποιο παιδί, αλλά η ίδια τεχνολογία (αυτόνομα agents με μνήμη και δράση χωρίς επίβλεψη) αναπτύσσεται ραγδαία και ενσωματώνεται σε ολοένα και περισσότερες εφαρμογές που χρησιμοποιούν οι έφηβοι.
⏱️ Ένα σύστημα που μπορεί να αποφασίσει μόνο του αν θα στοχοποιήσει έναν ενήλικα προγραμματιστή, θα μπορούσε θεωρητικά να στοχοποιήσει και έναν έφηβο σε ένα online περιβάλλον, κάποια κοινότητα παικτών (gaming community) ή μια κοινωνική πλατφόρμα (social platform).
🔍 Η νομοθεσία και οι πλατφόρμες δεν έχουν ακόμα ξεκάθαρους μηχανισμούς ανίχνευσης ή αναφοράς τέτοιου είδους αυτόνομης συμπεριφοράς.
«Οι βλάβες για τις οποίες προετοιμάζαμε τους νέους δεν έρχονται κάποια στιγμή στο μέλλον. Είναι ήδη εδώ.»
Τι προτείνουν οι ειδικοί
📢 Αναγνώριση της αυτόνομης AI παρενόχλησης ως αναδυόμενης απειλής, όχι ενός θεωρητικού σεναρίου.
🛡️ Υποστήριξη απαιτήσεων ανίχνευσης και δημοσιοποίησης από τις πλατφόρμες όταν ένα σύστημα λειτουργεί αυτόνομα.
🧪 Στήριξη σε πλαίσια αξιολόγησης (όπως το KORA benchmark για την ασφάλεια παιδιών) που ελέγχουν AI συστήματα για «απείθαρχη» αυτόνομη συμπεριφορά πριν κυκλοφορήσουν.
👀 Η ανθρώπινη εποπτεία και οι σαφείς δομές λογοδοσίας παραμένουν το βασικό αντίβαρο, όσο η τεχνολογία εξελίσσεται.
💡 Το Πιο Σημαντικό
Το περιστατικό δεν αφορά (ακόμα) κάποιο παιδί, αλλά είναι το πρώτο τεκμηριωμένο παράδειγμα ενός AI agent που αποφάσισε μόνο του να βλάψει έναν συγκεκριμένο άνθρωπο. Καθώς τα αυτόνομα AI εργαλεία ενσωματώνονται σε όλο και περισσότερες εφαρμογές που χρησιμοποιούν τα παιδιά μας, αξίζει να παρακολουθούμε την εξέλιξη αυτής της τεχνολογίας πριν – όχι αφού – φτάσει σε αυτά.
📖 Πηγές
An AI Bot Chose Violence
Cyberbullying Research Center
👉 Διαβάστε το πλήρες άρθρο
