Η Ofcom, η ρυθμιστική αρχή του Ηνωμένου Βασιλείου αρμόδια για την ασφάλεια στο Διαδίκτυο και τις τηλεπικοινωνίες, ανακοίνωσε σήμερα επίσημη έρευνα κατά της πλατφόρμας X και του AI chatbot Grok που αναπτύσσει η εταιρεία xAI του Ίλον Μασκ, μετά από ανησυχητικές αναφορές ότι το εργαλείο τεχνητής νοημοσύνης χρησιμοποιήθηκε για τη δημιουργία και διάδοση εικόνων σεξουαλικού χαρακτήρα, συμπεριλαμβανομένων και περιπτώσεων που μπορεί να αποτελούν παιδική πορνογραφία.
Σύμφωνα με την επίσημη ανακοίνωση της Ofcom, οι καταγγελίες αφορούν σεξουαλικά εκτρωματοποιημένες εικόνες γυμνών ατόμων, αλλά και εικόνες που εμφανίζουν παιδιά σε ανήθικες ή σεξουαλικές στάσεις, κάτι που δύναται να συνιστά παράνομο υλικό σε πολλές χώρες και ειδικά σύμφωνα με την βρετανική νομοθεσία για την ασφάλεια στο διαδίκτυο. Η ρυθμιστική αρχή διερευνά αν το X και το Grok έχουν εκπληρώσει τις υποχρεώσεις τους προστασίας των χρηστών και ειδικά των ανηλίκων από τέτοιο περιεχόμενο.
Η Ofcom θα εξετάσει εάν η πλατφόρμα προέβη σε αποτελεσματικές δράσεις πρόληψης και αφαίρεσης παράνομου περιεχομένου και αν εφάρμοσε τις προβλεπόμενες διαδικασίες αξιολόγησης κινδύνου σύμφωνα με το Online Safety Act, τον βασικό κανονισμό για την προστασία των χρηστών στο Διαδίκτυο στο Ηνωμένο Βασίλειο. Εάν κριθεί ότι υπήρξε αμέλεια ή παραβίαση, η Ofcom έχει τη δυνατότητα επιβολής βαρύτερων κυρώσεων, ακόμη και διακοπής υπηρεσιών στο Ηνωμένο Βασίλειο ή επιβολής προστίμων.
Σχέδιο εικόνων και αντιδράσεις
Η έρευνα αυτή έρχεται έπειτα από διεθνείς καταγγελίες και ανησυχίες ότι το Grok, μέσα από λειτουργίες δημιουργίας εικόνων, είχε παράγει ακατάλληλο και μη συναινετικό περιεχόμενο, συμπεριλαμβανομένων deepfake εικόνων γυναικών και ανηλίκων, που έχουν προκαλέσει ευρεία κατακραυγή. Σε απάντηση στις πρώτες αντιδράσεις, η xAI είχε περιορίσει προσωρινά την πρόσβαση στη λειτουργία δημιουργίας εικόνων μόνο για πληρωμένους χρήστες, αλλά αυτό δεν απέτρεψε τις εξουσίες από το να εξετάσουν τη συμμόρφωση με τις ρυθμιστικές απαιτήσεις.
Η βρετανική κυβέρνηση, μέσω του αρμόδιου υπουργείου ψηφιακής τεχνολογίας, έχει ήδη καλέσει την εταιρεία να αντιμετωπίσει επειγόντως τα ζητήματα ασφαλείας, χαρακτηρίζοντας το περιεχόμενο που εμφανίστηκε στο Διαδίκτυο ως «εξοργιστικό» και «αντίθετο με τα πρότυπα μιας κοινωνίας που σέβεται τον εαυτό της». Παράλληλα, η Ευρωπαϊκή Επιτροπή, στο πλαίσιο ευρύτερων ελέγχων για ψηφιακές υπηρεσίες και ασφάλεια, ζητά τη διατήρηση όλων των σχετικών δεδομένων μέχρι το 2026, ώστε να εξεταστεί η συμμόρφωση με τους κοινοτικούς κανονισμούς ψηφιακής ασφάλειας.
Ο έλεγχος της Ofcom αποτελεί μέρος μιας ευρύτερης διεθνούς πίεσης και επιτήρησης που αντιμετωπίζει η xAI και η πλατφόρμα X, καθώς άλλες χώρες όπως η Μαλαισία και η Ινδονησία έχουν προχωρήσει ακόμη και σε προσωρινό μπλοκάρισμα της πρόσβασης στο Grok λόγω παρόμοιων ανησυχιών για παράνομο περιεχόμενο. Η συγκεκριμένη υπόθεση ανοίγει ένα κρίσιμο κεφάλαιο στον δημόσιο διάλογο για την ηθική και νομική χρήση της τεχνητής νοημοσύνης και τις εγγυήσεις που πρέπει να παρέχουν οι εταιρείες τεχνολογίας για την προστασία των χρηστών.
