Η Meta ζήτησε συγγνώμη μετά από αναφορές χρηστών του Instagram στις 26 Φεβρουαρίου ότι τα Reels feeds τους γέμισαν με βίαιο και γραφικό περιεχόμενο λόγω μιας προφανούς δυσλειτουργίας του αλγορίθμου. Η εταιρεία κοινωνικών μέσων αναγνώρισε το πρόβλημα και δήλωσε ότι έχει επιλυθεί. 

Χρήστες περιέγραψαν ότι ήρθαν αντιμέτωποι με σοκαριστικά βίντεο, συμπεριλαμβανομένων σκηνών σοκαριστικής βίας, θανάτων και κακοποίησης ζώων, περιεχόμενο που παραβιάζει τις οδηγίες του Instagram.

Πολλοί χρήστες κατευθύνθηκαν στο Reddit και στο X για να αναφέρουν την ξαφνική εμφάνιση αυτού του ακατάλληλου περιεχομένου. Κάποιοι ανέφεραν ότι τα Reels τους κατακλύστηκαν από βίαια βίντεο, με πλάνα ανθρώπων που τραυματίζονταν ή σκοτώνονταν. Ένας χρήστης ανέφερε ότι είδε τουλάχιστον δέκα θανάτους στο feed του, ενώ άλλοι έκαναν λόγο για φρικιαστικά ατυχήματα και κακοποίηση ζώων. Πολλοί ανήρτησαν στιγμιότυπα οθόνης τους με πολλαπλές προειδοποιήσεις "sensitive content", οι οποίες συνήθως χρησιμοποιούνται για την προστασία των χρηστών από ακατάλληλο υλικό.

Σύμφωνα με αναφορές του μέσου 404 Media, το feed ενός χρήστη περιλάμβανε βίντεο ακραίας βίας, όπως έναν άνθρωπο που καιγόταν ζωντανός και έναν άλλον που πυροβολήθηκε εξ επαφής. Ο χρήστης, ο οποίος συνήθως παρακολουθούσε περιεχόμενο σχετικό με ποδηλασία, εξέφρασε την έκπληξή του για την ξαφνική εμφάνιση τέτοιου υλικού. Πέρα από τις αναφορές στα social media και ένα μέλος της ομάδας των Unboxholics αντιμετώπισε το ίδιο πρόβλημα, με το feed να του εμφανίζει μέχρι και βίντεο αποκεφαλισμού ανθρώπου.

Αρκετοί χρήστες εικάζουν ότι η αλλαγή στην πολιτική περιεχομένου της Meta μπορεί να συνέβαλε στο πρόβλημα, αν και η εταιρεία αρνήθηκε οποιαδήποτε σύνδεση μεταξύ του προβλήματος και των πρόσφατων αλλαγών στους κανόνες της πλατφόρμας.

Εκπρόσωπος της Meta επιβεβαίωσε ότι πλέον το πρόβλημα έχει διορθωθεί και ζήτησε συγγνώμη για την εμφάνιση ακατάλληλου περιεχομένου στα feeds των χρηστών. Η εταιρεία τόνισε ότι οι κανονισμοί της απαγορεύουν ακραία βίαιο ή γραφικό υλικό και ότι συγκεκριμένο περιεχόμενο συνήθως περιορίζεται ή κρύβεται πίσω από προειδοποιητικές οθόνες. Στο Ηνωμένο Βασίλειο, ο Νόμος για την Ασφάλεια στο Διαδίκτυο (Online Safety Act) απαιτεί από τις πλατφόρμες κοινωνικής δικτύωσης να εφαρμόζουν μέτρα για την αποτροπή της έκθεσης ανηλίκων σε επιβλαβές περιεχόμενο, γεγονός που εντείνει τις ανησυχίες για τη δυσλειτουργία του αλγορίθμου.

Το περιστατικό έχει οδηγήσει σε εκκλήσεις για μεγαλύτερη διαφάνεια από τη Meta όσον αφορά τις πρακτικές εποπτείας περιεχομένου. Ο οργανισμός Molly Rose Foundation, που αγωνίζεται για την ασφάλεια στο διαδίκτυο, απαίτησε εξηγήσεις για το πώς τέτοιο υλικό κατάφερε να παρακάμψει τα φίλτρα της πλατφόρμας. Οι επικριτές προειδοποιούν ότι η χαλάρωση των κανόνων εποπτείας περιεχομένου από τη Meta μπορεί να αυξήσει την πιθανότητα παρόμοιων περιστατικών στο μέλλον, εκθέτοντας τους χρήστες σε επικίνδυνο υλικό.

Πηγή: unboxholics