AI περιεχόμενο με ξενοφοβικά μηνύματα συγκεντρώνει δισεκατομμύρια προβολές στο TikTok

Βίντεο με αντι-μεταναστευτικά μηνύματα και σεξουαλικοποιημένες εικόνες γυναικείων χαρακτήρων που έχουν δημιουργηθεί με τεχνητή νοημοσύνη συγκεντρώνουν δισεκατομμύρια προβολές στο TikTok, σύμφωνα με νέα έρευνα της οργάνωσης AI Forensics.
Οι ερευνητές εντόπισαν εκατοντάδες λογαριασμούς που παράγουν τέτοιο περιεχόμενο μαζικά και συχνά χωρίς καμία ένδειξη ότι πρόκειται για υλικό που έχει δημιουργηθεί από AI.
Συνολικά καταγράφηκαν 354 λογαριασμοί, οι οποίοι μέσα σε έναν μήνα δημοσίευσαν περισσότερες από 43.000 αναρτήσεις και συγκέντρωσαν πάνω από 4,5 δισ. προβολές. Πολλοί λειτουργούν με ρυθμούς που παραπέμπουν σε αυτοματοποίηση, καθώς ανεβάζουν συνεχώς νέα βίντεο μέσα στην ημέρα, συνήθως στις ίδιες ώρες. Σε ορισμένες περιπτώσεις ο αριθμός των αναρτήσεων φτάνει τις 70 μέσα σε ένα 24ωρο. Η AI Forensics εκτιμά ότι αυτός ο όγκος στοχεύει στο να αυξηθούν οι πιθανότητες ενός βίντεο να ενισχυθεί από τον αλγόριθμο.
TikTok: Οι ψεύτικες, ξενοφοβικές «ειδήσεις»
Σημαντικό μέρος του περιεχομένου έχει τη μορφή ψεύτικων ειδησεογραφικών βίντεο που μιμούνται τη δομή τηλεοπτικών ρεπορτάζ, χρησιμοποιώντας ακόμη και λογότυπα μεγάλων διεθνών δικτύων. Τα κλιπ αυτά προβάλλουν ξενοφοβικά αφηγήματα και δημιουργούν την εντύπωση ότι προέρχονται από έγκυρες πηγές. Παράλληλα, πλήθος λογαριασμών ανεβάζει σεξουαλικοποιημένες AI εικόνες γυναικείων χαρακτήρων, με αρκετές από τις απεικονίσεις να παραπέμπουν σε ανήλικες φιγούρες. Σύμφωνα με την έκθεση, αυτή είναι μία από τις πιο δημοφιλείς και ταχύτερα αναπτυσσόμενες κατηγορίες.
Η συντριπτική πλειονότητα των αναρτήσεων δεν φέρει κάποια σήμανση που να δείχνει ότι δημιουργήθηκε από AI. Μόλις το 2% είχε την επίσημη ετικέτα του TikTok, γεγονός που, σύμφωνα με τους ερευνητές, αυξάνει τον κίνδυνο παραπλάνησης. Ορισμένοι από τους λογαριασμούς που εντοπίστηκαν διαγράφηκαν αργότερα, μετά από αιτήματα προς την πλατφόρμα.
Η AI Forensics καταγράφει και μια ακόμη κατηγορία περιεχομένου, το λεγόμενο “slop”: βίντεο εξ ολοκλήρου παραγόμενα από AI, συχνά παράλογα ή ανούσια, όπως ζώα που «αγωνίζονται» σε φανταστικούς διαγωνισμούς ή μωρά που μιλούν. Αν και συχνά ακίνδυνο ή ψυχαγωγικό, παράγεται σε τόσο μεγάλες ποσότητες που συμβάλλει στη γενικότερη υπερφόρτωση του feed.
Ορισμένοι λογαριασμοί επιδιώκουν και οικονομικό όφελος, προωθώντας συμπληρώματα διατροφής μέσω «AI influencers», εργαλεία παραγωγής viral βίντεο ή χορηγούμενες αναρτήσεις.
Το TikTok αμφισβητεί τα συμπεράσματα της έκθεσης και υποστηρίζει ότι οι ερευνητές στοχοποίησαν την πλατφόρμα για ένα ζήτημα που αφορά ολόκληρο το οικοσύστημα των social media. Η εταιρεία αναφέρει ότι αφαιρεί επιβλαβές AI περιεχόμενο, μπλοκάρει εκατοντάδες εκατομμύρια bot accounts και παρέχει στους χρήστες εργαλεία για να περιορίζουν το AI υλικό στο feed τους.
Η AI Forensics, ωστόσο, ζητά αυστηρότερη και σταθερή σήμανση για κάθε ανάρτηση που δημιουργείται με τεχνητή νοημοσύνη. Προτείνει επίσης να εξεταστεί ο διαχωρισμός του AI περιεχομένου σε ξεχωριστή ενότητα της εφαρμογής, ώστε να μην συγχέεται με υλικό που δημιουργούν άνθρωποι.
Η έρευνα αφορά το διάστημα από τα μέσα Αυγούστου έως τα μέσα Σεπτεμβρίου.
Με πληροφορίες από Guardian / lifo.gr