Η άνοδος των ανεπιθύμητων μηνυμάτων

Στα τέλη Δεκεμβρίου 2023, αρκετοί από τους φίλους του Brian Vastag και της Beth Mazur ήταν συντετριμμένοι όταν έμαθαν ότι το ζευγάρι είχε ξαφνικά πεθάνει. Ο Vastag και ο Mazur είχαν αφιερώσει τη ζωή τους στο να συνηγορούν υπέρ των ατόμων με αναπηρία και να γράφουν για χρόνιες ασθένειες. Καθώς τα μοιρολόγια εμφανίστηκαν στο Google, τα μέλη της κοινότητάς τους άρχισαν να καλούν ο ένας τον άλλον για να μοιραστούν τα τρομερά νέα, φτάνοντας ακόμη και σε ανθρώπους που έκαναν διακοπές στα μισά του κόσμου.

Μόνο που ο Brian Vastag ήταν πολύ ζωντανός, αγνοώντας τα ψεύτικα μοιρολόγια που είχαν φτάσει στην κορυφή των αποτελεσμάτων της Αναζήτησης Google. Η Beth Mazur στην πραγματικότητα είχε πεθάνει στις 21 Δεκεμβρίου 2023. Αλλά τα ανεπιθύμητα άρθρα που γέμισαν τώρα τον Ιστό ισχυρίζονταν ότι ο ίδιος ο Vastag είχε πεθάνει επίσης εκείνη την ημέρα.

“[The obituaries] είχε αυτόν τον πραγματικό αντίκτυπο όπου κάλεσαν τουλάχιστον τέσσερα άτομα που γνωρίζω [our] κοινοί φίλοι και νόμιζα ότι είχα πεθάνει μαζί της, σαν να είχαμε μια συμφωνία αυτοκτονίας ή κάτι τέτοιο», λέει ο Vastag, ο οποίος για ένα διάστημα ήταν παντρεμένος με τη Mazur και παρέμεινε κοντά της. «Προκάλεσε επιπλέον αγωνία σε μερικούς από τους φίλους μου και αυτό με έκανε πραγματικά θυμωμένο».

«Νεκρολόγια Beth Mazur And Brian Vastag, το σύνδρομο χρόνιας κόπωσης (CFS/ME) Killed 2», αναφέρει ένα άρθρο σε έναν ιστότοπο που ονομάζεται Eternal Honoring. Ένας άλλος ιστότοπος που ονομάζεται In Loving Memories News λέει, «Νεκρολόγια Beth Mazur And Brian Vastag, Σύνδρομο Χρόνιας Κόπωσης (CFS/ME).» Εκτός από τα άρθρα που ισχυρίζονταν ότι ο Vastag ήταν νεκρός, υπήρχαν πολλά ψεύτικα μοιρολόγια για το Mazur, γραμμένα με τίτλους clickbait-y και βελτιστοποιημένες δομές για τις μηχανές αναζήτησης.

«…τουλάχιστον τέσσερα άτομα που γνωρίζω κάλεσαν [our] κοινοί φίλοι και νόμιζα ότι είχα πεθάνει μαζί της, σαν να είχαμε μια συμφωνία αυτοκτονίας ή κάτι τέτοιο».

Το χείλος εντόπισε πάνω από δώδεκα ιστότοπους που δημοσίευσαν άρθρα σχετικά με τον θάνατο του Μαζούρ, μαζί με πολλά βίντεο στο YouTube με ανθρώπους να διαβάζουν μοιρολόγια από σενάριο. Οι ιστότοποι έχουν παράξενα, άγνωστα ονόματα και διατηρούν μια συνεχή ροή άρθρων για ένα ευρύ φάσμα θεμάτων, συμπεριλαμβανομένων των θανάτων ατόμων σε όλο τον κόσμο. Τα άρθρα είναι αδέξια και παρέχουν λίγες πληροφορίες, αλλά είναι γεμάτα με λέξεις-κλειδιά για τις οποίες αναζητούν οι χρήστες του Google. Πέρα από τους δώδεκα ιστότοπους που γράφουν για το Mazur, υπάρχει ένα εκτεταμένο δίκτυο ιστοσελίδων υψηλού επιπέδου που βγάζουν χρήματα όταν η οικογένεια, οι φίλοι και οι γνωστοί αναζητούν πληροφορίες για ένα νεκρό άτομο.

Οι ιστότοποι έχουν χαρακτηριστικά ότι δημιουργούνται με εργαλεία τεχνητής νοημοσύνης. Ο Vastag υποπτεύεται ότι η παραπληροφόρηση σχετικά με τον προφανή θάνατό του, για παράδειγμα, θα μπορούσε να αποδοθεί σε κάποιον που έγραψε ένα άρθρο που συνέγραψαν οι Vastag και Mazur (ένα άρθρο που ισχυρίζεται ότι ο Vastag πέθανε φαίνεται να είναι μια περίληψη της τεχνητής νοημοσύνης του op-ed). Τα μοιρολόγια είναι αποκομμένα και σχεδόν πανομοιότυπα το ένα με το άλλο, με μερικές λέξεις να μετακινούνται και να επαναλαμβάνουν ανακριβείς λεπτομέρειες, όπως το μέρος που ζούσε ο Μαζούρ. Τα άρθρα άρχισαν να εμφανίζονται μέσα σε μια μέρα μετά την ανακοίνωση του MEAction Network, μιας μη κερδοσκοπικής οργάνωσης που συνίδρυσε.

Η Google αγωνίζεται εδώ και καιρό να περιορίσει τα ανεπιθύμητα μοιρολόγια — εδώ και χρόνια, ιστότοποι SEO-δόλωμα χαμηλής προσπάθειας σιγοβράζουν στο παρασκήνιο και βρίσκονται στην κορυφή των αποτελεσμάτων αναζήτησης μετά τον θάνατο ενός ατόμου. Στη συνέχεια, οι ιστότοποι δημιουργούν επιθετικά έσοδα από το περιεχόμενο φορτώνοντας σελίδες με παρεμβατικές διαφημίσεις και κερδίζουν όταν οι χρήστες κάνουν κλικ στα αποτελέσματα. Τώρα, η ευρεία διαθεσιμότητα εργαλείων παραγωγής τεχνητής νοημοσύνης φαίνεται να επιταχύνει τον κατακλυσμό των χαμηλής ποιότητας ψεύτικων μοιρολογιών.

Η «απόξεση μοιρολογιών» είναι μια κοινή πρακτική που επηρεάζει όχι μόνο διασημότητες και δημόσια πρόσωπα, αλλά και μέσους ιδιώτες. Τα γραφεία τελετών ασχολούνται με τοποθεσίες συγκέντρωσης νεκρολογίων για τουλάχιστον 15 χρόνια, λέει η Courtney Gould Miller, επικεφαλής στρατηγικής στο MKJ Marketing, το οποίο ειδικεύεται στο μάρκετινγκ υπηρεσιών κηδειών. Οι ιστότοποι περιηγούνται σε ειδησεογραφικά άρθρα και ιστότοπους τοπικών γραφείων τελετών, αναζητώντας τις αρχικές ανακοινώσεις θανάτου που έχουν βασικές λεπτομέρειες όπως το όνομα, την ηλικία και το πού μπορεί να πραγματοποιηθεί μια λειτουργία. Στη συνέχεια, ξύνουν και αναδημοσιεύουν το περιεχόμενο σε κλίμακα, χρησιμοποιώντας μορφές προτύπων ή, όλο και περισσότερο, εργαλεία τεχνητής νοημοσύνης.

Τα μοιρολόγια είναι αποκομμένα και σχεδόν πανομοιότυπα το ένα με το άλλο, με μερικές λέξεις να μετακινούνται και να επαναλαμβάνουν ανακριβείς λεπτομέρειες

Το Legacy.com είναι η μεγαλύτερη, πιο καθιερωμένη έκδοση των aggregators — αλλά αμέτρητοι μικρότεροι, πιο σκιαγραφικοί ιστότοποι εμφανίζονται συνεχώς. Ορισμένοι από αυτούς τους ιστότοπους περιέχουν ανακριβείς πληροφορίες, όπως η ημερομηνία ή η τοποθεσία ενός μνημόσυνου. Άλλοι συλλέγουν παραγγελίες για λουλούδια ή δώρα που δεν φτάνουν εγκαίρως, απογοητεύοντας την οικογένεια και τους φίλους και προκαλώντας πονοκεφάλους στα τοπικά γραφεία τελετών, λέει ο Gould Miller. Οι τοποθεσίες συγκέντρωσης τακτικά ξεπερνούν τα πραγματικά γραφεία τελετών που έχουν σχέση με οικογένειες που πενθούν.

“Νομίζω [Google is] εξετάζοντας ποιος έχει τα περισσότερα backlinks, ποιος έχει τη μεγαλύτερη εξουσία, ποιος έχει τη μεγαλύτερη επισκεψιμότητα, τα τυπικά πράγματα που εξετάζουν οι αλγόριθμοί τους. Ένας αθροιστής θα έχει, φυσικά, περισσότερα από όλα αυτά από ένα τοπικό γραφείο τελετών», λέει ο Gould Miller. «Είναι ο πυρήνας της επιχείρησης για τους aggregators, σωστά; Γνωρίζουν ότι οι αλγόριθμοι αναζήτησης Google είναι με το μέρος τους».

“Η Google στοχεύει πάντα να εμφανίζει πληροφορίες υψηλής ποιότητας, αλλά τα κενά δεδομένων είναι μια γνωστή πρόκληση για όλες τις μηχανές αναζήτησης”, δήλωσε ο εκπρόσωπος της Google, Ned Adriance. Το χείλος σε ένα email. “Κατανοούμε πόσο ενοχλητικό μπορεί να είναι αυτό το περιεχόμενο και εργαζόμαστε για να κυκλοφορήσουμε ενημερώσεις που θα βελτιώσουν σημαντικά τα αποτελέσματα αναζήτησης για ερωτήματα όπως αυτά.” Η Adriance είπε ότι η Google τερμάτισε πολλά κανάλια YouTube που είχαν επισημανθεί από Το χείλος που μοιράζονταν νεκρολογίες για δόλωμα SEO και ειδοποιήσεις θανάτου, αλλά αρνήθηκαν να πουν εάν οι επισημασμένοι ιστότοποι παραβίαζαν τις πολιτικές ανεπιθύμητης αλληλογραφίας της Google.

Αφού ο Vastag ανακάλυψε τα άρθρα που ισχυρίζονταν ότι και αυτός είχε πεθάνει, τα ανέφερε στην Google, ελπίζοντας να αφαιρέσει τις σελίδες από την αναζήτηση. Η εταιρεία έστειλε μια κλειστή απάντηση, λέγοντας ότι οι επισημασμένοι ιστότοποι δεν παραβίαζαν τις πολιτικές της.

Ορισμένοι ιστότοποι παράγουν μια συνεχή ροή άρθρων ειδήσεων για τον αποθανόντα. Η τεχνητή νοημοσύνη έχει επιδεινώσει το πρόβλημα, καθιστώντας πιο δύσκολο να πει κανείς τη νομιμότητα των μοιρολογιών με την πρώτη ματιά, όταν η οικογένεια και οι φίλοι σε πένθος δεν εξετάζουν προσεκτικά τη διεύθυνση URL ενός άρθρου ή τον συγγραφέα του.

Ένας ιστότοπος που ονομάζεται The Thaiger είναι γεμάτος με ειδήσεις που καλύπτουν κάθε θέμα που μπορεί κανείς να φανταστεί. Οι συγγραφείς του ακολουθούν ιογενείς κύκλους ειδήσεων, όπως πολιτικά σκουπίδια στα κολέγια Ivy League. Κάτω από την κατηγορία ειδήσεων της Ταϊλάνδης: «Οι δημόσιες κακώσεις ανδρών στην έκθεση αυτοκινήτων της Ταϊλάνδης δημιουργούν διαδικτυακό θόρυβο». Η ενότητα Trending περιλαμβάνει άρθρα όπως “Η εκπληκτική αποκάλυψη του Pedro Pascal κλέβει την εμφάνιση στα βραβεία Emmy 2024” και άλλα παστιχάκια του διαδικτυακού κλικ στις αρχές της δεκαετίας του 2010.

Οι ιστορίες σχετικά με τους θανάτους συχνά επισημαίνονται ως « trending » ακόμη και όταν δεν υπάρχει ένδειξη ότι το άτομο ήταν γνωστό εκτός της κοινότητάς του

Όμως, πασπαλισμένα ανάμεσα στα εκατοντάδες άρθρα με κουτσομπολιά διασημοτήτων και ανακεφαλαιώσεις βίντεο του TikTok είναι νοσηρές, ρομποτικές γραφές σχετικά με τους θανάτους των μέσων ανθρώπων που δεν ήταν δημόσια πρόσωπα. Οι συγγραφείς στο The Thaiger — το οποίο εδρεύει στην Μπανγκόκ της Ταϊλάνδης — αναπαράγουν περισσότερες από 20 ιστορίες την ημέρα κατά καιρούς, συμπεριλαμβανομένων των άρθρων νεκρολογίας SEO για άτομα που πέθαναν μετά από ασθένειες. φοιτητές που πέθαναν από αυτοκτονία. και ανήλικους που υπέστησαν θανατηφόρα τροχαία δυστυχήματα. Οι ιστορίες ακολουθούν παρόμοια δομή, μερικές φορές χρησιμοποιώντας πανομοιότυπες ασαφείς φράσεις για τον αποθανόντα. Οι ιστορίες σχετικά με θανάτους συχνά επισημαίνονται ως ” trending “, ακόμη και όταν δεν υπάρχει ένδειξη ότι το άτομο ήταν γνωστό εκτός της κοινότητάς του, και τα άρθρα φαίνεται να συγκεντρώνουν ή να ξαναγράφουν τοπικές ειδήσεις, αναρτήσεις στα μέσα κοινωνικής δικτύωσης ή πραγματικές νεκρολογίες από την οικογένειά τους.

Το περιεχόμενο στο The Thaiger έχει χαρακτηριστικά ότι δημιουργείται με χρήση τεχνητής νοημοσύνης. Τα άρθρα της νεκρολογίας είναι γραμμένα με απεριόριστη gravitas, χρησιμοποιώντας αφύσικες φράσεις όπως το «ανεξίτηλο σημάδι» που άφησε ένα άτομο ή ο «πρόωρος χαμός» του, αλλά χωρίς καμία πραγματική λεπτομέρεια για τη ζωή του. Τα άρθρα γράφονται σαν τυπικά μοιρολόγια και άρθρα ειδήσεων, αλλά δεν έχουν αποσπάσματα από την οικογένεια ή τους φίλους του θανόντος και δεν αναφέρουν εξωτερικές αναφορές.

Νεκρολόγια που εμφανίζονται στο The Thaiger έχουν μια απάνθρωπη, ακατάλληλη ποιότητα για αυτούς. Μερικά άρθρα υπόσχονται έναν «περιεκτικό απολογισμό» του θανάτου ή ότι «το Διαδίκτυο βρίθει» από ενδιαφέρον για το γεγονός. «Αναμένονται περαιτέρω ενημερώσεις και συνιστάται στο περίεργο και ενδιαφερόμενο κοινό να μείνει συντονισμένο για επαληθευμένες πληροφορίες», αναφέρει ένα άρθρο για τον θάνατο μιας γυναίκας στο Κάλγκαρι του Καναδά. Κάθε γωνιά του ιστότοπου είναι φορτωμένη με διαφημίσεις.

Η σελίδα προσωπικού του Thaiger απαριθμεί οκτώ συγγραφείς, κανένας από τους οποίους δεν φαίνεται να έχει προφίλ στο LinkedIn, και τουλάχιστον τρεις από τους οποίους φαίνεται να έχουν δημιουργηθεί με τεχνητή νοημοσύνη στις φωτογραφίες τους. Ο “Luke Chapman”, ο οποίος καλύπτει ειδήσεις από την Αυστραλία και τη Νέα Ζηλανδία, για παράδειγμα, φοράει ένα ανοιχτό πουκάμισο με κουμπιά που έχει κουμπιά που τρέχουν και στις δύο πλευρές. Η «Τζέιν Νέλσον», η οποία περιγράφεται ως «έμπειρη οικονομική δημοσιογράφος», φοράει ένα χρυσό κολιέ που χάνεται στα μισά του στήθους της. Ακόμη και για τα προφίλ που παρουσιάζουν αυτό που φαίνεται να είναι αληθινές φωτογραφίες ανθρώπων, οι συγγραφείς είναι σαν φαντάσματα — δεν υπάρχει καταγραφή αυτών των δημοσιογράφων που να υπάρχουν πουθενά αλλού.

Το Thaiger και ο Διευθύνων Σύμβουλος Darren Lyons δεν απάντησε σε πολλά αιτήματα για σχολιασμό. Μετά Το χείλος Όταν ρωτήθηκε για τα στιγμιότυπα που δημιουργήθηκαν από την τεχνητή νοημοσύνη, το The Thaiger αφαίρεσε σιωπηλά τους συγγραφείς από τη σελίδα προσωπικού, μαζί με το αρχείο άρθρων τους.

Σε έναν άλλο ιστότοπο που ονομάζεται FreshersLive, άρθρα σχετικά με ανθρώπους που έχουν πεθάνει βελτιστοποιούνται ανελέητα για την Google. Λέξεις-κλειδιά όπως “Beth Mazur”, “MEAction Network” και “Chronic Fatigue Syndrome” είναι πασπαλισμένες σε κάθε λίγες προτάσεις. Το αντίγραφο χωρίζεται σε πολλές ενότητες με υποτίτλους που βασίζονται στο SEO, όπως “Ποιος ήταν η Μπεθ Μαζούρ;” και «Είναι νεκρή η Μπεθ Μαζούρ;» Υπάρχει ακόμη και μια ενότητα Συχνών Ερωτήσεων στο κάτω μέρος — μια πιο σκοτεινή, πιο σκληρή εκδοχή μιας τακτικής που βρίσκεται σε όλο τον Ιστό.

Σε απάντηση μέσω email στο Το χείλοςΣτις ερωτήσεις του, ένα άτομο που αυτοπροσδιορίστηκε μόνο ως “Dilip” αρνήθηκε ότι ο ιστότοπος χρησιμοποιούσε εργαλεία τεχνητής νοημοσύνης και είπε ότι το προσωπικό προσπαθεί να επικοινωνήσει με την οικογένεια του νεκρού. Όταν ρωτήθηκε πώς η FreshersLive βρίσκει και αξιολογεί τους θανάτους για να γράψει, ο “Dilip” απάντησε, “Αυτό είναι εξαιρετικά εμπιστευτικό”.

«Όποιος σκέφτηκε [the articles] — Δεν ήξεραν την Μπεθ, δεν ξέρουν τίποτα γι’ αυτήν», είπε ο Βάσταγκ Το χείλος. «Δεν έχουν κανένα δικαίωμα να δημοσιεύσουν μια νεκρολογία για αυτήν».

Το μοιρολόγι της ίδιας της Vastag για τη Mazur δημοσιεύτηκε στις 12 Ιανουαρίου, εβδομάδες μετά τον θάνατό της. Και παρόλο που οι ιστότοποι ανεπιθύμητης αλληλογραφίας ήταν πιο γρήγοροι, μόνο το μοιρολόγι του Vastag καταγράφει το πραγματικό πρόσωπο που ήταν ο Mazur.

Εργαζόταν στην τεχνολογία πριν αρρωστήσει – κατά τους τελευταίους μήνες της ζωής της είχε πειραματιστεί επίσης με εργαλεία παραγωγής τεχνητής νοημοσύνης όπως το ChatGPT, είπε ο Vastag Το χείλος. Ήταν αστεία και έξυπνη, και φίλοι και συνάδελφοι τη θυμούνται ως μια οραματίστρια διοργανώτρια που δεν έψαχνε την αναγνώριση για τη δουλειά της. Σχεδίασε και διοργάνωσε θεματικά πάρτι για φίλους, χόρεψε στο Burning Man και βοήθησε τους ασθενείς να έχουν πρόσβαση στη φροντίδα και στους πόρους. Κανένα από τα ανεπιθύμητα μοιρολόγια, φυσικά, δεν αναφέρει αυτά τα γεγονότα.

Leave a Reply

Your email address will not be published. Required fields are marked *