Nachricht

Jun 05, 2023

Gizmodos KI

Der erste Vorstoß von Gizmodo-Inhaber G/O Media in KI-generierte Inhalte war chaotisch, vermeidbar und beleidigend für Leser und Mitarbeiter gleichermaßen. Und doch hat der fragliche KI-generierte Artikel letztendlich das getan, was er wollte

Der erste Vorstoß von Gizmodo-Inhaber G/O Media in KI-generierte Inhalte war chaotisch, vermeidbar und beleidigend für Leser und Mitarbeiter gleichermaßen.

Und doch hat der fragliche KI-generierte Artikel letztendlich das getan, wozu er scheinbar entwickelt wurde: nämlich in den Suchergebnissen zu ranken.

Nach dem Schlamassel, das nötig war, um hierher zu gelangen, sollte diese Erkenntnis alle in der Medienbranche betreffen. Es ist ein früher Blick auf eine dystopische Zukunft, in der KI-Modelle Inhalte zum Wohle anderer Bots generieren, auf Kosten aller Menschen, die in den Fallout verwickelt sind.

Um ein wenig zu untermauern: Ende Juni kündigte G/O Media – zu dem unter anderem Gizmodo, Kotaku, The Onion und Quartz gehören – an, dass es im Rahmen von damit beginnen werde, KI-generierte Inhalte in seinen zahlreichen Publikationen zu veröffentlichen ein „bescheidener Test“.

„Es sollte keine Überraschung sein, dass wir uns intensiv mit künstlicher Intelligenz beschäftigt haben, so wie es in letzter Zeit jeder in der Medienbranche getan hat“, schrieb Merrill Brown, Redaktionsleiter der Mediengruppe, in einer E-Mail an Mitarbeiter. „Wir sind davon überzeugt, dass die Veränderungen, die KI in der Medien- und Journalismuswelt mit sich bringen wird, im Jahr 2023 sehr bedeutsam, wenn auch schwer vorhersehbar sein werden.“

Es überrascht nicht, dass die Mitarbeiter aller G/O Media-eigenen Publikationen auf die Nachricht wütend reagierten. Und wie sich herausstellte, aus gutem Grund. Im allerersten KI-generierten Artikel, den Gizmodo letzte Woche veröffentlichte, verfehlte der „Gizmodo Bot“ der Website völlig das Ziel. Der Beitrag, eine sogenannte „Chronologische Liste der Star Wars-Filme und Fernsehsendungen“, war furchtbar geschrieben und voller sachlicher Fehler. Vor der Korrektur konnte die Liste die Filme und Serien nicht in die richtige chronologische Reihenfolge bringen und einige neuere Kapitel und Spin-offs der beliebten Franchise ausschließen.

Es war, gelinde gesagt, ein schrecklicher Anblick für das Unternehmen – und in der Folgezeit wehrten sich die Leute bei Gizmodo noch härter, wobei der stellvertretende Chefredakteur James Whitbrook die Liste als „peinlich, unveröffentlichbar, respektlos“ bezeichnete.

Das bringt uns zum heutigen Tag. Trotz aller Fehler und der mangelnden Zustimmung der Mitarbeiter scheint es dem von Gizmodo per Bot generierten Artikel immer noch gelungen zu sein, einen Rang zu erreichen und auf der ersten Seite der Google-Ergebnisse zu erscheinen, wenn Sie nach den Wörtern „Star Wars-Filme“ suchen.

Und obwohl einige der schwerwiegendsten Fehler der Liste korrigiert wurden, werden die Leser immer noch mit falschen Informationen konfrontiert, die einem menschlichen „Star Wars“-Fan höchstwahrscheinlich aufgefallen wären.

Zunächst einmal enthält es einen eklatanten Tippfehler und bezeichnet „The Clone Wars“ als „einen Animationsfilm“.

Ein schwerwiegenderes Problem ist, dass alle von der KI aufgeführten Teile kanonisch sind – das heißt, sie umfassen die maßgeblichen Überlieferungen der „Star Wars“-Reihe – bis auf einen. Der letzte Eintrag auf der Liste, „Star Wars: Visions“, ist überhaupt nicht kanonisch für das „Star Wars“-Universum; Vielmehr handelt es sich aufgrund der expliziten Formulierung um eine Neuinterpretation der Mythologie der Franchise, die nicht dem etablierten Kanon entspricht. Mit anderen Worten: Wenn die KI die nicht-kanonischen „Visions“ einbeziehen würde, könnte sie genauso gut die nicht-kanonische Zeichentrickserie „Star Wars: Droids“ aus den 1980er Jahren oder das berüchtigte „Star Wars Holiday Special“ von 1978 einschließen. Die KI lieferte keine Erklärung für die Diskrepanz.

Schlimmer noch: Da es sich bei „Visions“ um eine Anthologie handelt, enthält sie Episoden, die über die gesamte „Star Wars“-Zeitleiste verteilt sind, was bedeutet, dass die Behauptung der KI, es sei die letzte chronologische Folge von „Star Wars“, völlig falsch ist.

Ein ebenso ärgerlicher Fehler: Die KI listet den „The Clone Wars“-Film von 2008 als nach der Fernsehserie „The Clone Wars“ spielend auf. Das ist völlig falsch; Laut Disneys offizieller Chronologie spielt der Film in mehreren Episoden der Serie.

Sind das Kleinigkeiten? Sicher, aber der Zweck des Listicle besteht darin, genaue Informationen über das „Star Wars“-Franchise bereitzustellen, und die talentierten Mitarbeiter von Gizmodo haben sich jahrzehntelang den Ruf erworben, sich darum zu kümmern, die richtigen Fakten zu Nerd-Themen zu vermitteln. Ein menschlicher Experte mit einer Investition in die Fangemeinde hätte das Thema viel differenzierter angehen und den Lesern präzise und gut kontextualisierte Informationen liefern können.

GO antwortete nicht auf Fragen zu den verbleibenden Ungenauigkeiten im vom Bot generierten Artikel.

Abgesehen davon, dass der Artikel schlecht geschrieben ist, ist klar, dass er nie wirklich für menschliche Leser gedacht war. Stattdessen besteht der offensichtliche Trick darin, Suchalgorithmen dazu zu verleiten, es hoch einzustufen – und angesichts seines Rankings in der Google-Suche hat es dieses Ziel eindeutig erreicht. In vielerlei Hinsicht ist es ein Proof-of-Concept für ein deprimierendes System, in dem Bots in erster Linie für Bots schreiben und die Rolle des Menschen, ob Schriftsteller, Redakteur oder Leser, dabei immer mehr zurückgedrängt wird.

Ein Google-Sprecher gab eine Erklärung ab, in der er sich nicht direkt mit der Hervorhebung des fehlerhaften Artikels in den Suchergebnissen des Unternehmens befasste.

„Unser Ziel bei der Suche ist es, hilfreiche, relevante Inhalte anzuzeigen, die für Menschen erstellt wurden, und nicht für ein hohes Ranking in Suchmaschinen“, heißt es in der Erklärung. „Und seit 20 Jahren hat sich die Suche an neue Spam-Techniken und minderwertige Inhalte, einschließlich massenhaft produzierter Inhalte in verschiedenen Formen, angepasst. Inhalte, die mit dem Ziel erstellt wurden, das Suchranking von Spielern zu verbessern – unabhängig davon, ob sie von Menschen oder KI erstellt wurden – sind es immer noch.“ Spam und wird als solcher behandelt. Dank unserer fortschrittlichen Spam-Bekämpfungssysteme sind wir in der Lage, die Suche zu 99 Prozent frei von Spam zu halten. Und wir führen weiterhin Verbesserungen ein, um minderwertige, unoriginale Inhalte zu reduzieren, die darauf ausgelegt sind, Klicks anzulocken.“

Stakeholder sehen die Dinge natürlich anders.

„KI-Inhalte werden meine Arbeit nicht ersetzen – aber sie werden sie entwerten, die Redakteure unangemessen belasten, die Glaubwürdigkeit meines Mediums zerstören und unser Publikum noch mehr frustrieren“, twitterte Lin Codega, ein Gizmodo-Journalist, als die KI-Initiative erstmals angekündigt wurde . „KI in jeder Form untergräbt nur unsere Mission, demoralisiert unsere Reporter und mindert das Vertrauen unseres Publikums.“

Dieser mit geringem Aufwand von KI erzeugte Blödsinn verheißt weder für das Internet noch für die Zukunft der Medienbranche Gutes. Wir haben noch kein Beispiel für eine generative KI-Initiative in der Journalismusbranche gesehen, die nicht auf die eine oder andere Weise katastrophal war. Im Bemühen, von diesem Trend zu profitieren, werden den Lesern falsche, plagiierte oder auf andere Weise uninspirierte Inhalte unterbreitet, während Autoren und Redakteure gezwungen sind, Fehlern nach Fehlern nachzujagen, die von Bots produzierte Geschichten plagen.

Aber das hat Medienmanager nicht davon abgehalten, es trotzdem zu versuchen, scheinbar fasziniert von dem Glanz billiger, skalierbarer und SEO-freundlicher Inhalte, die nicht auf lästige Menschen angewiesen sind. Und Google ist in hohem Maße mitschuldig und belohnt diese Bemühungen, indem es schlecht recherchierten, KI-generierten Inhalten ein hohes Ranking ermöglicht.

Was uns vor eine kritische Frage stellt: Wie sieht die Zukunft des Internets aus, wenn Bots in erster Linie darauf ausgelegt sind, andere Bots mit ihren Inhalten zu versorgen? Es ist eine Vision, die nicht viel Vertrauen erweckt – und dies fühlt sich sicherlich wie ein „Um welchen Preis“-Moment an.

Aktualisiert, um die Berufsbezeichnung von Merrill Brown korrekt zu identifizieren.

Mehr zum Listicle von SEO Hell:Io9-Mitarbeiter sind entsetzt, als die Website mit Fehlern gefüllten KI-generierten Müll veröffentlicht

Teile diesen Artikel