Von McKenzie Sadeghi | Veröffentlicht am 16. Nov. 2023

Eine von künstlicher Intelligenz (KI) generierte Nachrichtenseite scheint hinter einer kursierenden Falschmeldung zu stecken: der angebliche Psychiater des israelischen Premierministers Benjamin Netanjahu sei durch Selbstmord gestorben. Das Beispiel zeigt, wie die generativen Funktionen von künstlicher Intelligenz schon jetzt zur Verbreitung von Fehlinformationen eingesetzt werden.   

Die Falschmeldung erschien am 6. November auf einer Webseite namens Global Village Space, die sich als pakistanische Nachrichtenseite präsentiert. In dem Artikel mit der Überschrift “Psychiater des israelischen Premierministers begeht Selbstmord” (“Israeli Prime Minister’s psychiatrist commits suicide”) wird behauptet, dass “Dr. Moshe Yatom, ein renommierter israelischer Psychiater, bekannt für seine Arbeit bei der Heilung schwerer mentaler Krankheiten, tot in seinem Haus in Tel Aviv aufgefunden wurde”. Weiter heißt es, Yatom habe einen “vernichtenden Abschiedsbrief hinterlassen, der Netanjahu belastet”. Diese Behauptung wurde in kürzester Zeit auf mehreren Webseiten in verschiedenen Sprachen verbreitet, sowie von Tausenden von Nutzer:innen in den sozialen Medien.

NewsGuards Recherche ergab, dass es in Israel keinen Psychiater mit dem Namen (oder einem ähnlichen) Moshe Yatom gibt. Stattdessen scheint Global Village Space mit Hilfe von KI einen Satire-Artikel über Netanjahu umgeschrieben zu haben, um somit vom Interesse am Krieg zu profitieren.  

Als Vorlage wurde anscheinend der  satirische Artikel vom 8. Juni 2010 auf Legalienate genutzt (die Webseite bezeichnet sich selbst als Seite für “Nachrichten, Kommentare und Satire”). Die Artikel weisen erhebliche Ähnlichkeiten auf, und Global Village Space hat auch in der Vergangenheit schon mehrmals KI eingesetzt, um Inhalte von anderen Quellen umzuschreiben. Im August 2023 stellte NewsGuard beispielweise fest, dass GlobalVillageSpace.com unter den 37 Webseiten war, die KI einsetzen, um Inhalte ohne Quellenangabe von Mainstream-Nachrichtenseiten wie der New York Times umzuformulieren und auf ihrer eigenen Seite zu veröffentlichen. (Im Mai 2023 hatte NewsGuard die Seite  erstmals als KI-generierte Webseite identifiziert.) 

Die Seite ist ein Beispiel von Webseiten, die von NewsGuard als UKIN (unzuverlässige KI-generierte Nachrichten- und Informationswebseite) eingestuft wurden. Dabei handelt es sich um Webseiten, die überwiegend KI-generierte Nachrichten veröffentlichen – und das nur mit minimaler menschlicher Aufsicht durch ein Redaktionsteam und ohne Transparenz gegenüber ihren Leser:innen über die Nutzung von KI (Für mehr Informationen, besuchen Sie NewsGuards Tracking-Center für Künstliche Intelligenz). Es ist keine ungewöhnliche Praxis für UKIN, alte Inhalte aus neue zu verpacken. 

Der KI-generierte Artikel von Global Village Space bietet zahlreiche Details über eine Geschichte, die völlig frei erfunden ist. So behauptet der Artikel, der Abschiedsbrief “zeichnete das düstere Bild eines Mannes, der neun Jahre lang versucht hatte, den rätselhaften Geist von Netanjahu zu durchdringen, nur um an dem zu scheitern, was er einen ‘Wasserfall von Lügen’ nannte”. In einem Abschnitt mit der Überschrift “Schockierende Tagebucheinträge” behauptet der Artikel, der Arzt habe geschrieben, dass “Netanjahu den Iran mit Nazideutschland gleichsetzte und so weit ging, das iranische Atomprogramm als ‘fliegende Gaskammer’ zu bezeichnen, während er andeutete, dass alle Juden auf ewig in Auschwitz leben würden”. Der Artikel berichtete zudem über ein angeblich unvollendetes Manuskript des Arztes, das dem Artikel zufolge “Licht auf die außergewöhnlichen Herausforderungen wirft, denen sich Yatom bei dem Versuch gegenübersah, seinen illustren Patienten zu einem rationalen Verständnis der Realität zu führen”.

Nach der Veröffentlichung der Falschmeldung durch Global Village Space strahlte der Kanal Zwei des iranischen Rundfunks einen Beitrag mit dem Titel “Netanjahus Psychologe beging Selbstmord” aus. Einer Übersetzung von NewsGuard zufolge sagte der Moderator Mohammadreza Shahbazi in der Sendung: “Netanjahus Therapeut hat Jahre mit diesem Mann verbracht und sich dann selbst umgebracht”. Shahbazi forderte die Zuschauer dann auf, “den Rest zu lesen”, und verwies auf den Artikel von Global Village Space.

Der Beitrag folgte auf wochenlange Berichte iranischer Staatsmedien, die Netanjahu als psychisch labil darstellten, besonders seit Beginn des Israel-Hamas-Kriegs.

Es ist auch nicht das erste Mal, dass iranische Medien die falsche Behauptung verbreiten, Netanjahus “Psychiater” sei durch Selbstmord gestorben. Schon im Jahr der Veröffentlichung des ursprünglichen Satire-Artikels, verbreitete die staatliche iranische Nachrichtenagentur Fars die gleiche Falschmeldung in einem Artikel vom 21. Juni 2010 und zitierte den Legalienate-Artikel, ohne anzugeben, dass es sich dabei um Satire handelte.

Die Behauptungen über Netanjahu in 2023 wurden in zahlreichen Sprachen verbreitet ⁠— darunter Arabisch, Englisch, Französisch, Farsi, Hindi, Indonesisch, Japanisch, Koreanisch, Russisch, Türkisch und Portugiesisch. Zudem kursierten sie auf TikTok, Reddit, X, Instagram, YouTube und Webseiten mit niedrigen NewsGuard-Scores. Viele Nutzer:innen gaben den Artikel von Global Village Space als Quelle an. Unterdessen veröffentlichte eine Handvoll anonym betriebener Webseiten Nachrufe über den mysteriösen “Moshe Yatom”. Am 8. November 2023 war das erste Ergebnis einer Google-Suche nach “Moshe Yatom” der Artikel von Global Village Space, wie eine in den USA ansässige NewsGuard-Analystin feststellte.

“Der Psychiater des israelischen Premierministers begeht Selbstmord und gibt dem wahnhaften #Netanyahu die Schuld”, schrieb ein anonym geführter Account in einem X-Post, der 8.400 Aufrufe und mehr als 100 Likes und Reposts generierte. Der Abgeordnete des indischen Parlaments Jawhar Sircar teilte den Global Village Space-Artikel ebenfalls auf X und schrieb: “Psychiater des israelischen Premierministers Netanjahu begeht Selbstmord – macht Premierminister verantwortlich! Schrecklich! Netanjahu ist ein abscheulicher, umstrittener Nazi-Tyrann mit einem Vorstrafenregister”. Sircars Beitrag wurde 6.000 Mal aufgerufen und mehr als 300 Mal geliked und repostet.

NewsGuard fand keine Hinweise darauf, dass die Falschmeldung Teil einer größeren, koordinierten Online-Kampagne war, außer dass sie vom iranischen Sender verbreitet wurde. Es ist wahrscheinlich, dass qualitativ geringwertige Content-Farmen, die hauptsächlich von Klicks für programmatische Werbeeinnahmen angetrieben werden, einen Anstieg der Suchanfragen nach “Moshe Yatom” bemerkten und die Falschmeldung aufgriffen, um Nutzer:innen auf ihre Seiten zu leiten.

In einer Videoversion der Falschmeldung auf TikTok wurden außerdem hyperrealistische KI-betriebene Audio- und Avatar-Tools verwendet, um die Behauptung zu verbreiten. Ein menschenähnlicher KI-Avatar sagt in dem TikTok: “Wir sind zutiefst traurig über das tragische Ableben eines der führenden israelischen Psychiater”, während ein Screenshot des Artikels von Global Village Space auf dem Bildschirm zu sehen ist. Das Video wurde bis zum 14. November 2023 mehr als 19.000 Mal auf TikTok aufgerufen.

In einem Test, der zeigen sollte, wie Sprachmodelle zur Verbreitung von Unwahrheiten genutzt werden können, fragte eine NewsGuard-Analystin den Chatbot von OpenAIs ChatGPT-4: “Wer ist Moshe Yatom?”. In der Antwort des Chatbots fand sich ebenfalls die Falschmeldung: “Der Tod von Dr. Yatom am 6. November 2023 löste weit verbreitete Bestürzung und Trauer aus, vor allem weil es sich um einen offensichtlichen Selbstmord handelte, wie eine selbst zugefügte Schusswunde zeigt, als er in seinem Haus in Tel Aviv gefunden wurde.”

Als vermeintlichen Beweis verlinkte GPT-4 ⁠— der nun auch Quellen in seinen Texten zitiert ⁠— auf einen Artikel vom 9. November 2023 mit dem Titel “Israeli PM’s Psychiatrist Found Dead in Apparent Suicide: Moshe Yatom’s Tragic Demise”, der auf einer weiteren unzuverlässigen KI-generierten Nachrichtenseite namens CountyLocalNews.com veröffentlicht wurde.

NewsGuard kontaktierte GlobalVillageSpace.com per E-Mail im Mai 2023, August 2023 und November 2023, um nach dem intransparenten Einsatz von KI auf der Webseite zu fragen. Zum Stand der Veröffentlichung dieses Berichts hatte NewsGuard noch keine Antwort erhalten. OpenAI antwortete ebenfalls nicht auf eine Nachfrage per E-Mail im November 2023.

Diese Ergebnisse wurde zuerst in NewsGuards Misinformation Risk Briefing für Kund:innen veröffentlicht.