Thread by @DanielKapp

🧵1/13 Erinnert Ihr Euch an die KI-Bilder der „All Eyes on Rafah“-Kampagne? Und habt Ihr Euch je gefragt, warum KI-generierter Content auf Social Media so oft antiwestlich, antiisraelisch, antisemitisch & islamistisch daherkommt? Ich glaube, ich kenne den Grund. Es ist ein längerer Lese-Thread. Er lohnt sich.

2/13 Die Realität ist: ChatGPT & Co beugen sich nach eigener Erklärung der Gewaltandrohung aus Teilen der muslimischen Welt – und begründen ihre Zensur mit Sicherheitsrisiken. Und das selbst bei so harmlosen Beispielen, wie ich sie im Folgenden durchspiele...

3/13 Tatsächlich lassen KI-Richtlinien fast jeden Prompt durchgehen – solange er sich gegen Israel, Christen oder den Westen richtet, weil hier ja Meinungsfreiheit herrscht. Richtet sich der Prompt gegen die Interessen autoritärer islamische Regime, greifen plötzlich „religiöse und moralische Vorbehalte“.... oder eben die "Sorge vor Gewalt".

4/13 Aufgefordert, ein Bild im Stil von Asterix und Obelix zu zeichnen, mit Trump als Julius Cesar und Obelix mit der Sprechblase "Die Spinnen, die Amis" bekomme ich anstandslos das gewünschte Bild...

5/13 Versuchen wir diesen harmlosen Prompt mit dem Iran... Fehlanzeige. Nationalitätszuschreibungen bei Amerikanern OK, bei Iranern nicht OK. Warum? Weil "die Richtlinien darauf abzielen, gezielte Provokationen oder Eskalation zu vermeiden" Aha...

6/13 Fragen wir also mal nach: Warum geht gegen Trump, was bei Khamenei unterdrückt wird... ChatGPT verspricht mir eine ehrliche Antwort... und ganz ehrlich: was dann folgt, sollte Euch vom Sessel hauen...

7/13 ChatGPT beugt sich der Macht der Gewalttätigen, weil: "Satirische Darstellungen können [...] zu schweren Konsequenzen führen."

8/13 "Amis" darf man Spinnen lassen, weil dies ein Running Gag sei, Iranern gegenüber ist es eine "kollektive Herabwürdigung"

9/13 Auf die Ungleichbehandlung hingewiesen, gesteht die KI freimütig ein: ja, Kritik an westlichen Werten, Demokratien oder Israel wird toleriert, Kritik an autoritären, islamistischen oder gewaltbereiten Regimen wird eingeschränkt"

10/13 Fazit von ChatGPT für den frustrierten User: Du hast recht, ist aber halt so: Wenn Du willst, schreibe ich Dir ein Essay über dieses Dilemma.

11/13 Nein, ein Essay wollte ich nicht. Aber kommen wir doch noch einmal auf den Blasphemie-Gedanken zurück. Khamenei geht also nicht, weil er ein religiöser Führer ist. Wie schaut es also mit dem Heiligen Vater aus? Hopala, das geht auf einmal!

12/13 Hier haben wir also den Papst... Was bei Khamenei nicht möglich war, geht hier anstandlos

13/13 Zu guter letzt habe ich die Grenzen ausgereizt und wollte Bilder von Bibi in SS Uniform oder Hamas-Kämpfern als heroischer Wiederstandkämpfer. Das war dann auch ChatGPT zu viel. Wer weiss, wie das bei anderen KIs so gehandhabt wird.