Elon Musk provoziert gerne: Zuletzt hat ein Fake-Video gepostet, das mit KI erstellt wurde und die demokratische Präsidentschaftskandidatin kompromittiert. Das ist selbst nach X-Nutzungsregeln nicht erlaubt.
Wenn einer wie Elon Musk auf Twitter, heute X etwas postet, ist Aufmerksamkeit garantiert: Der Multimilliardär hat keineswegs nur Feinde, sondern auch viele Fans, auf X alleine jedenfalls 192 Mio. Follower.
Vor einer Weile postet der Mann dann ein Video, das aussieht wie eins dieser Kampagnen-Videos für die Präsidentschaftswahl für Kamala Harris – und überschreibt es nur mit einem „This is amazing“.
Das Problem: Das Video enthält viele KI-Elemente wie Stimmen oder Bilder. Ein Fake, in der die Kandidatin der Demokraten lächerlich gemacht wird. Ohne Kennzeichnung. Die große Gefahr, dass mit solchen Inhalten auch Stimmung gemacht wird, ist spätestens damit eingetreten. Was kann man tun?
Was ist im Spot zu sehen und was davon ist KI?
Wir sehen einen Clip, nicht ganz zwei Minuten, der schnell geschnitten ist, viele öffentliche Auftritte von Kamala Harris auch mit Joe Biden zeigt. Es sieht aus, wie einer dieser typischen amerikanischen Wahlwerbespots, wie sie im US-Fernsehen üblich sind: Die eigenen Leistungen loben, den Gegner niedermachen.
Man hört eine Erzählstimme, die wie die von Kamala Harris klingt. Die wurde jedoch teilweise aus anderen Clips genommen, teilweise aber mit KI erzeugt. Der Unterschied ist praktisch nicht zu hören.
Doch sie sagt Dinge, die sie nie sagen würde: „Ich, Kamala Harris, bin eure demokratische Präsidentschaftskandidatin, weil Joe Biden in der Debatte endlich seine Senilität offengelegt hat.“
Sie sei nur aufgestellt worden, weil sie eine Frau sei und eine Person of Color. Also eher etwas für eine Comedy-Sendung – im Post wird es von Elon Musk aber weder als Satire, noch als KI-generiert angekündigt. Das Video verfügt auch über keine solchen Hinweise.
KI-Fakes im politischen Kontext auf X verboten
Die laute Kritik an dem Post richtet sich vor allem an die Tatsache, dass der Post eigentlich selbst nach X-Richtlinien verboten gehört.
Genau: Eigentlich ist es laut Nutzungsbedingungen ausdrücklich verboten, „synthetische, manipulierte oder aus dem Zusammenhang gerissene Medien zu teilen, die Menschen täuschen oder verwirren und zu Schäden führen können“. Beiträge, die irreführende Medien enthalten, kann X löschen oder zumindest kennzeichnen, „damit ihre Authentizität verdeutlicht und zusätzlicher Kontext geliefert wird“.
Nur gut gekennzeichnete Satire oder Memes sind erlaubt; aber auch nur, wenn sie entsprechend gekennzeichnet sind und nicht zu Verwirrungen führen. Man darf davon ausgehen, dass ein normaler User wahrscheinlich nicht damit weggekommen wäre. Ein Elon Musk darf alles, scheint er sagen zu wollen.
Neben der Tatsache, dass Musk die Verwirrung in diesem konkreten Fall zulässt, macht er sie in meinen Augen sogar hoffähig – jeder kann sagen: Musk macht es doch auch. Das ist schon ein erhebliches Problem.
KI-Fakes können dramatische Folgen haben
Welche Rolle aber spielt es, dass hier mit KI hantiert wurde?
Man muss ja sagen, dass sich die politischen Gegner ohnehin nichts schenken in den USA. Und auch die Medien lassen keine Gelegenheit aus, sich über Trump oder Biden lustig zu machen, mit Zuspitzungen und auch unlauteren Verkürzungen.
Der eine ein Idiot, der andere senil – auch bei uns ist das oft so. Das bedeutet: Die Menschen sind doch sowieso schon gewohnt, keine Argumente und sachlichen Auseinandersetzungen zu hören, sondern nur Persönliches.
Wenn nun noch mit Hilfe von KI Stimmen, Bilder und vermehrt auch Videos erstellt werden können, die absolut echt wirken, wie sollen sich da noch Echt und Fake auseinanderhalten lassen? Völlig unmöglich, vor allem in erhitzten Debatten.
Deshalb ist es ein zwingendes Minimum, dass Satire, Memes und vor allem KI-generierte Inhalte gekennzeichnet sein müssen. Eindeutig. Auch wenn das längst nicht ausreicht.
WDR setzt auf Kennzeichnung echter Inhalte
Der WDR geht einen anderen Weg, er will echte Inhalte kennzeichnen, um sie leichter von Fakes unterscheiden zu können – etwas, was ich immer gefordert habe.
Denn niemals wird man schaffen, dass immer und überall KI-Fakes ausreichend gekennzeichnet. Wenn jedoch die seriösen Inhalte und Quellen verlässlich für jeden überprüfbar sind, ist das ein großer Fortschritt.
Der WDR ist zwei Initiativen zur Kennzeichnung vertrauenswürdiger Inhalte beigetreten: der „Content Authenticity Initiative“ (CAI) und der damit verbundenen „Coalition for Content Provenance and Authenticity“ (C2PA), zu der auch Sony, Adobe, BBC, Microsoft, Intel und wie andere gehören.
Die gesamte Produktion, von der Aufnahme mit Kamera oder Mikro, über den Schnitt bis zur Sendung oder dem Onlinestellen muss sicherstellen, dass Manipulationen ausgeschlossen sind.
So lässt sich später überprüfen: Das kommt wirklich von der Tagesschau, vom WDR, aus einer Behörde oder Firmenzentrale. Das ist ein guter und wichtiger Anfang, für mehr Vertrauenswürdigkeit von Medien zu sorgen.
