KI-generiertes Bild auf Social-Media-Platformen

 

Offener Brief: Konsequentes Vorgehen gegen KI-generierte Holocaust-Verfälschungen auf Social-Media-Plattformen

Wir – Einrichtungen historisch-politischer Bildung – sehen das in letzter Zeit massive Auftauchen von erfundenen KI-generierten Inhalten (AI Slop) zum Nationalsozialismus auf Social Media-Plattformen mit großer Sorge. Diese Postings verfälschen die Geschichte durch Verharmlosung und Verkitschung und verändern die Sehgewohnheiten der Nutzer/-innen, die zunehmend auch authentische historische Dokumente anzweifeln. Mit jedem dieser Postings wird die Arbeit von Gedenkstätten, Archiven und Forschungseinrichtungen entwertet und ihre Glaubwürdigkeit untergraben. Auf Initiative von AI-Slop betroffener Gedenkstätten formuliert das Netzwerk Digital History und Memory einen offenen Brief an Social-Media-Plattformen. Die KZ-Gedenkstätte Dachau gehört zu den Erstunterzeichner/-innen.

KI-generiertes Bild einer angeblichen Situation im KZ Dachau,
Facebook Post "The Blanket of Strangers", Screenshot 26.08.2025

Konsequentes Vorgehen gegen KI-generierte Holocaust-Verfälschungen auf Social-Media-Plattformen

In den Sozialen Netzwerken tauchen in den letzten Monaten immer mehr massenhaft mit Künstlicher Intelligenz (KI) erstellte Inhalte mit Bezug zum Nationalsozialismus auf, die keine historischen Ereignisse abbilden, sondern frei erfunden sind. Diese umgangssprachlich als AI-Slop bezeichneten Inhalte zeigen beispielsweise vermeintliche Situationen in nationalsozialistischen Lagern oder bei deren Befreiung. Diese zeichnen ein extrem verzerrtes und falsches Bild. Beispielsweise kursieren KI-generierte Bilder, die ein angebliches Wiedersehen zwischen Gefangenen und Befreiern zeigen, oder erfundene Szenen weinender Kinder hinter Stacheldraht. Mit Künstlicher Intelligenz werden hier Inhalte erstellt, die aus Versatzstücken historischer Fakten und emotionalisierter Fiktion bestehen.

Hinter diesen Inhalten stehen unterschiedliche Motive: Zum einen nutzen sogenannte Content-Farmen die emotionale Wucht des Holocaust, um mit minimalem Aufwand maximale Reichweite zu erzielen. Ein Geschäftsmodell, das auf Klicks und Werbeeinnahmen basiert. Zum anderen werden diese Inhalte gezielt eingesetzt, um historische Fakten zu verwässern, Opfer- und Täterrollen zu verschieben oder revisionistische Narrative zu verbreiten. Die Algorithmen der Plattformen begünstigen dabei emotional aufgeladene Inhalte, unabhängig von deren Wahrheitsgehalt.

Diese Entwicklung beobachten wir als Einrichtungen historisch-politischer Bildung mit großer Sorge. KI-generierte Inhalte verfälschen die Geschichte durch Verharmlosung und Verkitschung. Sie verändern die Sehgewohnheiten der Nutzer/-innen, die zunehmend auch authentische historische Dokumente anzweifeln. Mit jedem dieser Postings wird die Arbeit von Gedenkstätten, Archiven und Forschungseinrichtungen entwertet und ihre Glaubwürdigkeit untergraben.

Wir setzen uns für eine digitale Öffentlichkeit ein, in der Überlebende der nationalsozialistischen Verfolgung und ihre Nachkommen davor geschützt sind, dass ihre Lebensgeschichten von Unbekannten für Profit instrumentalisiert werden. Historische Quellen und wissenschaftliche Forschung dürfen nicht von massenhaft KI-generierten Inhalten verdrängt werden. Wir wollen, dass echte Stimmen und vielfältige Perspektiven gehört werden.

Wir sind nicht gegen digitale Formen des Gedenkens und der Vermittlung. Auch künstliche Intelligenz kann in der historisch-politischen Bildungsarbeit durchaus sinnvoll eingesetzt werden. Die gesamtgesellschaftliche Herausforderung besteht jedoch darin, ethische und historisch verantwortungsvolle Standards für diese Technologie zu entwickeln. Plattformbetreiber tragen dabei eine besondere Verantwortung: Sie müssen sicherstellen, dass das Leid der Opfer nicht durch emotionalisierte Fiktionen trivialisiert wird.

Wir fordern Plattformbetreiber auf:

1. Proaktiv gegen geschichtsverfälschende KI-Inhalte vorzugehen. Nicht erst nach Nutzer*innenmeldungen.

2. Geschichtsverfälschende und irreführende Inhalte als Fehlinformation über die internen Meldesysteme meldbar zu machen.

3. Konten, die solche Inhalte verbreiten, von allen Monetarisierungsprogrammen auszuschließen.

4. KI-generierte Inhalte ausnahmslos zu kennzeichnen und bei Verstößen gegen die Kennzeichnungspflicht zu entfernen.

5. Mit Gedenkstätten, Archiven und Expert*innen zusammenzuarbeiten, um Erkennungssysteme für Holocaust-bezogene Fehlinformationen zu verbessern

*

Parokrotnie już na tym blogu pisałam o problemie z używaniem sztucznej inteligencji w odniesieniu do Holokaustu, jak i samych sprawców Zagłady. Najlepiej widać to (dosłownie!) na przykładzie Irmy Grese, której postać została już tak bardzo wypaczona i zniekształcona przez kulturę masową, że dziś trudno odróżnić, co jest prawdą odnoszącą się do jej życia i śmierci, a co jest tylko fantazją współczesnych twórców cyfrowych lub pisarzy. 

Przykład filmu, w którym użyto obrazów wygenerowanych przez AI, YouTube.

Mam wrażenie jakby pracownicy niemieckich Miejsc Pamięci obudzili się w styczniu 2026 roku, otworzyli oczy i ujrzeli sztuczną inteligencję po raz pierwszy w życiu! Czemu dopiero teraz wystosowano taki "list otwarty" nawołujący właścicieli platform społecznościowych do zgłaszania nieprawdziwych fotografii czy wizerunków ofiar, tego nie wiem... A problem przecież narastał przynajmniej od kilku lat... Przeglądając Instagram czy amatorskie filmy w serwisie YouTube można zobaczyć setki nieprawdziwych zdjęć, jedynie stylizowanych na autentyczne fotografie z wyzwolenia obozów koncentracyjnych. 

Wśród tych ujęć wiele przedstawia sztucznie wykreowane wizerunki nadzorczyń obozowych, znęcających się nad więźniarkami lub wiszącymi na sznurach egzekucyjnych już po wykonaniu wyroku. Myślę, że nie da się już tego zatrzymać, to zaszło za daleko. Nie można usunąć setek tysięcy filmów czy zdjęć AI zamieszczanych każdego dnia na platformach społecznościowych. Co gorsza, tego typu amatorskie filmy mają słabą jakość merytoryczną, a informacje w nich podane, pokazują nieprawdziwe wydarzenia. Prymitywne obrazy bazujące na ukazaniu jak największej przemocy w odniesieniu do ofiar II wojny światowej, napędzają jednocześnie hejt i słowną przemoc skierowaną w stronę sprawców, o czym także pisałam na blogu omawiając hejterskie komentarze kierowane wobec Irmy Grese i jej rodziny. Sama Irma Grese może już ich nie przeczyta i nie może na nie zareagować, ale czy to daje współczesnym odbiorcom upoważnienie do nakręcania nowej spirali nienawiści wobec osób, które zostały już osądzone za swoje czyny i skazane na śmierć 80 lat temu? 

Jest to z pewnością aktualny problem, przed którym stoją dzisiejsi badacze Zagłady, nie tylko w Niemczech. Coraz częściej organizowane są konferencje i sympozja naukowe, na których tematem przewodnim są współczesne technologie, wykorzystywane do pracy edukacyjnej w Miejscach Pamięci. Każde nowoczesne narzędzie pracy trzeba używać świadomie. Trzeba też pamiętać, że za każdym przerobionym zdjęciem postaci uznanej już za historyczną, kryje się prawdziwy człowiek ze swoją przeżytą biografią. Pokazanie prawdy o tym człowieku poprzez autentyczne ślady jego istnienia - jest naszym nadrzędnym obowiązkiem.    

Zobacz też: