KI, Desinformation und Demokratiebildung - Im Gespräch mit Nicole Rauch
Im digitalen Zeitalter steht die Demokratie vor neuen Herausforderungen – und Chancen. Mit dem Aufkommen Künstlicher Intelligenz (KI) haben sich die Möglichkeiten der Informationsverarbeitung und -verbreitung erweitert. Gleichzeitig wächst die Gefahr gezielter Desinformation, die mithilfe von KI effizienter, glaubwürdiger und schneller als je zuvor verbreitet werden kann. Höchste Zeit also, dass wir genau unter die Lupe nehmen, welche Rolle die spielen kann, wie kritische Medienkompetenz gestärkt wird und welche Potenziale KI für die Bildung bietet. Dazu fand am 17. Juni 2025 ein Digitalcafé für pädagogische Fachkräfte statt, bei dem Nicole Rauch als Expertin in das Thema einführte. Nicole ist seit 2018 medienpädagogische Referentin am JFF – Institut für Medienpädagogik in Forschung und Praxishttps://www.jff.de/ und setzt Projekte an der Schnittstelle von Medienpädagogik und Demokratiebildung um. Wir haben sie gefragt: (Wie) passen KI und Demokratiebildung zusammen und wie kann ich dazu mit jungen Menschen arbeiten?
DKJS: Nicole, was hat denn KI eigentlich mit Demokratie und Demokratiebildung zu tun?
Nicole: Medien und sind eng verbunden. Medien bieten Zugang zu aktuellen politischen Informationen und ermöglichen politische Partizipation, besonders über Social Media. KI spielt dabei eine immer größere Rolle, z. B. als Filter, medialer Verstärker und Tool zur Medienproduktion. KI-Algorithmen filtern Inhalte auf Basis meines Nutzungsverhaltens, etwa auf TikTok: Schenke ich Inhalten viel Aufmerksamkeit, die sich positiv mit Queerness auseinandersetzen, indem ich sie länger ansehe, danach suche und like, lernen KI-Algorithmen das und mir werden sehr wahrscheinlich mehr Inhalte aus dieser Perspektive ausgespielt. Das beeinflusst, welche politischen Inhalte und Narrative ich wahrnehme. So funktioniert KI auch als medialer Verstärker, da bestehende Überzeugungen verstärkt werden (Stichwort Filterblase). Mit KI können zudem Inhalte generiert werden - z. B. Bilder, Videos und Kommentare. Das ermöglicht einerseits , andererseits können KI-Inhalte und deren massenhafte Verbreitung demokratische Debatten verzerren. Das sehen wir aktuell zum Beispiel bei der AfD und bei Donald Trump, die KI-generiertes Bild- und Videomaterial für ihre politische Kommunikation nutzen, ohne dies zu kennzeichnen. Ein Beispiel dafür ist das Video „Trump Gaza“, in welchem Zukunftsvisionen des Gazastreifens als Ferienparadies dargestellt werden. Das KI-Video zeigt auf eine menschenverachtende Art und Weise, wie KI als Instrument für politische Manipulation und Verzerrung politischer Debatten genutzt werden kann. KI ist bereits fester Teil unseres Medienalltags und kann Möglichkeiten der politischen Partizipation bieten, aber auch eine Gefahr für die Demokratie darstellen. Für die Demokratiebildung ist es daher wichtig, Chancen und Risiken differenziert und gemeinsam mit den Kindern und Jugendlichen zum Thema zu machen.
DKJS: Welche Risiken siehst du in Bezug auf KI und Desinformation? Und welche Potenziale bietet die KI?
Nicole: Kritisch sehe ich, dass KI-generierte Inhalte bisher ohne Kennzeichnung geteilt werden. Nutzer:innen müssen sich selbst die nötigen Kompetenzen aneignen, um KI-Inhalte entlarven zu können. Da sich KI-Tools gerade extrem schnell entwickeln, wird es bald auch für geschulte Augen immer schwerer werden, KI-Inhalte zu identifizieren. Deshalb halte ich die Kennzeichnung von KI-Inhalten sowie zuverlässige KI-Detektoren für wichtig.
Bei KI und Desinformation geht es um bekannte Risiken wie Manipulation, Hass und Hetze, die durch KI jedoch noch verstärkt werden, da die Erstellung emotionaler Bilder schneller und einfacher ist und der digitale Diskurs z. B. durch KI-Chatbots beeinflusst werden kann. Vor circa einem Jahr wurde ein KI-Bild massenhaft geteilt, das eine Luftaufnahme von Rafah zeigen soll, ein Zeltlager im Süden Gazas. Auf dem Bild ist groß „All eyes on Rafah“ zu lesen, geformt aus weißen Zelten. Es wurde mehr als 40 Millionen Mal geteilt und galt als Zeichen der Solidarisierung mit der palästinensischen Bevölkerung. Ich konnte am Anfang selbst nicht richtig einordnen, was das für ein Bild ist. KI ermöglicht es, schnell und einfach eindrucksvolle, emotionale Bilder zu erzeugen. Gleichzeitig ist es nur ein Tool als Mittel zum Zweck: Das Bild hätte auch in einem Designprogramm erstellt werden können und vielleicht den gleichen Effekt gehabt. Es ist wichtig, die Themen hinter der Technik zu besprechen und Inhalte nicht direkt zu problematisieren, weil KI im Spiel ist.
KI erleichtert die Produktion eindrucksvoller Inhalte, was politische Partizipation fördern, aber auch Desinformation verstärken kann. Wichtig ist ein differenzierter Blick: KI macht Fehler, reproduziert Stereotype, ist Instrument für Desinformation, liefert gleichzeitig aber auch neue kreative Möglichkeiten, kann Sprachbarrieren überwinden sowie individualisiertes Lernen und Inklusion fördern.
DKJS: Wie können wir junge Menschen für den kompetenten und kritischen Umgang mit KI stärken? Was braucht es hier?
Junge Menschen nutzen täglich Plattformen wie Instagram oder TikTok, die mit KI-Algorithmen arbeiten und sehen oder teilen dort KI-Inhalte. Sie nutzen auch aktiv KI-Tools wie ChatGPT für die Schule oder in der Freizeit. Die KI ist Teil der Lebensrealität junger Menschen. Wichtig ist, Wissen über KI, ihre Chancen und Risiken zu fördern und Räume zu schaffen, in denen sich junge Menschen mit Unterstützung von Pädagog:innen, Eltern oder Bezugspersonen kritisch und konstruktiv mit KI auseinandersetzen und eigene Erfahrungen teilen können. Es ist wenig zielführend, KI grundsätzlich als Gefahr zu sehen. Stattdessen braucht es einen differenzierten Blick auf KI-Tools und Inhalte, um Gefahren und (kreative) Potenziale abzuwägen. Dabei ist die Haltung als Pädagog:in entscheidend: Es ist nicht nötig und auch nicht möglich, technisch alles zu wissen oder alle Tools zu kennen. Vielmehr sollte man sich nicht verunsichern lassen, sondern gemeinsam mit den Jugendlichen lernen und KI thematisieren.
DKJS: Ganz konkret: Wie können wir mit Kindern und Jugendlichen zu KI und Desinformation arbeiten?
Nicole: Es gibt viele Methoden für Pädagog:innen, um spielerisch KI und Desinformation zu thematisieren und Medienkompetenz zu fördern. Im Isso! des JFF – Institut für Medienpädagogik wurde zum Beispiel die Methode Fake or Real – Klammeraktion entwickelt: Nachrichten und Meldungen aus dem Netz werden ausgedruckt und auf einer Leine aufgehängt. Die Teilnehmenden bekommen Wäscheklammern, auf denen auf der einen Seite Fake und auf der anderen Seite Real steht. Sie können aus ihrem Bauchgefühl heraus ihre Klammern setzen und im Anschluss wird gemeinsam recherchiert und über die Entscheidungen der Teilnehmenden gesprochen. Je nach Themenauswahl funktioniert die Methode mit Kindern und mit Jugendlichen.
Spannend kann auch ein Rätsel sein, bei dem KI-Bilder und echte Bilder verglichen werden und der kritische Blick auf Inhalte geschärft wird. Jüngere Kinder können spielerisch lernen, wie Maschinen „denken“, indem sie in Teams einen „Roboter“ steuern. Ein Kind ist der Roboter und muss ein Ziel erreichen, dabei gibt es drei Steuerelemente: oben am Kopf ist der Startknopf und der Befehl zum geradeaus laufen, die Schultern führen nach rechts und links in einer 45 Grad-Drehung. Das spielerische, digitale Tool „Quick, Drawhttps://quickdraw.withgoogle.com/?locale=de!“ von Google eignet sich, um über maschinelles Lernen und Mustererkennung zu sprechen. Innerhalb von 19 Sekunden muss eine Skizze von einem vorgegebenen Objekt gezeichnet werden, z. B. von einem Koffer. Die KI versucht zu erraten, was gemalt wird. Mit Jugendlichen eignen sich KI-Tools wie ChatGPT, um gesellschaftspolitische Konflikte aus verschiedenen Perspektiven zu diskutieren und Argumentationsfähigkeiten zu stärken. Beispielsweise kann eine Diskussion aus zwei Perspektiven geführt werden oder die KI dazu aufgefordert werden, die eigene Sichtweise mit guten Argumenten zu widerlegen. Das sind nur einige von vielen Beispielen, die zeigen, wie man mit Kindern und Jugendlichen den kritischen Umgang mit KI und Desinformation fördern kann.
Vielen Dank für das Interview!
Viele weitere Methodentipps sowie Literatur zur Vertiefung findest du auf der TaskCardhttps://dkjs.taskcards.app/#/board/4184ce34-4d98-4569-ae35-0481e42804d4?token=783ccd9e-ace1-4d0a-9ee1-9207dd356852 zum Digitalcafé.
