Täuschend echte Fake-Bilder in Wahlkämpfen, KI-generierte Deepfakes von Politiker:innen, perfekt inszenierter digitaler Kitsch in unseren Social-Media-Feeds – Künstliche Intelligenz verändert nicht nur, wie wir Inhalte produzieren, sondern auch, wie wir Wahrheit wahrnehmen. Dr. Dorothea Winter, Philosophin und wissenschaftliche Mitarbeiterin an der Humanistischen Hochschule Berlin, forscht zu genau diesen Fragen: an der Schnittstelle von KI-Ethik, Demokratietheorie und Bewusstseinsphilosophie. 

Im Gespräch erklärt Winter, wer die Verantwortung für den richtigen Umgang mit KI trägt, warum KI-generierte Bilder demokratische Diskurse gefährden können – und warum die Frage nach dem Bewusstsein von ChatGPT nicht nur Philosoph:innen beschäftigen sollte, sondern rechtliche und ethische Folgen für uns alle hat. 

Frau Winter, KI-generierte Bilder und Videos sind inzwischen so gut, dass selbst Expert:innen sie kaum von echten unterscheiden können. Sie sagen, solche Inhalte sind „für den Populismus extrem nützlich“. Warum ist das eine Gefahr für die Demokratie? 

Man muss sich von dem Gedanken verabschieden, beurteilen zu können, ob ein Bild oder Video KI-generiert ist. Das ist für sich genommen kein Problem – wird aber schnell eines im demokratischen Kontext. Denn Bilder und Videos galten lange als Beweise: Vom Massaker von Sharpeville 1960 über den Fall Rodney King 1991 bis zu den Handyaufnahmen des Anschlags in Halle 2019 wurden sie zu entscheidenden Belegen demokratischer Öffentlichkeit, weil sie Gewalt sichtbar machen und Aufarbeitung vorantreiben. Doch die Wahrheit des Bildes ist tot. Und das auch wegen KI. 

Und das weiß auch der Populismus. Populistische Kommunikation lebt von starken Bildern und emotionalen Zuspitzungen – mithilfe von KI lässt sich in Sekundenschnelle eine Bedrohung inszenieren oder eine Aussage zeigen, die nie gefallen ist. Und noch schlimmer, wenn alles potenziell manipuliert ist, reicht es, Zweifel zu säen. Wenn ich etwa ein Instagram-Reel sehe, in dem Bettina Jarasch fordert, obdachlose Menschen in Sammellager außerhalb Berlins zu bringen – eine Position, die offenkundig nicht zu ihrer politischen Linie passt –, empöre ich mich vermutlich darüber und könnte Desinformation verbreiten, ohne dass ich es merke. Genau darin liegt die Gefahr: Es entsteht ein demokratisch-kulturelles Klima, in dem Sichtbares, Messbares und Fakten dann auch ihre Beweiskraft verlieren. 

Früher brauchte man Fotograf:innen und Grafikteams, um überzeugende Bilder zu erstellen. Heute kann jeder am Laptop in Sekunden täuschend echte Inhalte produzieren. Was macht diese Masse an KI-Content mit unseren demokratischen Diskursen? 

Fälschungen sind nicht neu – man denke an retuschierte Stalin-Fotografien, Powells Beweisbilder vor den UN 2003 oder das verlangsamt verbreitete Pelosi-Video 2019. Neu ist durch KI allerdings die Geschwindigkeit, Skalierbarkeit und Zugänglichkeit dieser Fakes. KI ermöglicht es etwa auf Social Media, massenhaft scheinbare Bürger:innenstimmen zu erzeugen, die politische Mehrheiten simulieren, wodurch demokratische Meinungsbildung leichter orchestrierbar wird. 

Deepfakes funktionieren gewissermaßen wie „Ereignisse ohne Ereignis“: Empörung entsteht, bevor überprüfbare Fakten vorliegen. Im US-Wahlkontext 2024 kursierten KI-Bilder von Donald Trump und Taylor Swift, die politische Unterstützung zu den jeweiligen politischen Lagern suggerierten; in europäischen Wahlkämpfen wurden Politiker:innen Aussagen zugeschrieben, die so nie gefallen sind. Und schließlich entsteht eine „KI-Gap“: Wer KI-Kompetenz hat, kann Inhalte einordnen; wer das nicht hat, glaubt, was er sieht – und das verstärkt bestehende Ungleichheiten politischer Teilhabe. KI-Fakes setzen Themen und erzeugen Stimmungen, selbst dann, wenn sie später widerlegt werden. Nur das kümmert dann niemanden mehr. 

Sie nennen viele KI-Bilder „Kitsch“ – leicht reproduzierbar, klischeehaft, ohne Tiefe. Warum ist das mehr als nur eine ästhetische Frage? 

Wenn ich KI-Output als „Kitsch“ beschreibe, geht es mir nicht primär um ästhetische Geschmacksfragen, vielmehr um eine Verschiebung dessen, was wir als Kreativität und Bedeutung wahrnehmen. KI produziert besonders gut das, was bereits oft gesehen wurde – das Wahrscheinlichste, das Generischste. Tiefe, Ambivalenz und Brüche fehlen: genau das, was wir von guten Bildern in Kunst, Design und Fotografie erwarten. 

Der KI-Einheitsbrei hat weitreichende Folgen, er wirkt normierend: Wir gewöhnen uns an Glätte, sofortige Verständlichkeit und Perfektion. Das kulturelle Risiko besteht darin, dass Irritation, Uneindeutigkeit und politische Aussagen peu à peu an Wert verlieren – genau jene Qualitäten, die Kunst und damit die demokratische Öffentlichkeit tragen. 

Social-Media-Plattformen verdienen an polarisierenden Inhalten – auch an KI-Fakes. Wer trägt die Verantwortung – Politik, Unternehmen oder die Nutzer:innen selbst? 

Wir alle tragen Verantwortung. Allerdings nicht alle gleich viel. Verantwortung wächst mit Handlungsmacht. 

Nutzer:innen haben Macht (und deshalb Verantwortung) darin, welche Inhalte Reichweite bekommen, deshalb ist Medienkompetenz so wichtig als Teil demokratischer Meinungsbildung. Doch individuelle Verantwortung hat klare Grenzen, weil Einzelne digitale Strukturen kaum überblicken geschweige denn beeinflussen können. 

Unternehmen tragen hingegen deutlich mehr Verantwortung, weil sie Plattformdesign, Algorithmen und Geschäftsmodelle gestalten. Das beschreibt die Philosophin Iris Marion Young ganz gut: In ihrem sozialen Verbindungsmodell ergibt sich Verantwortung nicht aus direkter Schuld, sondern daraus, Teil von Prozessen zu sein, die bestimmte Ergebnisse hervorbringen. Entscheidend ist, wer Einfluss hat, profitiert und verändern kann. Übertragen auf KI-Plattformen heißt das, dass Nutzer:innen zwar beteiligt sind, Unternehmen und Politik jedoch strukturell die Verantwortung tragen. Regulierung – Transparenzpflichten, Kennzeichnung synthetischer Inhalte, Haftungsregeln – schafft die Voraussetzungen dafür, dass digitale Öffentlichkeit nicht allein durch ökonomische Dynamiken bestimmt wird. 

In Ihrer Dissertation haben Sie über Intentionalität und KI geforscht. Hat ChatGPT ein Bewusstsein – und warum ist das keine rein akademische Frage? 

Systeme wie ChatGPT haben keine Intentionalität, sie können nicht denken. Intentionalität ist nämlich an Subjektivität gebunden – also daran, dass ein Jemand etwas wahrnimmt, erlebt, meint oder will. KI-Systeme berechnen Wahrscheinlichkeiten und erzeugen Formulierungen, die wie Verstehen wirken, es liegt aber kein tatsächliches Verstehen vor. 

Wenn wir diese Grenze verwischen, begehen wir einen anthropomorphen Fehlschluss – eine Vermenschlichung. Wir kennen das aus dem Alltag: die „nervöse“ Börse, Autos, die nicht anspringen „wollen“. In solchen Fällen ist diese Vermenschlichung völlig unbedenklich, weil wir ja wissen, dass weder das Auto noch die Börse etwas will. Bei KI ist das aber anders. Umfragen zeigen, dass etwa Jugendliche emotionale Bindungen zu Chatbots entwickeln. Das hat natürlich weitreichende Folgen für unser demokratisches Miteinander – etwa wenn reale soziale Kontakte gegen solche mit KI-Systemen ausgetauscht werden. Oder wenn KI-generierte Bots als Stimme von „jemandem“ wahrgenommen werden und dadurch die politische Meinungsbildung auf Social Media beeinflussen. 

Wie wir die Frage beantworten, ob KI-Systeme Intentionalität haben oder eben nicht, hat also ganz immense demokratietheoretische Folgen. 

Angenommen, wir würden großen Sprachmodellen ein Bewusstsein zuschreiben: Bekommt die KI dann Rechte? Das klingt absurd – aber ist es das wirklich? 

Wenn KI-Systemen Intentionalität zugeschrieben würde, müsste man tatsächlich über KI-Rechte sprechen. Intentionalitätsvermögen ist eng mit Verantwortung, Zurechenbarkeit und moralischem Status verbunden. Ein System, dem eigene Absichten zugeschrieben werden, erscheint nicht mehr nur als Werkzeug, sondern als möglicher Träger von Rechten und Pflichten. 

Der Philosoph David Chalmers argumentiert, dass fortgeschrittene KI bewusste Zustände entwickeln könnte – woraus moralischer Status folgen würde, vergleichbar mit abgestuften Rechten, wie sie für Tiere diskutiert werden. Die Gegenposition warnt vor einem wachsenden „responsibility gap": Würde man Systemen Rechte zuschreiben, könnte Verantwortung scheinbar auf Maschinen übergehen, obwohl Gestaltung und Einsatz weiterhin menschlich bestimmt sind. Wer KI-Systemen Intentionalität zuschreibt, fordert im Grunde eine Revolution der geltenden Rechtspraxis – ich bin mir nicht sicher, ob alle, die diese Position vertreten, sich darüber wirklich bewusst sind. 

Welche Rolle kann Berlin mit seinem KI-Ökosystem dabei spielen, ethische Standards mitzugestalten? 

Berlin kann hier eine besondere Rolle spielen, weil sich in der Stadt ein dichtes KI-Ökosystem gebildet hat: Forschungseinrichtungen, Startups, Zivilgesellschaft, Verwaltung und Kultur arbeiten räumlich nah beieinander und treffen niedrigschwellig aufeinander. Dadurch entstehen Orte, an denen technologische Entwicklung, gesellschaftliche Reflexion und politische Regulierung gemeinsam stattfinden können – die Voraussetzung dafür, dass ethische Standards nicht nur formuliert, sondern praktisch erprobt werden. 

In Bezug auf KI wird vor allem die interdisziplinäre Forschung entscheidend sein: Fragen zu Autorschaft, Vertrauen, Manipulation und Demokratie lassen sich nicht aus einer Disziplin allein beantworten. Das gelingt nur im Zusammenspiel von Zivilgesellschaft, Politik, Wissenschaft und Wirtschaft. Wenn Berlin diese Zusammenarbeit strategisch stärkt, kann sich die Stadt als KI-Ethik-Hauptstadt positionieren – als Ort, an dem Innovation und normative Reflexion zusammen gedacht werden. 

Vielen Dank für das Gespräch.