Fake News per Knopfdruck

Text-zu-Bild-KI fordert mit ihrer Geschwindigkeit und ihrem gesteigerten Potential für Fehlinformationen die Demokratie heraus. Anstelle von pauschalen Verboten müssen die Rahmenbedingungen für ihre Nutzung über eine Auseinandersetzung mit der Zivilgesellschaft gestaltet werden, argumentiert Benedikt Backhaus.

Wir schreiben den 20. März 2023. In Windeseile verbreiten sich die Bilder: Sie zeigen Donald Trump, wie er von New Yorker Polizisten niedergerungen wird. Noch vor seinem Erscheinen vor dem Strafgerichtshof in Manhattan greifen die uniformierten Beamten durch und verhaften den Ex-US-Präsidenten.

Scheinbar.

Denn die Fotos sehen zwar auf den ersten Blick echt aus. Mehrere Millionen Menschen haben sie in den ersten Stunden nach ihrer Veröffentlichung gesehen. Sie sind aber nicht echt, sondern wurden mithilfe des KI-Modells Midjourney erzeugt.

Dass ausgerechnet der Mann im Mittelpunkt künstlich generierter Bilder steht, der regelmäßig Begriffe wie “Fake News” und “Hexenjagd” für ihm unliebsame Berichterstattung verwendete, ist ironisch.

Das Beispiel verdeutlicht allerdings die Herausforderungen, die KI und insbesondere Text-zu-Bild-Modelle für liberale Demokratien bereithalten. Binnen kürzester Zeit können diese Anwendungen bestehende Bilder verändern oder gänzlich neue erstellen. Mit menschlichem Auge sind die Ergebnisse nicht mehr von echten Aufnahmen zu unterscheiden.

Generative KI ist der Buchdruck des 21. Jahrhunderts

Die niedrigen Einstiegshürden erlauben es jedem mit einem Computer und Internetzugang, überzeugende Inhalte zu erstellen – unabhängig von Programmierkenntnissen oder künstlerischen Fähigkeiten.

Meine künstlerische Begabung in der analogen Welt kann sich auf dem Niveau eines Drittklässlers bewegen. Trotzdem verfüge ich mithilfe Generativer KI über einen Pinselstrich wie Salvador Dalí und fotografisches Können wie Annie Leibovitz. Und das sogar gleichzeitig.

Auch komplexe Inhalte können dabei mit drastisch weniger Zeitaufwand erstellt werden, nahezu in Echtzeit. Picasso hat an Guernica mehrere Wochen gearbeitet, Da Vinci am Abendmahl mehrere Jahre. Die Zeit, die beide für ihre Ausbildung und Perfektionierung ihrer Fertigkeiten benötigt haben, ist hier noch nicht einmal berücksichtigt. Mit moderner KI und leistungsfähigen Rechnern können dagegen Kunstwerke und Fotos in wenigen Sekunden erzeugt werden.

Diese Kombination aus niedrigen Zugangshürden und hoher Produktionsgeschwindigkeit führt zu einem explosionsartigen Anstieg neuer Inhalte. So wie der Buchdruck im 15. Jahrhundert die Informationsverbreitung revolutionierte, hat Text-zu-Bild-KI im 21. Jahrhundert das Potenzial, die Erstellung visueller Erzählungen zu revolutionieren.

Denn bisher war diese Fähigkeit auf eine künstlerische Elite beschränkt und damit nur sehr wenigen Personen vorbehalten. Voraussetzung war ein Mindestmaß an Talent, gepaart mit einer langwierigen künstlerischen Ausbildung. Oftmals ging damit die Abhängigkeit von wohlhabenden oder politisch einflussreichen Förderern einher. Schließlich sollte der Lebensunterhalt gesichert werden und das eigene Schaffen keine „brotlose Kunst“ bleiben.

Der Kreis der Kreativschaffenden ist bei weitem nicht mehr so exklusiv wie früher: Adobe beliefert über 30 Millionen zahlende Abonnenten und hat seine Bildbearbeitungssoftware Photoshop kürzlich um zahlreiche KI-Funktionen erweitert. Midjourney ist im März 2022 gestartet und zählt aktuell über 17 Millionen Accounts.

Für jeden Nutzer driftet das Verhältnis zwischen Aufwand und Ergebnis mit Generativer KI massiv auseinander. Früher mussten für ein qualitativ hochwertiges Ergebnis viel Können, Zeit und Arbeit investiert werden. Heute sind nicht einmal mehr spezielle Softwarekenntnisse gefordert. Simple Textanweisungen, im Extremfall sogar ein einzelnes Wort, sind ausreichend.

Das Revolutionäre liegt genau in dieser Kombination: Mit minimalen Zugangshürden kann jeder in Sekunden massenweise Bilder – von Fotos über Zeichnungen bis hin zu Ölgemälden – in höchster Qualität erzeugen und verbreiten.

Neue Technologie kann die Repräsentation stärken

Diese neuen Möglichkeiten müssen für liberale Demokratien nicht schlecht sein. Denn verbesserte visuelle Kommunikation kann komplexe Informationen verständlicher machen. Das stellt im Grunde keine völlige Neuerung dar. Bereits heute werden Bilder eingesetzt, um gewünschtes Verhalten zu erreichen – man denke nur an “Schockbilder” auf Zigarettenpackungen.

Außerdem können Text-zu-Bild-Modelle prinzipiell die Inklusion stärken. Durch visuelle Darstellungen können verschiedene Zielgruppen angesprochen werden, darunter auch solche mit eingeschränkten Lesefähigkeiten. Allein in Deutschland leben schätzungsweise 6,2 Millionen Analphabeten.

Zudem haben visuelle Inhalte im Vergleich zu reinem Text das Potenzial, mehr Aufmerksamkeit zu wecken, Emotionen hervorzurufen und die Beteiligung am politischen Diskurs zu fördern.

Demokratie ist nicht auf Geschwindigkeit ausgelegt

Trotz dieser Chancen ist wie bei jeder neuen Technologie die Verunsicherung groß. Und eine gewisse Skepsis scheint mit Blick auf die Grundlagen liberaler Demokratien durchaus begründet.

Denn die Möglichkeiten für Fehlinformationen und Manipulation werden mit bildgenerierender KI deutlich gesteigert. Schließlich kann sie ohne weiteres für die Erstellung irreführender Inhalte verwendet werden.

Es bedarf besserer Regulierungsansätze und einer aktiven Mitwirkung der Zivilgesellschaft.

Die Manipulation von Bildern ist in der Politik gewiss nicht neu und wird seit tausenden von Jahren praktiziert. Zumeist ging diese allerdings von der Spitze des Staates aus und hatte somit einen herrschaftsbewahrenden Charakter. Auch moderne Mittel zur Bildmanipulation waren bislang aufgrund der technischen Komplexität effektiv nur wenigen Personen zugänglich. Mit der Generativen KI stellt sich dieses Verhältnis auf den Kopf: so voraussetzungsarm die Technologie ist, so groß ist die Vielfalt an möglichen Verwendungen und der Kreis der potenziellen Anwender.

Das umfasst auch den bewussten Einsatz durch böswillige Akteure, die die Integrität politischer Systeme angreifen wollen. Solche Fehlinformationen können das öffentliche Vertrauen untergraben und die öffentliche Meinung verzerren.

Das weitaus größere Problem für demokratische Systeme stellt jedoch die verschärfte Geschwindigkeit dar, mit der generative KI arbeitet. Sie steht im krassen Widerspruch zu demokratischen Entscheidungsprozessen mit ihrem Anspruch auf gesellschaftlich repräsentative und durchdachte Diskurse.

Wenn sich Bilder per Knopfdruck erzeugen sowie verbreiten lassen und diese unmittelbar die öffentliche Meinung beeinflussen, wird die ausführliche Diskussion komplizierter Zusammenhänge und das Abwägen verschiedener Lösungen erschwert.

Noch gravierender kann der Einfluss auf die Bereitschaft zur Mitwirkung an der Demokratie ausfallen. Angesichts geringer Wahlbeteiligungen und einer ohnehin parteien- und medienskeptischen Bevölkerung droht die Kluft zwischen Regierenden und Regierten noch größer zu werden.

Zugespitzt formuliert: Wenn ich mir als Bürger nicht mehr sicher sein kann, was “echt” ist und was künstlich erzeugt, warum soll ich dann überhaupt an der politischen Willensbildung teilnehmen?

An besserer Bildung führt kein Weg vorbei

Es überrascht nicht, dass angesichts dieser Herausforderungen schnell der Schrei nach Verboten laut wurde. Ausgerechnet Bildungseinrichtungen wie Schulen und Universitäten, auch zeitweise ganz Italien haben diesen Weg beschritten.

Er ist jedoch nicht zielführend. Denn in der Geschichte haben sich Versuche, neue Technologien einzudämmen oder Wissen zu beschränken, als vergeblich erwiesen. Die Eindämmung des Buchdrucks durch die Beschränkung auf die Elite oder religiöse Institutionen hat seine Auswirkungen auf die Gesellschaft nicht aufgehalten.

Mehr noch: Zensur oder grundsätzliche Beschränkungen widersprechen den Grundsätzen der freien Meinungsäußerung, der repräsentativen Entscheidungsfindung und des offenen Ideenaustauschs. Mit einem Rückgriff auf solche Mittel zerstört die Demokratie genau jene Wesensmerkmale, die sie auszeichnen.

Es bedarf also besserer Regulierungsansätze und einer aktiven Mitwirkung der Zivilgesellschaft. Nur wenn sich Bürger in die Debatte um den Umgang mit neuen technologischen Möglichkeiten einbringen, können sie ihre Lebenswirklichkeit mitgestalten.

Ein Weg ist die Einführung einer Kennzeichnungspflicht, die KI-generierte Inhalte als solche erkennbar macht. Gängige Social-Media-Plattformen erlegen das bereits ihren Nutzern auf. Damit haben sie auch eine Grundlage, um gegen Inhalte vorzugehen, die gegen ihre Bedingungen verstoßen.

Eine Herausforderung dieses Ansatzes stellt die schnelle Durchsetzung von Berichtigungen und Löschungen dar, die in eine endlose Spirale technologischer Abhängigkeit zu führen droht. Für Demokratien mit eher schwerfälligen Verwaltungsapparaten ist diese Option schwierig.

Eine weitere Möglichkeit ist die Mithaftung von Herstellern von KI-Modellen für unerwünschte Folgen. Im April hat die EU-Kommission ein Milliarden-Bußgeld gegen Google für den Verstoß gegen Wettbewerbsrecht verhängt. Ähnliches ist für KI denkbar, wenn Modelle die Erstellung von Falschinformationen oder menschenverachtenden Bildern begünstigen. Ähnlich wie bei analoger Kunst wäre im Rechtsstaat hier die Frage zu klären: Wo genau verläuft die Grenze zwischen Leitplanken und auszuhaltender künstlerischer Freiheit?

Bleibt noch die öffentliche Bildung. Und an der führt kein Weg vorbei. Ein bundesweiter Ansatz ist angesichts der föderalen Vielfalt in Deutschland unrealistisch. Dennoch scheint die Schul- und Universitätslandschaft noch am besten geeignet, um den reflektierten Umgang mit Innovationen zu stärken. Die verpflichtende Befähigung von aktuellen und angehenden Lehrkräften zur Vermittlung von Methodenwissen und dem kritischen Umgang mit technologischen Neuerungen muss am Anfang stehen. Auch die Einführung einer Fortbildungspflicht für lehrende Beamte sollte in Betracht gezogen werden.

Die Zeit drängt. Denn schon jetzt zeichnet sich das Aufkommen von Text-zu-Video-Modellen ab – mit noch weitreichenderen Konsequenzen als bei der Bildgenerierung. Es wird für liberale Demokratien und ihre Bürger also höchste Zeit, “Neuland” zu betreten und die Debatte um dessen Gestaltung zu starten.