Deepfakes

Abbildung 1.1 Welche der abgebildeten Gesichter sind maschinell erzeugt?

Sehen Sie sich die Abbildung 1.1 an. Welche Gesichter sind Fake, also künstlich erzeugt, was denken Sie? Die kleineren verpixelten Schwarz-Weiß-Bilder links? Korrekt. Oder haben Sie eher die beiden Gesichter auf der rechten Seite im Verdacht? Auch dann liegen Sie richtig. Alle Bilder, die Sie hier sehen, sind Fake, synthetisch erzeugt, Produkte Künstlicher Intelligenz.

Es ist gar nicht lange her, da war das Manipulieren von Medien - Fotos, Videos und Audiodateien - allein den Spezialisten vorbehalten oder Akteurinnen mit immensen Ressourcen, wie Staatsregierungen oder Hollywood-Studios. Seit dem Einsatz neuer Technologien ist die Sache ein gutes Stück einfacher und zugänglicher geworden. Durch Künstliche Intelligenz aber verfügt der Mensch heute noch mal über ganz andere Mittel. Denn heute sind Maschinen nicht nur in der Lage, bestehende Medien zu manipulieren, sondern ganze Medieninhalte komplett künstlich zu erzeugen. Die Technologie dahinter ist zwar noch im Entstehen begriffen; aber dies sind auch erst die Anfänge, so viel lässt sich heute schon sagen. Wir stehen am Beginn einer KI-Revolution, die unsere Medienlandschaft beziehungsweise deren Darstellung der Wirklichkeit komplett auf den Kopf stellen wird.

Das Feld der durch Künstliche Intelligenz erzeugten synthetischen Medieninhalte entwickelt sich im Moment schneller, als die Gesellschaft hinterherkommt. Wir gehen im Normalfall immer noch davon aus, dass Videos und Audiodateien grundsätzlich echt sind, unbestechlich. Dabei begegnen uns unechte Medieninhalte viel öfter, als wir denken. Stellen wir uns also besser auf eine Welt ein, in der wir nicht mehr automatisch glauben können, was wir sehen und hören.

EINE KURZE GESCHICHTE DER MANIPULATION

Mit der Erfindung der Fotografie im 19. Jahrhundert hatte der Mensch erstmals die Möglichkeit, die »Realität« mittels eines nichtmenschlichen Mediums »einzufangen«. Bald schon stellte sich jedoch heraus, dass dieses Medium manipulierbar war - die Geschichte gefälschter Fotos ist lang. Sehen wir uns ein frühes Beispiel aus den 1860er Jahren an. Nach dem Mord an Abraham Lincoln suchte man vergeblich nach Bildern des Präsidenten, die ihn in »heroischer Pose« zeigten. Um dieses Problem zu beheben, legte ein Graveur kurzerhand eine Fotografie von Lincolns Kopf über ein Abbild des Südstaatenpolitikers John C. Calhoun. Es dauerte ein ganzes Jahrhundert, bis ihm jemand auf die Schliche kam - dass der Druck manipuliert worden war, stellte sich erst vor Kurzem heraus1.

Ein anderer bekannter Name, den man mit Fotomanipulation in Verbindung bringt, ist Josef Stalin. Im Namen des Stalinismus wurden nicht nur entsetzliche Gräueltaten begangen; seine Doktrin wurde später auch zum Synonym für Geschichtsumschreibung, inklusive der Manipulation visueller Aufzeichnungen. Unter Stalins Diktatur entwickelte sich eine ganze Industrie, die allein mit der Fälschung von Bildmaterial befasst war - was damals, als es noch keine moderne Fotobearbeitungssoftware gab, einiges an Geschick erforderte, wenn man brauchbare Ergebnisse erzielen wollte. Für die Montage zweier Bilder mussten die Negative erst mühsam zerschnitten und die Schnipsel dann akkurat übereinandergelegt werden. Neue Elemente wurden hinzugefügt, indem man sie in präziser Handarbeit ätzte, oder entfernt, indem man sie behutsam vom Negativ kratzte. Stalins pockennarbiges Gesicht wurde mühsam mithilfe einer frühen und nervtötend langsamen Airbrush-Technik geglättet. Hochkonjunktur hatte die Bildmanipulation dann in den 1930er Jahren, als Stalins sogenannte »Große Säuberungen«, bei denen er seine politischen Gegner systematisch ausschaltete, den Experten alle Hände voll zu tun gaben: Jeder, der auf Befehl Stalins getötet oder in den Gulag geschickt wurde, musste parallel aus den bis dato inszenierten Fotos herausretouschiert werden. Sehen Sie sich einmal die Abbildung 1.2 auf Seite 28 an. Auf dem oberen Bild ist Stalin auf dem Parteitag im April 1925 inmitten einer Gruppe von Abgeordneten zu sehen. Sechs dieser Männer starben später durch Selbstmord, Erschießen oder in Gefangenschaft. Nachdem man sie infolgedessen auch vom Bildmaterial entfernt hatte, blieben auf einer 1939 reproduzierten Version desselben Fotos nur noch Stalin selbst und drei seiner engen Verbündeten übrig.

Abbildung 1.2 Oben: Stalin auf dem 14. Parteitag im April 1925 inmitten einer Gruppe von Abgeordneten. Von links nach rechts: Michail Laschewitsch (Selbstmord 1927); Michail Frunse (gestorben 1925); Iwan Nikititsch Smirnow (erschossen 1936); Alexei Rykow (erschossen 1938); Kliment Woroschilow (gestorben 1969); Stalin; Mykola Skrypnik (Selbstmord 1933); Andrei Bubnow (1940 im Gulag gestorben); Sergo Ordschonikidse (Selbstmord 1937); Josef Unschlicht (erschossen 1938). David King Collection (TGA 20172/2/3/2/306)2
Unten: Dasselbe Foto - allerdings in der retuschierten Fassung, die neben Stalin nur noch Frunse und Stalins enge Verbündete Woroschilow und Ordschonikidse zeigt3.

Als das Sowjetimperium 1990 in den letzten Zügen lag, wurde die manipulative Bildbearbeitung gerade massentauglich - Photoshop kam auf den Markt, eine kommerzielle Software, die die manuelle Fisselarbeit der sowjetischen Kunsthandwerker und Kunsthandwerkerinnen unter Stalin demokratisierte und in der Bildbearbeitung ganz neue Möglichkeiten eröffnete. Heute ist Fotomanipulation ein Kinderspiel. Nicht mal einen teuren Computer oder eine spezielle Software braucht man noch dazu. Jeder kann sich kostenlose, einfach zu bedienende Bildbearbeitungs-Apps aufs Handy laden. Das Dilemma dabei ist: Wir sind nun mal so gepolt, dass wir audiovisuellen Medien, sofern sie richtig »aussehen« oder sich »anhören«, blind vertrauen. Psychologen bezeichnen dieses Phänomen als »Verarbeitungsflüssigkeit«: Wir trauen unbewusst eher den Informationen, die unser Gehirn schnell verarbeiten kann. Bei Bildern läuft dieser Entscheidungsprozess deutlich schneller ab als bei reinem Text. So fand man in einer Studie beispielsweise heraus, dass die Teilnehmenden die Aussage »Macadamianüsse gehören derselben Familie an wie Pfirsiche« eher glaubten, wenn neben dem Text ein Bild von Macadamianüssen zu sehen war4.

Wer schon im Vorfeld damit rechnet, dass ein Foto manipuliert sein könnte, kann sein auf Basis der Verarbeitungsflüssigkeit getroffenes Urteil nach dem zweiten oder dritten Mal Hinschauen zwar korrigieren. Bei Audio- und Videomaterial funktioniert das aber nicht so ohne Weiteres. Diese Medien sehen wir normalerweise immer noch als unbestechlich und echt an - weil wir grundsätzlich glauben, dass Audio- und Videoaufnahmen wiedergeben, was wir mit eigenen Augen gesehen oder mit eigenen Ohren gehört haben; die Aufnahmen fungieren sozusagen als Erweiterung unserer eigenen Wahrnehmung. Umso besorgniserregender ist es, dass sich die Mittel zur Manipulation von Audio- und Videomaterial mittels Künstlicher Intelligenz gerade jetzt so schnell weiterentwickeln - zu einer Zeit, in der diese Medien zur wichtigsten Kommunikationsform überhaupt geworden sind, und zwar nicht nur für digitale Überflieger, sondern für uns alle. Denn im Informationszeitalter sind wir nicht nur Massenkonsumentinnen und -konsumenten audiovisueller Medieninhalte - wir produzieren sie auch selbst. Milliarden Menschen konsumieren audiovisuelle Medieninhalte. Und Milliarden Menschen dokumentieren darüber ihr Leben und teilen sie über Geräte, die sie ununterbrochen bei sich haben. Synthetische Medien werden diesen Trend nur noch weiter vorantreiben: Schon bald werden wir alle in der Lage sein, Special Effects auf Hollywood-Niveau zu produzieren. Man geht davon aus, dass im Jahr 2022 das Streamen und Herunterladen von Videos 82 Prozent des weltweiten Internetverkehrs ausmachen werden. 2023 werden mehr als 70 Prozent der Weltbevölkerung einen mobilen Internetzugang haben. 5,6 Milliarden Menschen werden Videos dann nicht nur online konsumieren, sondern auch produzieren und selbst online stellen. Also nicht nur sehen und hören, sondern auch aufnehmen und teilen.

Diese außerordentliche Entwicklung wird unvorhersehbare Folgen für unsere kollektive Wahrnehmung der Wirklichkeit haben. Böswillige Akteure werden in der Lage sein, die Wahrnehmung der Wirklichkeit über manipulierte Medienkanäle in einem bislang undenkbaren Ausmaß zu beeinflussen. Und das macht uns alle angreifbar.

AUF DER LEINWAND

Einen Ort gibt es, an dem wir durchaus darauf konditioniert sind, manipulierte visuelle und auditive Inhalte zu Gesicht zu bekommen: das Kino. Uns ist bewusst, dass wir es hier mit Illusion zu tun haben. Die Kunst der visuellen Manipulation im Film kennt man seit den Anfängen des Kinos. In den 2000ern wurde diese Kunst digital und um Spezialeffekte (SFX) erweitert, wobei Profis heute fast ausschließlich mit sogenannter Computer Generated Imagery (CGI) arbeiten, um die besten Ergebnisse zu erzielen - also mit Bildern, die von Computern erzeugt wurden. Zusätzlich sind damals eine ganze Reihe kommerzieller Apps und Software auf den Markt gekommen, die es auch Laien ermöglichten, Videos zu bearbeiten und Spezialeffekte zu generieren. Die leistungsstärksten Tools aber waren immer noch besonders ressourcenstarken Institutionen wie den Filmstudios mit ihren Millionenbudgets und ganzen Teams an Special-Effect-Profis vorbehalten.

Erst die Künstliche Intelligenz hat die Tools der Hollywood-Blockbuster für uns alle optimiert und demokratisiert. Das...