VORWORT
Game-Changer oder Hype?
Dieses Buch kommt zu spät. Ebenso wie die gesellschaftliche Debatte über die Chancen und Risiken sogenannter Künstlicher Intelligenz, die hinter dem Wust aus Schlagzeilen, Werbeslogans und Schreckensvisionen so langsam zum Vorschein kommt. Eigentlich hätten wir uns schon vor fünf Jahren zusammensetzen müssen, um ein Gespräch zur Zukunft mit KI zu führen. Wir hätten die Entwicklung der Technologie in den vergangenen 20 Jahren analysieren und die Frage diskutieren müssen, was wir eigentlich von der smarten Technik wollen. Wir hätten für uns persönlich und im Austausch miteinander eine Haltung zu den Fragen finden sollen, wo der Nutzen der Technologie die Risiken übersteigt und welcher aktuelle oder künftige Anwendungszweck unsere Zustimmung an ihre Grenzen bringt. Wir - damit meine ich uns alle, jede*n Bürger*in dieses Landes, jeden Menschen in Europa und der Welt, die*der Verantwortung für die heutige Gesellschaft und das selbstbestimmte Leben kommender Generationen empfindet. Vor fünf Jahren wäre diese Debatte zur rechten Zeit gekommen, als die von der Asilomar Conference on Beneficial AI erarbeiteten 23 Prinzipien für eine gemeinwohlorientierte KI auf dem Tisch lagen. Anfang 2017 hatten 100 internationale Forscherinnen und Unternehmerinnen vereinbart, wie KI-Systeme aussehen sollten, damit alle Menschen davon profitieren. Wichtig waren ihnen die technische Sicherheit, die Orientierung an universalen Werten, der Vorzug gemeinwohldienlicher KI-Projekte bei der Vergabe von Fördergeldern und die Beteiligung aller Menschen am durch die Technologie entstehenden wirtschaftlichem Wohlstand.1
Die Asilomar-Prinzipien wurden unter anderem von Facebooks KI-Chef Yann LeCun, dem britischen Astrophysiker Stephen Hawking (┼2018), dem Techunternehmer Elon Musk, dem Mitgründer des US-KI-Unternehmens OpenAI Sam Altman und 5725 weiteren Expert*innen auf dem Gebiet unterschrieben. Auch einige Vertreter*innen der EU-Organe hatten mit Ihrer Unterschrift ihre Zustimmung zu den Regeln für gemeinnützige Künstliche Intelligenz erklärt.
Doch in der Fläche war KI damals noch kein Thema. So forderte der europäische Wirtschafts- und Sozialausschuss im Mai 2017 in einer Stellungnahme einen Verhaltenskodex für die Entwicklung, den Einsatz und die Nutzung von KI-Anwendungen, wobei vier Monate vorher 100 internationale Forscher*innen und Unternehmer*innen schon genau solch einen Kodex entwickelt hatten!2 (Die Unterschrift der für die Stellungnahme verantwortlichen EU-Parlamentarierin findet sich übrigens auch unter dem Asilomar-Papier.) In der EU wurde also 2017 zum ersten Mal auf politischer Ebene über Künstliche Intelligenz diskutiert. Während die Parlamentarier*innen in Brüssel und Straßburg also erst mal Artificial Intelligence googelten, verkündete der chinesische Staatsrat einige Wochen später, bis 2030 Weltmarktführer im Bereich KI werden zu wollen. Nach der Hälfte der Zeit ist China auf einem guten Weg dahin.
Und doch kommt dieses Buch zur rechten Zeit. Denn der neueste KI-Trend Generative KI wirft Fragen auf, die unser menschliches Selbstverständnis nicht unberührt lassen. Er wird nicht nur verändern, wie wir mit Computern, Smartphones und Onlinediensten umgehen, sondern er wird den ohnehin nicht zu unterschätzenden Einfluss technischer Systeme auf unser Leben nochmals verstärken. Trotz der beeindruckenden Anwendungen, die in den vergangenen Monaten für Schlagzeilen (und bei vielen auch für Sorgenfalten) gesorgt haben, steht diese Technologie noch ziemlich am Anfang. Noch haben wir die Gelegenheit, eine Position zu beziehen, von der aus wir die neue Generation Künstlicher Intelligenz begutachten, hinterfragen, aber auch: verantwortlich nutzen können
Dazu rufe ich in diesem Buch auf. Denken Sie mit, liebe*r Leser*in, prüfen Sie meine Argumentationslinien auf Schlüssigkeit und Sachlichkeit, nehmen Sie Ihre Emotionen wahr und bilden Sie sich eine Meinung zur Künstlichen Intelligenz 2.0. Denn denken, beurteilen und fühlen können nur wir Menschen.
Ich möchte, dass das so bleibt.3
Technophil oder technophob?
Was ich nicht möchte, ist, dass dieses Buch als Beleg für meine Fortschrittsskepsis oder meinen Fortschrittsglauben betrachtet wird. Beide Sichtweisen wurden mir bereits in Seminaren, auf Podien oder nach meinen Vorträgen vorgeworfen. Eine solche Zuschreibung ließ und lässt mich hinterfragen, ob ich meinen Punkt möglicherweise nicht verständlich genug erklärt habe oder ob meine Eigenwahrnehmung hier deutlich von der Fremdwahrnehmung abweicht. (Paradoxerweise haben das fehlende Bekenntnis zu der einen oder anderen Position und mein Aufruf zur autonomen Urteilsbildung die Verlagsverhandlungen bei meinen vorherigen Büchern mitunter etwas schwierig gemacht.) Deshalb vorweg: Grundsätzlich betrachte ich mich als Optimisten, der Technologie zunächst einmal positiv, wenn auch nicht unkritisch gegenübersteht. In den Industriestaaten gemachte Erfindungen haben einen elementaren Anteil am Leid vieler Menschen auf dieser Welt, ebenso an der Zerstörung von Lebensräumen von Pflanzen und Tieren, dem Auseinanderbrechen von Nahrungsketten, dem Rückgang der Artenvielfalt und der Störung des klimatischen Gleichgewichts dieses Planeten. Gleichwohl haben die menschliche Neugier, unser Entdeckerdrang und ja: auch kommerzielle Motive sehr viel Gutes hervorgebracht. Technologie hat die Erkennung und Behandlung von Krankheiten revolutioniert, den Menschen Wege zur Kommunikation und zum Ideenaustausch eröffnet und dem größten Teil der Menschheit auch Wohlstand gebracht. Letztlich haben wir dank (auch elektronischer) technologischer Erfindungen die Mittel in der Hand, die Probleme dieser Welt zu lösen. Wer in dieser Zeit lebt, gehört zu den ersten Menschen, die die von Menschen gemachten Probleme dieser Welt lösen können! Dieser Aspekt kommt meines Erachtens auch in der Diskussion um Künstlichen Intelligenz zu kurz.
Einen weiten Blickwinkel, der die Möglichkeiten der Technologie ebenso ernst nimmt wie die damit verbundenen Ängste und Sorgen, erhoffe ich mich auch für die Debatte um die neuen, generativen KI-Formen, zu der dieses Buch einen Beitrag leisten soll. Es soll helfen, die Chancen richtig einzuschätzen, negative Folgen zu erkennen, mindern oder gar verhindern zu können. Ich bin davon überzeugt, dass viele der aktuellen und künftigen Anwendungsgebiete Generativer KI in diesem Sinne verantwortungs- und sinnvoll eingesetzt werden können, andere aber begründet abgelehnt werden müssen.
Voraussetzung für diese Beurteilung ist freilich, dass wir überhaupt sprachfähig für die Pros und Kontras sind und den Austausch dazu suchen. Lassen Sie uns hier starten. Holen wir das Beste aus der neuen Technologie heraus!
Sprache und Begrifflichkeiten
An dieser Stelle ein paar Bemerkungen zur Sprache: Dieses Buch benutzt Begriffe, die allesamt hinterfragbar sind. Intelligenz, Kreativität, Sprache, Verstehen und Lernen, die für gewöhnlich Menschen zugesprochen werden, werden in dieser Abhandlung auch auf maschinelle Prozesse angewendet. Obwohl ich davon überzeugt bin, dass Sprache Realitäten schafft und wir kritisch mit ihr umgehen müssen, werde ich die infrage stehenden Begriffe der Lesbarkeit halber nicht in Anführungszeichen oder kursiv setzen, wie ich es sonst bei Hervorhebungen machen werde.
Weil Sprache nicht nur Realitäten schafft, sondern sie auch abbildet, bemühe ich mich in diesem Buch um eine geschlechtergerechte Sprache. Die Nutzung hoch gestellter Sternchen zwischen traditionell Frauen und Männern zugesprochenen Personalpronomen und Wortendungen soll der Vielfalt von Geschlechtern in unserer Gesellschaft Rechnung tragen. Das ist mir besonders wichtig, weil die Technologie, von der dieses Buch handelt, die Reproduktion von Stereotypen verstärkt. In Teil II gehen wir auf dieses Problem ein.
Die Gegner und Gegnerinnen geschlechtergerechter verbaler und schriftlicher Sprache bitte ich um Verständnis für meine Entscheidung, so wie ich mich um Verständnis für ihre Ansichten bemühe. Sprache ist ein Aushandlungsprozess, der in anderen Schriften leidenschaftlich und kontrovers abgebildet wird. Dieses Buch verfolgt jedoch ein anderes Ziel.
KI-Werkzeuge in diesem Buch
Je weiter Computer in ehemals genuin menschliche Tätigkeitsfelder vordringen, desto wichtiger ist eine eindeutige Kennzeichnung ihres jeweiligen Einsatzes. Doch, und hier nehmen eines der Hauptprobleme dieser Abhandlung vorweg: Oft bemerken wir Nutzer*innen die Technologie im Alltag gar nicht! Ein Buch völlig ohne KI zu schreiben etwa ist heute fast unmöglich, zumindest dann, wenn die*der Autor*in einen Computer nutzt. So findet sich die Technologie unter anderem in Suchmaschinen und Antivirensoftware. Auch Generative KI hat schon Eingang in diverse Apps und Programme gehalten, beispielsweise ins Bildbearbeitungsprogramm Adobe Photoshop. Künftig werden auch das...
