Scary Smart

Kapitel 3:
Die drei Unvermeidbarkeiten

Zukunftsprognosen sind nie eine exakte Wissenschaft, doch wenn die Anzeichen sonnenklar sind, ist es wirklich nicht schwer, das Kommende mit einem ziemlich hohen Maß an Genauigkeit vorauszusagen. Lassen Sie mich Ihnen ein Beispiel geben.

Wenn Sie bei, sagen wir mal, minus 30 Grad nur mit einem T-Shirt bekleidet im Schnee feststecken, werden Sie das nicht allzu lange überleben. Sehen Sie! Wir haben es hier mit seriösen Zukunftsvorhersagen zu tun.

Wir brauchen keine Kristallkugel, um das zu prophezeien, oder? Wir nehmen das, was wir über die Gegenwart wissen (Sie sind in der Kälte und tragen nur ein T-Shirt), die Verläufe der Vergangenheit (ein Mensch beginnt unter solchen Umständen zu zittern, dann werden seine Körperfunktionen immer langsamer, sein Herz setzt aus, schließlich die Atmung), fügen ein bisschen Wissen hinzu (Menschen kommen um, selbst wenn sie im Umgang mit solchen Bedingungen trainiert sind) und schon haben wir eine Vorstellung dessen, was wahrscheinlich passieren wird.

Natürlich können die Ereignisse sich ändern, nachdem Sie Ihre Voraussage getroffen haben, und Ihre Erwartungen sich als fehlerhaft erweisen. Wenn das geschieht, kalkulieren Sie die aktualisierten Ereignisse mit ein und probieren es aufs Neue.

Was ich über die KI und über unseren Entwicklungsverlauf des letzten Jahrzehnts weiß und Ihnen erzählt habe, führt mich zu der Vermutung, dass ein Großteil unserer Zukunft bereits festgeschrieben ist. Sie wird aus den drei Unvermeidbarkeiten bestehen, die ich im vorangehenden Kapitel skizziert habe. Aus dieser Zukunft gibt es kein Entkommen, obwohl wir durch eine Änderung unseres Verhaltens den restlichen Teil der Geschichte jenseits von Kapitel 3 schreiben können. Wir können entweder eine Utopie schaffen, in der wir frei sind, oder eine Dystopie, bei der wir flüchten und uns verstecken müssen. So oder so, wir treffen uns in etwas mehr als 30 Jahren am Lagerfeuer mitten im Nichts.

Dieses Buch soll uns auf den Weg zur Utopie lenken, während die Geschichte sich dem Ende nähert. Doch jetzt wollen wir erst mal erzählen, wie sie anfangen wird.

Die erste Unvermeidbarkeit: Die KI wird kommen

Ich kann mir lebhaft vorstellen, wie Sie und ich am Lagerfeuer sitzen, während ich Ihnen erzähle, wie sich diese Version der Geschichte entwickelte. »Damals zu Beginn des 21. Jahrhunderts kam es uns vor, als hätten wir niemals eine richtige Chance gehabt«, werde ich sagen, während ich die Arme ausstrecke, um mich zu wärmen. Dies ist also eine Möglichkeit, wie die Geschichte gehen könnte ...

»In unserer kindlichen Freude waren wir ganz aufgeregt. Der Tag, an dem wir Deep Learning entdeckten, war der Tag, an dem unsere Zukunft geschrieben wurde. Wissen Sie, seit diesem Tag war die KI in aller Munde. Ob Sie ein Unternehmen waren, das Kunden anlocken wollte, oder ein Start-up, das Finanzierungshilfen brauchte, oder eine Regierung, die gegnerische Kräfte abschrecken wollte, oder ein Berufstätiger, der sich weiterqualifizieren wollte, oder ob Sie einfach zu einem Rendezvous gingen und Eindruck schinden wollten, Sie ließen in jedem dritten Satz den Begriff >KI

Mein ganzes Berufsleben hindurch, jahrelang erzählte ich der Welt von dem, was ich die technologische Entwicklungskurve nannte. Das war ein wenig bekannter Trend, von dem die meisten Menschen - die im Gegensatz zu mir nicht den Luxus hatten, in einem der Laboratorien eines Technikgiganten wie Google [X] zu arbeiten - nicht viel Ahnung hatten. Die technologische Entwicklungskurve zeigt den typischen zeitlichen Verlauf einer neuen Technologie. Sie sieht aus wie ein normales Hockeyschläger-Diagramm, das normalerweise genutzt wird, um Ereignisse darzustellen, die sich nach einem bestimmten >Durchbruch< schlagartig beschleunigen - nur dass der Griff des Hockeyschlägers bei einer technologischen Entwicklung beinahe horizontal verläuft. Es dauert sehr lange, bis eine weltverändernde Technologie den Durchbruch erzielt, und da war die KI keine Ausnahme. Seit den Anfängen in den 1950er-Jahren, als der Begriff KI geprägt wurde, gab es bis zur Jahrtausendwende nur sehr geringe Fortschritte. Doch dann beschleunigte sich der Fortschritt mit einer Durchbruch-Entdeckung rasant. Deep Learning ermöglichte spontanes Lernen und die potenziellen kommerziellen Anwendungsmöglichkeiten lösten eine Welle von Start-up-Finanzierungen aus. Die KI wurde von einer netten Spielerei zum Mainstream. Die technologische Entwicklungskurve der KI hatte den Durchbruch erreicht.

Die Weiterentwicklung einer neuen Technologie nach dem Durchbruch ist harte Arbeit, verstehen Sie mich da nicht falsch, aber sie ist vorhersehbar. Es geht nur darum, viel Arbeitszeit zu investieren, in der Ihre Bemühungen prognostizierbare Früchte tragen, weil Ihnen keine Puzzleteile mehr fehlen. Sie brauchen keinen Heureka -Moment und keinen Glücksgriff, um ein Produkt zu schaffen. Nur harte Arbeit. So war das bei jedem Produkt, das wir bei Google [X] entwickelt haben. Nehmen Sie zum Beispiel Google Glass. Nachdem wir erst mal die Optik in den Griff bekommen hatten, und zwar unter Verwendung eines sechs Kilogramm schweren Geräts, war es lediglich eine Frage geduldiger Ingenieursarbeit, ein beeindruckendes Produkt (wenn auch eine kommerzielle Katastrophe) zu schaffen, indem die Technik in ein brillenartiges Gehäuse von bloß 36 Gramm eingebracht wurde. Nachdem wir die Lernalgorithmen für Sicht und Steuerung ausgetüftelt hatten, war es nur eine Frage der Zeit, ein selbstfahrendes Auto zu entwickeln.

So war das immer bei den Technologien, die wir entwickelt haben.
Es dauert sehr, sehr lange, den Durchbruch zu entdecken, aber ...

Nicht vergessen!
... ist der Durchbruch erst mal erzielt, muss nur noch Ingenieursarbeit geleistet werden.

Die einzige Methode, um die Fortentwicklung einer Technologie aufzuhalten, nachdem ein Durchbruch erzielt wurde, ist es, das Primitivste zu tun: Alle treffen die bewusste Entscheidung, jegliche Weiterentwicklung zu beenden. Atomare Kriegsführung ist ein recht gutes, wenn auch nicht perfektes Beispiel dafür. Als die möglichen Gefahren einer derart zerstörerischen Kraft erkannt wurden, führte der jahrelange Kalte Krieg zu internationalen Vereinbarungen, die Nutzung und Weiterentwicklung nuklearer Waffen einzustellen. Wir wissen leider alle, dass dies lediglich die schwächeren Nationen von einer Aufrüstung abhielt, während die Supermächte und ihre Alliierten ihre Bestrebungen unhinterfragt fortführten. Doch wenigstens minderten diese Vorgaben den Schwung der Entwicklung und der verminderte >Wettbewerb< leitete die Fördermittel in andere Bahnen, selbst für jene, die weiterhin in andere Rüstungsaspekte investierten. Eine globale Vereinbarung, dass eine weit verbreitete Entwicklung der Atomkraft der Menschheit keinen guten Dienst erweise, verlangsamte eindeutig den Fortschritt jener zerstörerischen Technologie. Dies war allerdings bei der KI nicht der Fall.«

Wir können anscheinend einfach nicht aufhören

»Trotz all der dystopischen Szenarios, die wir uns in Sci-Fi-Filmen angesehen haben, und ungeachtet der deutlichen Signale in den 2020er-Jahren, dass die KI die Macht übernimmt, hat die Menschheit es nicht geschafft, das Richtige zu tun und die tatsächlichen Auswirkungen, die Kosten-Nutzen-Analyse des von uns Geschaffenen zu hinterfragen.

Jeder kannte die damit zusammenhängenden Risiken. Das Thema wurde allen Verantwortlichen gegenüber von einigen der renommiertesten Fachleuten der Welt angesprochen. Zahllose Artikel, TED-Talks und Bücher erläuterten, was uns bevorstand. Und doch debattierten wir weiter. Als kollektive Gesellschaft schafften wir es, diese Bedenken beiseite zu wischen und zu ignorieren. Unser Stolz bewahrte uns davor, das Gespräch auf die möglichen Gefahren zu lenken, und ließ uns stattdessen über irrelevante Aspekte der sich entwickelnden Technologie sprechen - wie man sie kontrollieren, wie man sie in unsere zukünftigen Cyborg-Körper integrieren und wie man ihre uns versprochenen Vorteile nutzen kann. Nun, was soll ich sagen? Wir waren uns ja auch zuvor nicht über viel einig. Immer wieder wurde die Menschheit von Selbstsucht und Gier verblendet. Als die KI in den Kinderschuhen steckte, zerstörten wir noch unseren Planeten mit unserer Arroganz und führten unleugbare, katastrophale Veränderungen unseres Klimas herbei, während wir es gleichzeitig ablehnten, die Verantwortung dafür zu übernehmen und das Notwendige zu tun, um den Kurs zu ändern. Dank der KI ist dieses Problem nun glücklicherweise gelöst ... aber zu welchem Preis? Um die nötige Veränderung vorzunehmen, mussten wir von unserem neuen Chef dazu gezwungen werden - von den Maschinen.

Obwohl es rückblickend ganz offensichtlich ist, dass wir die Entwicklung der KI hätten aufhalten müssen, weiß ich nicht, wie das möglich gewesen wäre. Wir steckten in dem klassischen Gefangenendilemma.

Damals, als wir noch für das Denken zuständig waren, wurde das >Gefangenendilemma