KAPITEL 1
- - - - -

EINE EINDÄMMUNG IST NICHT MÖGLICH

Die Welle

So gut wie jede Kultur kennt einen Flutmythos.

In alten Hindu-Texten wird der erste Mensch in unserem Universum, Manu, vor einer drohenden Flut gewarnt und überlebt sie als Einziger. Im Gilgamesch-Epos wird berichtet, der Gott Enlil habe die Welt in einer riesigen Flut vernichtet, eine Geschichte, die jedem bekannt vorkommt, der mit der alttestamentarischen Erzählung von Noahs Arche vertraut ist. Bei Platon ist die Rede von der verlorenen Stadt Atlantis, die von einer gewaltigen Flut weggespült wurde. In den mündlichen Überlieferungen und alten Schriften der Menschheit findet sich oftmals die Vorstellung einer riesigen Welle, die alles mit sich reißt, was ihr im Weg steht, woraufhin die Welt neu erschaffen und neu geboren wird.

Überschwemmungen prägen die Geschichte auch im ganz wörtlichen Sinne - die saisonalen Überschwemmungen der großen Flüsse dieser Welt, der Anstieg des Meeresspiegels nach dem Ende der Eiszeit, der seltene Schock eines Tsunamis, der ohne Vorwarnung am Horizont auftaucht. Der Asteroid, der die Dinosaurier tötete, löste eine kilometerhohe Flutwelle aus, die den Gang der Evolution veränderte. Die schiere Wucht dieser Wellen hat sich in unser kollektives Bewusstsein eingebrannt: Wasserwände, unaufhaltsam, unkontrollierbar, unbeherrschbar. Sie gehören zu den mächtigsten Kräften auf unserem Planeten. Sie formen Kontinente, bewässern die Äcker und Felder dieser Welt und nähren das Wachstum der Zivilisation.

Andere Arten von Wellen waren nicht minder umwälzend. Schauen wir uns die Geschichte noch einmal an, so werden wir feststellen, dass sie von einer Reihe metaphorischer Wellen geprägt ist: dem Aufstieg und Fall von Imperien und Religionen und dem sprudelnden Hervorbrechen des Handels. Denken wir an das Christentum oder den Islam, Religionen, die als kleine Wellen begannen, bevor sie sich aufbauten und riesige Teile der Erde überrollten. Solche Wellen sind ein wiederkehrendes Motiv, das die Gezeiten der Geschichte, große Machtkämpfe sowie wirtschaftliche Auf- und Abschwünge umrahmt.

Auch der Aufstieg und die Verbreitung von Technologien haben die Form von Wellen angenommen, die die Welt verändern. Dabei hat seit der Entdeckung des Feuers und der Steinwerkzeuge, den ersten Technologien, die sich unsere Spezies zunutze gemacht hat, insbesondere ein übergeordneter Trend die Zeiten überdauert. Nahezu jede grundlegende Technologie, die jemals erfunden wurde, von der Spitzhacke bis zum Pflug, von der Töpferei bis zur Fotografie, vom Telefon bis zum Flugzeug und alles dazwischen, folgt einem einzigen, scheinbar unumstößlichen Gesetz: Sie wird billiger und einfacher in der Anwendung, und schließlich findet sie umfassende Verbreitung.

Diese wellenförmige Ausbreitung von Technologie ist die Geschichte des Homo technologicus. Das Streben der Menschheit nach Verbesserung - unserer selbst, unseres Schicksals, unserer Fähigkeiten und unseres Einflusses auf unsere Umwelt - hat eine unablässige Entwicklung von Ideen und Schöpfungen befeuert. Etwas zu erfinden ist ein sich entfaltender, ausufernder, emergenter Prozess, der von sich selbst organisierenden und hart kämpfenden Erfindern, Akademikern, Unternehmern und Führungskräften vorangetrieben wird, von denen jeder seine eigenen Beweggründe hat. Dieses Ökosystem der Erfindungen ist zwangsläufig auf Expansion ausgerichtet. Das ist das naturgegebene Wesen der Technologie.

Die Frage ist, wie es weitergeht. Auf den folgenden Seiten werde ich Ihnen die Geschichte der nächsten großen, historischen Welle erzählen.

Wenn Sie sich umschauen, was sehen Sie dann? Möbel? Gebäude? Telefone? Essen? Einen Park? So gut wie jedes Objekt in Ihrem Blickfeld wurde höchstwahrscheinlich von menschlicher Intelligenz geschaffen oder verändert. Die Sprache - die Grundlage unserer sozialen Interaktionen, unserer Kulturen, unserer politischen Organisationen und vielleicht auch dessen, was es heißt, Mensch zu sein - ist ebenfalls Produkt und treibende Kraft unserer Intelligenz. Jedes Prinzip und jedes abstrakte Konzept, jedes kleine kreative Unterfangen oder Projekt, jede Begegnung in unserem Leben wurde durch die einzigartige und unendlich komplexe Fähigkeit unserer Spezies zu Vorstellungskraft, Kreativität und Vernunft vermittelt. Der menschliche Erfindungsreichtum ist etwas höchst Erstaunliches.

Nur eine einzige weitere Kraft ist in diesem Bild ähnlich allgegenwärtig: das biologische Leben selbst. Vor der Moderne stammten die meisten menschlichen Artefakte - von Holzhäusern über Baumwollkleidung bis hin zu Kohlefeuern - von Dingen, die einst lebendig waren, sieht man von einigen Felsen und Mineralien einmal ab. Alles, was seither in die Welt gekommen ist, geht auf uns zurück, auf die Tatsache, dass wir biologische Wesen sind.

Es ist keine Übertreibung, wenn man sagt, dass die gesamte menschliche Welt entweder von lebenden Systemen oder von unserer Intelligenz abhängt. Und doch befinden sich beide heute in einem beispiellosen Moment exponentieller Innovation und Umwälzung, einer beispiellosen Vergrößerung und Vermehrung, die wenig unverändert lassen wird. Um uns herum bricht eine neue Technologiewelle los. Diese Welle entfesselt die Kraft, diese beiden universellen Grundlagen neu zu gestalten: eine Welle von nichts Geringerem als Intelligenz und Leben.

Die kommende Welle wird von zwei zentralen Technologien bestimmt: künstlicher Intelligenz (KI) und synthetischer Biologie. Zusammen werden sie ein neues Zeitalter für die Menschheit einläuten und Wohlstand und Überfluss schaffen, wie es sie noch nie gegeben hat. Doch ihre rasante Verbreitung droht auch eine Vielzahl bösartiger Akteure in die Lage zu versetzen, Disruption, Instabilität und sogar Katastrophen unvorstellbaren Ausmaßes auszulösen. Diese Welle stellt eine immense Herausforderung dar, die das 21. Jahrhundert bestimmen wird: Unsere Zukunft hängt von diesen Technologien ab, ist gleichzeitig aber durch sie gefährdet.

Aus heutiger Sicht scheint es unmöglich zu sein, diese Welle einzudämmen, d.h., sie zu kontrollieren, einzuhegen oder gar zu stoppen. Dieses Buch geht der Frage nach, warum das so sein könnte und was es bedeutet, wenn das so ist. Die Implikationen dieser Fragen werden letztlich jeden heute Lebenden und jede nachfolgende Generation betreffen.

Ich glaube, dass diese kommende Technologiewelle die Menschheitsgeschichte an einen Wendepunkt bringt. Wenn es nicht möglich ist, sie einzudämmen, sind die Folgen für unsere Spezies dramatisch, möglicherweise sogar schrecklich. Zugleich sind wir ohne ihre Früchte ungeschützt und unsicher. Dieses Argument habe ich in den letzten zehn Jahren häufig hinter verschlossenen Türen vorgebracht, aber da sich die Auswirkungen immer weniger ignorieren lassen, ist es an der Zeit, es öffentlich kundzutun.

Das Dilemma

Die Betrachtung der profunden Macht menschlicher Intelligenz veranlasste mich dazu, eine einfache Frage zu stellen, die mich seither nicht mehr loslässt: Was wäre, wenn wir die Essenz dessen, was uns Menschen so produktiv und fähig macht, in Software, in einen Algorithmus destillieren könnten? Wenn wir die Antwort darauf finden, könnten wir unvorstellbar leistungsfähige Werkzeuge entwickeln, die uns helfen, unsere schwierigsten Probleme zu lösen. Ein solches Werkzeug, ein unmögliches, aber außergewöhnliches Werkzeug, könnte uns helfen, die gewaltigen Herausforderungen der kommenden Jahrzehnte zu bewältigen, vom Klimawandel über die Überalterung der Bevölkerung bis hin zur nachhaltigen Ernährung.

Mit diesem Gedanken im Hinterkopf gründete ich im Sommer 2010 zusammen mit zwei Freunden, Demis Hassabis und Shane Legg, in einem malerischen Büro aus der Regency-Zeit mit Blick auf den Londoner Russell Square ein Unternehmen namens DeepMind. Unser Ziel, das sich rückblickend immer noch so ambitioniert, verrückt und hoffnungsvoll anfühlt wie damals, war: genau das zu replizieren, was uns als Spezies einzigartig macht, unsere Intelligenz.

Um dieses Ziel zu erreichen, würden wir ein System entwickeln müssen, das sämtliche kognitiven Fähigkeiten des Menschen - vom Sehen und Sprechen über das Planen und das Vorstellungsvermögen bis hin zu Empathie und Kreativität - nachahmen und schließlich übertreffen könnte. Da ein solches System von der gewaltigen parallelen Rechenleistung von Supercomputern und der explosionsartigen Entstehung riesiger neuer Datenquellen aus dem offenen Internet profitieren würde, wussten wir, dass selbst bescheidene Fortschritte ...