Einleitung

Eine besondere Form der menschlichen Fehlbarkeit

Eine Welt ohne Fehler?

Was wäre, wenn es keine Fehler gäbe? Wenn die Welt ohne Fehler wäre? Eine junge Frau stellte mir während eines Vortrags diese Frage,[1] die auf den ersten Blick merkwürdig, geradezu sinnlos anmutet. Die Welt ist voller Fehler. Das Fehlermachen, der Irrtum, der Makel gehören genuin zum Menschsein hinzu. Wie sehr sich Menschen auch bemühen, weder sie noch ihre Welt werden je perfekt sein.

Allerdings ist es keineswegs so, dass Menschen sich damit abgefunden hätten. Immer wieder strengen sie sich an, Fehler zu vermeiden oder sie, wie es gelegentlich sogar heißt, zu eliminieren. Immer wieder versuchen sie, eine Welt ohne Fehler oder zumindest mit wenigen Fehlern einzurichten.

Dieses Ansinnen führt unmittelbar zum Thema dieses Buches, das von der Fehlerhaftigkeit der Menschen handelt, und zwar von einer historisch spezifischen Variante ihrer Fehlerhaftigkeit: Das Buch erzählt von Fehlern, Mängeln und Defiziten, die aus dem Vergleich von Menschen mit Maschinen resultieren, sowie von den Bemühungen, menschliche Fehler maschinell zu beseitigen. Maschinen wurde dabei immer wieder nachgesagt, sie seien, anders als die Menschen, fehlerlos, ja unfehlbar.

Die vermeintliche Perfektion der Maschinen ging stets mit dem Versprechen eines «Besseren» einher: einer hochwertigen industriellen Produktion, Temposteigerung, einer höheren Effizienz oder Sicherheit, reibungsloser Abläufe, von mehr Gerechtigkeit, sozialer Zuverlässigkeit, leistungsfähigeren Körpern, oder kurz: einer besseren Welt. Es ist eine der Fragen des Buches, was dieses «besser» jeweils meinte, wie diese «bessere Welt», die mit Hilfe perfekter Maschinen verwirklicht werden soll, aussähe und was das für das Menschsein bedeutet.

Fehler werden jedoch nicht nur negativ gedeutet. Dass man aus Fehlern lernen kann und dass sie deshalb Teil eines «Fortschritts» sind, gehört genauso zu den Binsenweisheiten der Gegenwart wie die, dass Menschen Fehler machen. Daher feiern sich Menschen dafür, sie zu überwinden, aus ihnen zu lernen und somit Neues zu generieren. Derzeit zelebriert eine erfolgsorientierte Silicon Valley-Kultur das Fehlermachen und Scheitern. Aber auch in verschiedensten Städten der Welt berichten Menschen während sogenannter «Fuckup Nights» von ihren persönlichen Fehlleistungen. In Spanien soll ein «Museum of Failure» entstehen, das momentan noch als Wanderausstellung und im Internet zu sehen ist. Es inszeniert gescheiterte Projekte und zeigt teils skurril wirkende, misslungene Innovationen großer Firmen, um Menschen von der Produktivität von Fehlern zu überzeugen - davon, dass Fehler zu größerem Erfolg führen und unabdingbar für Fortschritt seien.[2]

Gleichwohl dominiert in der westlichen Kultur das Bestreben, keine Fehler zu machen. Es wird über sie geklagt und lamentiert, manchmal werden sie akzeptiert, manchmal vertuscht und versteckt, es wird versucht, aus ihnen zu lernen. Vor allem aber sollen sie vermieden werden.

Die Geschichte von Fehlern ist ein faszinierendes Thema. Allerdings wissen wir wenig über so wichtige Fragen wie etwa, seit wann der Begriff «Fehler» eine zentrale Kategorie in den unterschiedlichsten Bereichen wurde, wie sich eine Fehlerforschung etablierte, wie sich Fehlerkulturen historisch und kulturell unterschieden oder was jeweils als Fehler betrachtet wurde.[3]

Indem dieses Buch die Geschichte einer Doppelfigur erzählt, nämlich die Geschichte des im Vergleich zur Technik fehlerhaften Menschen und seines Pendants, der vermeintlich perfekten Maschine, widmet es sich einem besonderen Strang in der Geschichte von Fehlern: den Fehlern im Maschinenraum.

Doch beginnen wir mit der Gegenwart.

Der Mensch als letzter Bug im System?

Am Beginn dieses Buches stand ein Staunen. Weniger ein Staunen über die mannigfachen und unausrottbaren Fehler und Verfehlungen der Menschen als vielmehr über die vielfachen Versprechen, Maschinen würden all diese menschlichen Fehler und Unzulänglichkeiten vermeiden und, wie es so gern heißt, die Welt zu einem besseren Ort machen. Im Kontext der jüngsten Erfolge künstlicher Intelligenz war erneut eine Fülle solcher Ankündigungen zu vernehmen. Das autonome Fahren, so ist es trotz häufiger Rückschläge immer wieder zu hören, werde menschliches Versagen beseitigen und die Unfallzahlen, vor allem die Todesfälle, drastisch reduzieren. Ein japanischer Hotelbesitzer freute sich, dass sein Empfangsroboter viel bessere Manieren habe als die Menschen, die in der Rezeption tätig seien. Die Roboter seien «unschlagbar, was die Manieren angeht», schwärmte er.[4] In einer «Botbar» in New York bedient ein Roboter die Gäste.[5] Auch der Betreiber dieses Cafés zeigte sich begeistert von der perfekten Maschine: «Roboter brauchen keine Pausen, müssen nicht auf die Toilette und können 24 Stunden am Tag arbeiten». Der Hersteller der Roboter betonte zudem, dass man ihnen kein Trinkgeld geben müsse, außerdem stählen sie nicht und den besseren Kaffee machten sie auch, da sie, anders als die Menschen, ein perfekt berechnetes Gebräu servierten.[6] Auch im Bereich sozialer Beziehungen sind die Erwartungen groß: KI-Freunde seien «immer für einen da, haben nie schlechte Laune und lesen einem jeden Wunsch von den Lippen ab».[7]

Der ehemalige Chefentwickler der Google-Autos Chris Urmson bezeichnete Menschen «als letzten im System».[8] Der Robotiker Ronald Arkin wiederum argumentierte vor einigen Jahren, die Emotionslosigkeit von Drohnen sei in Kriegen von großem Vorteil. Anders als Menschen handelten sie nicht aus Angst, Wut oder Rachegefühlen heraus. Stattdessen befolgten sie schlichtweg klar definierte Regeln. Daher, so die Argumentation, könne man davon ausgehen, dass Drohnen humaner töten als Menschen.[9]

Einer ganz ähnlichen Logik folgend beklagten sich Forscher, dass Menschen mit ihrer Intuition und ihren Vorurteilen Wissenschaft betrieben und dass sie in ihrer Begrenztheit die wichtigen Fragen gar nicht fänden. KI sei hier deutlich überlegen.[10] Eine Informatikerin unterstrich, KI könne das Gesundheitswesen verbessern, denn Menschen überblickten die vielen Daten schon lange nicht mehr, sie würden müde bei der Erstellung von Diagnosen. Die KI dagegen sei «neutral» und «bewahre einen kühlen Kopf».[11]

Dies ist nur ein kleiner Ausschnitt gegenwärtig kolportierter KI-Versprechen, die die Figur fehlerhafter Menschen aufrufen. Denkt man diese Ideen der perfekten, den Menschen in scheinbar jeder Hinsicht überlegenen Maschinen konsequent zu Ende, so liegt die Schlussfolgerung nahe, dass eine rein maschinelle Welt die bessere Welt wäre - eine Welt ohne Fehler.

Diese Auffassung wurde verschiedentlich formuliert. So prophezeite James Lovelock ein neues Zeitalter, das Novozän, in der eine hyperintelligente KI existiere und Menschen ihre Rolle als intelligenteste Wesen verloren haben würden. Lovelock war sich sicher, dass diese hyperintelligenten Wesen den Planeten Erde besser verstehen und damit besser behandeln würden als Menschen.[12] Der Robotiker Hans Moravec visionierte eine postbiologische Welt ohne Menschen, einen Weltzustand, der ihm wenig bedauerlich zu sein schien.[13] Der Schriftsteller Daniel Kehlmann wiederum räsonierte über das Unheil, das Menschen in die Welt gebracht haben: Massenmorde, die Zerstörung des Weltklimas, Armut. «Die Idee, dass unsere Nachfolge-Intelligenzen vernünftiger agieren werden als wir, könnte einen auch beruhigen», schrieb er. Gleichwohl wolle er, wie er unterstrich, nicht in einer solchen Welt leben.[14]

Man fragt sich, ob all diese Überlegungen, angefangen vom höflichen Roboter über die ethisch tötenden Drohnen bis zur perfekten Maschinenwelt...