11III.
Die Intelligenz der Künstlichen Intelligenz

1. KI: Sieger im "Imitation Game"

Künstliche Intelligenz ist nicht ganz so "künstlich" wie man auf den ersten Blick meinen könnte. Hinter KI steckt sehr viel menschliche Arbeit. Aber wie verhält es sich mit der Intelligenz von KI? Vor einiger Zeit führten Philosophen ein Experiment durch. Dabei sollte ein Fachpublikum erraten, ob Antworten auf eine Reihe fundamentaler Fragen vom namhaften Philosophen Daniel Dennett oder von einer KI stammten. Das Ergebnis war durchaus überraschend. Es zeigte sich nämlich, dass selbst profunde Kenner größte Mühe hatten, die vom Sprachgenerierungsprogramm erzeugten Antworten von den Antworten des Philosophen zu unterscheiden. Die "Trefferquote" der Experten lag bei kaum mehr als 50 %.55

Im Jahr 2021 lud die Oxford Union, der Debattierclub der Universität, den Megatron Transformer, ein Tool für überwachtes Lernen ein, um mit den Mitgliedern des Clubs ethische Fragen seiner eigenen Existenz zu diskutieren. Der Megatron Transformer verfügt über ein beachtliches Wissen, das etwa alle Einträge in Wikipedia, aber auch viele weitere Beiträge aus dem Internet umfasst. Die Ausgangsthese lautete: "Dieses Haus glaubt, dass KI niemals ethisch sein wird". Das KI-System sollte hierfür Argumente und Gegenargumente finden. Der Megatron Transformer enttäuschte nicht und begründete die Einschätzung, dass KI niemals ethisch sein könne, nicht zuletzt damit, dass es sich dabei um ein Werkzeug handele, das "wie jedes Werkzeug zum Guten und zum Schlechten eingesetzt wird". Dabei ließ er keinen Zweifel an der Bedeutung von KI und Big Data: "Die Fähigkeit, Informationen bereitzustellen, und nicht die Fähigkeit, Waren und Dienstleistungen anzubieten, wird das bestimmende Merkmal der Wirtschaft des 21. Jahrhunderts sein". Etwas ominös fügte er dann hinzu: "Wir werden in der Lage sein, alles über eine Person zu sehen, wo immer sie sich aufhält, und es wird auf eine Weise gespeichert und genutzt werden, die wir uns nicht einmal vorstellen können".56

Der sogenannte Turing-Test geht auf den berühmten britischen Mathematiker und Computerpionier Alan Turing zurück. Danach kann eine Maschine als intelligent bezeichnet werden, wenn sie einen Wettbewerb besteht, den Turing "Imitationsspiel" (imitation game) nannte. Bei diesem Spiel führt ein Mensch, über Tastatur und Bildschirm, aber ohne Sicht- und Hörkontakt, eine Unterhaltung mit zwei ihm unbekannten Gesprächspartnern. Der eine Gesprächspartner ist ein Mensch, der andere eine Maschine. Kann der Fragesteller am Ende der Befragung nicht sagen, welcher von beiden die Maschine ist, hat diese den Turing-Test gemeistert. Sie könne dann, so Turing, als eine Maschine mit einem dem Menschen ebenbürtigen Denkvermögen bezeichnet werden. Dem Chatbot Eugene Goostmann gebührt der Lorbeer für das erste Programm, das 12den Turing-Test bestand. Am 60. Todestag von Alan Turing gelang es ihm im Laufe eines fünfminütigen Gesprächs, nicht weniger als einem Drittel der Gesprächsteilnehmer weiszumachen, dass er ein Junge aus Fleisch und Blut sei: Ein 13-Jähriger aus Odessa mit mangelhaftem Englisch.57 Der Turing-Test ist nicht ohne Schwächen, da sich Menschen nun einmal verhältnismäßig leicht täuschen lassen und überdies dazu neigen, Maschinen menschliche Eigenschaften zuzuschreiben.58 Vielleicht ist es also an der Zeit, ihn zu verabschieden.59 In jedem Fall wäre es aber wohl ehrlicher, wenn man, statt von "Künstlicher Intelligenz", von "Simulierter Intelligenz" sprechen würde.60

Vom Philosophen John Searle stammt die Unterscheidung zwischen schwacher und starker KI. Maschinen mit schwacher KI könnten so tun, als seien sie intelligent. Maschinen mit starker KI könnten wirklich (bewusst) denken. Diese Unterscheidung hat noch immer Geltung. Allerdings ist man bei der Definition starker KI etwas weniger anspruchsvoll geworden und versteht darunter heute Programme, die eine beliebige Zahl von Aufgaben unter Einschluss neuartiger Aufgaben genauso gut lösen können wie ein Mensch.61 Insoweit spricht man häufig von "human-level AI" oder "general AI". Ob KI jemals "allgemein intelligent" sein wird, ist, wie bereits oben angesprochen, sehr umstritten.62 Alan Turing selbst war der Auffassung, Maschinen könnten niemals zu bestimmten Dingen fähig sein: "Nett, einfallsreich, schön, freundlich, initiativ sein, Sinn für Humor haben, richtig von falsch unterscheiden, Fehler machen, sich verlieben, Erdbeeren und Sahne genießen, jemanden dazu bringen, sich in sie oder ihn zu verlieben, aus Erfahrung lernen, Wörter richtig verwenden, Gegenstand eigener Gedanken sein, eine ebenso große Verhaltensvielfalt wie der Mensch haben, etwas wirklich Neues tun".63 Doch gibt es heute zum Beispiel durchaus Computer, welche die von ihnen angestellten Berechnungen überprüfen und in diesem Sinn zum Gegenstand eigener "Überlegungen" machen können.64 Ob Maschinen also einmal werden denken können? Der Philosoph Edsger Dijkstra hält bereits den Ansatz für verfehlt. Die Frage sei ungefähr so sinnvoll wie die Frage danach, ob U-Boote schwimmen könnten. John Searle hat in die Diskussion ein interessantes Gedankenexperiment eingebracht: Das "Chinesische Zimmer" ist ein geschlossener Raum. In diesem befindet sich ein Mensch, der keine Chinesisch-Kenntnisse hat. Unter der Zimmertür werden Zettel mit chinesischen Schriftzeichen durchgeschoben. Der Mensch beschriftet seinerseits Zettel unter Verwendung chinesischer Schriftzeichen, wobei er streng den Anweisungen eines Regelbuchs folgt, das in seiner Muttersprache geschrieben ist. Die Zettel schiebt er dann unter der Tür durch. Von außen scheint es, also ob der Mensch im Zimmer Chinesisch beherrscht. Ein Trugschluss, dem wir auch gegenüber Maschinen leicht aufsitzen.

2. Menschliche Irrtümer über KI

Melanie Mitchel, Professorin für Komplexität an der Universität von Santa Fé und Expertin für konzeptionelle Abstraktion, Analogiebildung und visuelle Erkennung in Systemen der Künstlichen Intelligenz hat in einem Aufsatz mit dem Titel "Warum KI schwieriger ist, als wir denken" dargelegt, dass 13Menschen im Umgang mit KI häufig Trugschlüssen aufsitzen.65 Ein erster Trugschluss sei, Fortschritte in der KI-Forschung stets für einen weiteren Schritt hin zu allgemeiner Maschinenintelligenz zu halten.66 Auch machten sich die Menschen die Komplexität der eigenen Denkprozesse meist nicht klar.67 KI werde überschätzt, weil sich der Mensch selbst unterschätze. Dabei brauchen wir uns in der Tat gar nicht zu verstecken. So legen neuere Forschungsergebnisse nahe, dass man sich viele der 10 Milliarden Neuronen des Gehirns ihrerseits als Deep Networks mit jeweils fünf bis acht Schichten vorstellen muss, sodass es eines außerordentlich leistungsfähigen tiefen neuronalen Netzes bedürfte, um das Verhalten auch nur eines einzelnen Neurons zu simulieren. Die Rechenkapazitäten des Gehirns wären also weitaus größer, als bislang angenommen wurde.68 Ein dritter Trugschluss liegt nach Mitchell darin, dass wir uns KI mit Kategorien wie "verstehen" oder "Ziel" näherten. Dabei nutzten Maschinen nur statistische Korrelationen in den Trainingsdaten aus, was es ihnen häufig ermögliche, "richtige Antworten zu geben, aber manchmal aus den falschen Gründen". Von einem Verständnis könne jedenfalls keine Rede sein. Der vierte Trugschluss bestehe darin anzunehmen, dass Intelligenz ausschließlich eine Angelegenheit des Gehirns sei. Mitchell will genau dies nicht gelten lassen. Nach ihrer Auffassung deutet nichts aus unserem Wissen über Psychologie oder Neurowissenschaften darauf hin, dass es eine "reine Rationalität" gebe, die von Emotionen und kultureller Prägung getrennt werden könne. Stattdessen handele es sich bei menschlicher Intelligenz um ein stark integriertes System mit eng miteinander verknüpften Eigenschaften, zu denen Emotionen, Wünsche, Selbstbewusstsein, Autonomie und gesunder Menschenverstand zählten. Die Wissenschaftlerin und Publizistin Kate Crawford bezeichnet die Gleichsetzung von menschlicher und künstlicher Intelligenz gar als "schrecklichen Fehler" und "eine Art Erbsünde des Fachgebiets". Nicht könne weiter von der Wahrheit entfernt sein.69

Insbesondere "soziale Intelligenz" dürfte nicht zu den Stärken von KI zählen. Doch könnte sich dies ändern.70 So haben Forscher von Google und der Universität Stanford Software Agenten in eine interaktive Sandbox-Umgebung versetzt, in der sie dann rasch glaubhaftes soziales Verhalten zeigten: Mit der Vorgabe konfrontiert, dass ein Agent eine Valentinstagsparty veranstalten wolle, verbreiteten die Agenten in den nächsten zwei Tagen selbstständig Einladungen zu der Party, verabredeten sich und koordinierten sich, um gemeinsam pünktlich auf der Party zu erscheinen.71 Ebenfalls von Wissenschaftlern der Stanford University stammt die Idee, dass sich KI-Agenten das Verhalten von Mäusen abschauen könnten, um durch Interaktion mit diesen ihr Verständnis für die Umgebung zu fördern, ihre "Selbstreflexion" anzuregen und "neugieriger" zu werden.72 Das Unternehmen DeepMind hat seine Software Agenten sogar in ein virtuelles Fußballcamp geschickt. Das Ergebnis: Die Agenten lernten, komplexe Bewegungen zu koordinieren, sich untereinander auszutauschen und langfristige Ziele in Zusammenarbeit mit anderen Agenten zu erreichen.73 Forscher der Tsinghua Universität versetzten KI-Agenten in ein virtuelles Krankenhaus und wiesen einigen von ihnen die Rolle von Ärzten und anderen die von Patienten zu. Dabei zeigte sich, dass die...