Künstliche Superintelligenz und/oder Ethik

Die Idee der künstlichen Superintelligenz ist so vielversprechend wie bedrohlich: einerseits könnte Künstliche Intelligenz (KI) helfen, aktuelle Probleme wie die globale Umweltverschmutzung zu lösen und sie könnte die Entwicklung nachhaltiger Energietechnologien vorantreiben. Andererseits besteht die Gefahr, dass Menschen ihr Leben Stück für Stück aus der Hand geben und Algorithmen zukünftig wichtige Entscheidungen treffen. Wie können wir also eine hochspezialisierte, uns überlegene künstliche Intelligenz zukünftig in ihren Entscheidungen kontrollieren? Schaffen wir es, der KI eine Ethik zu implementieren, die ihr Grenzen setzt? Wie verhindern wir, dass sich KI gegen uns, ihre Erschaffer, richtet?
Noch prekärer erscheint die Möglichkeit, dass KI von einem Diktator oder einer terroristischen Gruppe als Waffe gegen die Menschheit eingesetzt wird. Es benötigt nicht viel Phantasie, um sich vorzustellen, durch eine außer Kontrolle geratene KI wie Perillos von Athen zu enden, der von seiner eigenen Erfindung, dem "bronzenen Bullen", getötet wurde.