Prinzip Mensch
Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz
1st Edition
Published on 20. July 2020
432 pages
978-3-8012-7018-6 (ISBN)
Description
Mensch oder Algorithmus - Wer entscheidet im Zeitalter Künstlicher Intelligenz über unsere Zukunft? Überwältigend groß ist schon jetzt die Macht der digitalen Konzerne im Silicon Valley und damit die Bedrohung für Demokratie und Freiheit. Paul Nemitz und Matthias Pfeffer zeigen eindrücklich, wie die derzeitigen Versuche ethischer Regulierung von Künstlicher Intelligenz zu kurz greifen. Nemitz ist Mitglied der Datenethikkommission der Bundesregierung und war maßgeblich verantwortlich für die Einführung der EU-Datenschutzgrundverordnung. Pfeffer beschäftigt sich als freier TV-Journalist und Produzent mit dem Thema Künstliche Intelligenz.
Die Autoren bieten eine genaue Analyse und legen dabei den Schwerpunkt auf die Rolle der Öffentlichkeit und die Gefährdung des Journalismus in digitalen Zeiten. Sie fordern die strikte Regulierung Künstlicher Intelligenz und eine Neubesinnung auf das Prinzip Mensch, das gegen das Prinzip Maschine verteidigt werden muss. Ihr Buch schließt mit klaren Handlungsempfehlungen an Politik, Zivilgesellschaft und insbesondere an die technische Intelligenz. Ihr Wissen wird dringend gebraucht, wenn wir dem Zangengriff von Technologie und Populismus auf die Demokratie entgehen wollen.
More details
Other editions
Additional editions
Paul Nemitz | Matthias Pfeffer
Prinzip Mensch
Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz
Book
08/2020
1st Edition
Verlag J.H.W. Dietz Nachf. GmbH
€26.00
Available immediately
Persons
Author
Paul Nemitz, geb. 1962, Hauptberater in der EU-Kommission, Generaldirektion Justiz und Verbraucherschutz. Als Direktor für Grundrechte in der EU-Kommission war er verantwortlich für die Arbeiten zur Einführung der EU-Datenschutzgrundverordnung, die NSA "Snowden"-Ermittlung und die Verhandlung des EU-US Privacy Shield. Mitglied der Datenethikkommission der Bundesregierung und des Global Council on Extended Intelligence des MIT und der US-Ingenieursvereinigung IEEE. Nemitz lebt in Brüssel.
ISNI:
ISNI:
Matthias Pfeffer, geb. 1961, freier TV-Journalist, Produzent und Philosoph, war 20 Jahre lang Geschäftsführer und Chefredakteur von FOCUS TV, hat zahllose TV-Formate entwickelt und produziert. Er hat sich viele Jahre mit KI befasst und darüber geschrieben. Sein letztes Buch "Prinzip Mensch" (mit Paul Nemitz) schaffte es auf die Shortlist "Das Politische Buch" der Friedrich-Ebert-Stiftung. Pfeffer lebt in Berlin und in München.
ISNI:
ISNI:
Content
- Intro
- Titel
- Über das Buch
- Impressum
- Inhaltsverzeichnis
- Vorbemerkung
- A Einleitung: Warum dieses Buch?
- B Kritik der technologischen Macht
- B 1 Die Kontrolle technischer Macht als zentrale Funktion der Demokratie
- 1. 1. Macht und Herrschaft - was ist das eigentlich?
- 1. 2. Hans Jonas und das Vorsorgeprinzip als Element der Politikgestaltung
- 1. 3. Der Soziologe Heinrich Popitz und die Phänomene der Macht
- B 2 Herrschaft durch Technik kommt vor der Herrschaft der Technik
- 2. 1. Wann übernimmt die allgemeine KI oder eine Superintelligenz die Macht?
- B 3 Systemsicht der technisch beherrschten Zukunft
- 3. 1. Das Internet als zentrales Vernetzungsmedium
- B 4 Die an das Internet anschließenden zehn Machttechnologien
- 4. 1. Big Data
- 4. 2. Cloud (Wolke) - der Ort der Verarbeitung und die Macht
- 4. 3. Internet of Things - das Internet der Dinge (IoT) erweitert die Kontroll- und Steuerungsfähigkeit
- 4. 4. Mobilfunk 5G erweitert die Anschlussfähigkeit des mobilen Internets
- 4. 5. Satelliten, Drohnen und autonome Tötungsroboter
- 4. 6. Blockchain
- 4. 7. Künstliche Intelligenz
- 4. 8. Hirn-Internet-Verbindung und biophysische Systeme
- 4. 9. Virtual Reality (VR) und Augmented Reality (AR)
- 4. 10. Quantencomputer und Quanteninternet
- B 5 Gesamtschau der an das Internet anschließenden Technologien und die Analyse der Macht der GAFAM-Konzerne
- B 6 Machtkonzentration in der Hand des digital-technologisch-wirtschaftlichen Komplexes
- B 7 Geschäftsmodelle der Tech-Giganten
- 7. 1. Die starke Kritik an GAFAM in den USA
- 7. 2. Die Geschäftsmodelle der digitalen Konzerne
- 7. 3. Google
- 7. 4. Apple
- 7. 5. Facebook
- 7. 6. Amazon
- 7. 7. Microsoft
- 7. 8. Google und Microsoft: Ausdifferenzierung der KI-Investitionsschwerpunkte Gesundheit, Mobilität und mobiles Bezahlen
- B 8 Die acht Quellen der Macht des technologisch-wirtschaftlichen Komplexes
- 8. 1. Die GAFAM-Unternehmen sind die wertvollsten und reichsten der Welt
- 8. 2. Akkumulation persönlicher Datenprofile und Verhaltensvorhersagen über alle Menschen
- 8. 3. Die Netzwerk- und Lock-in Effekte der Plattformökonomie
- 8. 4. Dominanz bei der systemintegrierenden Innovation im Bereich der KI
- 8. 5. Aufkaufen, Imitieren oder Verdrängen konkurrierender oder anschließender Innovation
- 8. 6. Politische Einflussnahme
- 8. 7. Kontrolle der elektronischen Öffentlichkeit und des Journalismus
- 8. 8. Ideologie der totalen technischen Machbarkeit
- C Das Welt- und Menschenbild des Digitalen Komplexes
- C 1 Die Kalifornische Ideologie
- 1. 1. Zum Ideologiebegriff
- 1. 2. Stewart Brand und der Whole Earth Catalog - Technik statt Politik
- 1. 3. John Perry Barlow und die ungebrochene Freiheit des Internet
- 1. 4. Mehr Technologie wagen! Die Demokratiefeindlichkeit bei Peter Thiel
- 1. 5. Ray Kurzweil: Technik an Stelle des Menschen oder Écrasez GAFAM!
- C 2 Die drei Quellen der Kalifornischen Ideologie
- 2. 1. Kybernetik
- 2. 2. Darwinismus und Sozialdarwinismus
- 2. 3. Neoliberale Spieltheorie
- C 3 Dataismus und Sozialdataismus - die Kalifornische Ideologie heute
- 3. 1. Was bedeutet das »Ende des Außen« für unsere Analyse?
- 3. 2. Die Aushöhlung von Sprache, Selbstbestimmung und Demokratie und ihre Folgen
- 3. 3. Konfuzius und die große Harmonie
- C 4 Internet als Religion, KI als Gott
- 4. 1. An ihren Daten sollt ihr sie erkennen
- 4. 2. Der Gottmensch als Superheld der GAFAM-Meistererzählung
- C 5 Kritik des Menschenbilds und Weltbilds der Kalifornischen Ideologie
- 5. 1. Wo bleibt die Erfindung der Zukunft?
- D Wie GAFAM Recht und Demokratie unterminieren
- D 1 Wie GAFAM eine Kultur der Verachtung der Demokratie und des Rechts befördern
- 1. 1. Freiwilligkeit statt verbindliches Recht, private statt staatliche Kontrolle
- 1. 2. Ein hippokratischer Eid für Ingenieure wäre gut, reicht aber nicht
- 1. 3. Wie die GAFAM durch den Bitkom den Staat raushalten wollen
- 1. 4. Wie der durch die GAFAM angeschobene Ethikdiskurs die gesetzliche Regulierung der KI verzögert
- 1. 5. GAFAM bilden mit der NSA eine Private Public Partnership der Überwachung
- 1. 6. Kein Wahlkampf ohne Facebook und Google
- 1. 7. Die GAFAM wollen selbst die Regeln setzen
- 1. 8. GAFAM wollen eine eigene Gerichtsbarkeit
- 1. 9. Die zwei Schulen der Selbstregulierung in Amerika
- D 2 Gesetze verhindern oder weichspülen, wo es nur geht
- 2. 1. Der Kampf gegen das NetzDG
- 2. 2. Der Kampf gegen Datenschutzgesetze in den USA und in Europa
- 2. 3. Der Instrumentenkasten der Lobby gegen das Gesetz
- 2. 4. Lieber kein Gesetz als ein schlechtes Gesetz
- 2. 5. Der Test des Erdogan
- 2. 6. Keine horizontale Gesetzgebung - nur Spezialgesetze
- 2. 7. Befristung von Gesetzen und lange Übergangsfristen bis zum Inkrafttreten
- D 3 Gesetze gelten nicht für uns
- 3. 1. Dauerhafter Kampf gegen Gesetze vor Gericht
- E Öffentlichkeit und Demokratie
- E 1 Strukturwandel der Öffentlichkeit
- 1. 1. Strukturwandel der Öffentlichkeit 2.0: Vermachtung und Personalisierung zerstören die Öffentlichkeit
- 1. 2. Journalismus als vierte Gewalt - ein Zukunftsmodell?
- 1. 3. Öffentlichkeit 2.0: Demokratie im Zangengriff von Populismus und Technologie
- E 2 Vermachtung und Automatisierung zerstören die demokratische Öffentlichkeit
- 2. 1. Allmächtige Algorithmen?
- 2. 2. Vom Volksempfänger zum Volksverstärker
- 2. 3. Der Puppenspieler, nicht die Puppe!
- 2. 4. Macht und Gewalt im digitalen Raum
- 2. 5. Niedergang der Zeitungen, Aufstieg der Social-Media- und Video-Plattformen
- 2. 6. Wie Google und Facebook mit News-Initiativen Macht über Medien erhalten und Ideenklau betreiben
- 2. 7. Automatisierter Journalismus als Zukunftsmodell?
- 2. 8. Von DeepMind zu Deep Fake
- E 3 Fake News - Schafft sich die Wahrheit ab?
- 3. 1. Gefühlte Fakten
- E 4 Sucht und Manipulation
- 4. 1. Manipulation/Design for Persuasion
- 4. 2. Aufmerksamkeit in der Systemtheorie
- E 5 Ein neues Naturrecht - ohne Rechte
- F Gegenentwurf und Selbstvergewisserung
- F 1 Demokratie braucht Öffentlichkeit und Autonomie
- F 2 Was heißt »sich im Denken orientieren«?
- 2. 1. Zwei Elemente der Autonomie: Subjektivität und Rationalität
- 2. 2. Humanismus
- 2. 3. Humanismus heute
- F 3 Vom Prinzip Verantwortung zum Prinzip Mensch
- 3. 1. Der Januskopf der Technik
- 3. 2. Das Prinzip Verantwortung
- 3. 3. Das Prinzip Verantwortung heute
- 3. 4. Das Problem der Prognosen und die Heuristik der Furcht
- 3. 5. Prinzip Verantwortung heißt die Demokratie im technischen Zeitalter sichern
- F 4 Exkurs zu Rawls: Der unsichtbare Schleier um das Digitale
- F 5 Philosophische Alternativen zum technologischen Absolutismus
- 5. 1. Humboldt-Brüder als Inspiration
- 5. 2. Lernen von der Quantentheorie?
- 5. 3. Kritische Theorie des Digitalen
- 5. 4. Adornos Flaschenpost
- G was Tun?
- G 1 Können wir auf die Demokratie in Amerika hoffen?
- 1. 1. Lawrence Lessig: Von Code and Other Laws zur »wehrhaften Demokratie«
- 1. 2. Lernt Silicon Valley dazu? Können wir auf Selbstregulierung der GAFAM hoffen?
- 1. 3. Der Weltkonzern als Staat im Staate? Brad Smith, Microsoft, die digitale Souveränität und die Demokratie
- 1. 4. Mehr Einsatz von Open Source und kein Staat im Staate
- 1. 5. Das digitale Innovationsmodel des »Minimal Viable Product« kann nicht auf die Demokratie übertragen werden
- G 2 Aktive Demokratie und Technologiepolitik
- 2. 1. Unabhängigkeit von Journalismus und Wissenschaft als Pfeiler der Demokratie sichern
- 2. 2. Transparenz der Wahlwerbung im Internet einheitlich gesetzlich regeln
- 2. 3. Forschungs- und Industriepolitik: Edge Computing und ein neues mobiles Betriebssystem als Beispiele der Chancen von 5G und KI
- 2. 4. Gemeinwohlorientierung in zukünftigen technisch-ökonomischen Strukturen sichern: Datentreuhänder und Plattformen im öffentlichen Interesse
- G 3 Was tun gegen Machtkonzentration bei den GAFAM-Unternehmen?
- 3. 1. Wettbewerbsrecht und Behördenstrukturen reformieren
- 3. 2. Die Prinzipien des Verfassungsstaates als Vorbild für die Kontrolle technischer Macht
- 3. 3. Gewaltenteilung im modernen Verfassungsstaat als Vorbild für die Einhegung digitaler Macht im Zeitalter der KI
- 3. 4. Von der Netzneutralität zur Plattformneutralität
- 3. 5. Von der Gewaltenteilung im Staat zum Trennungsprinzip für GAFAM-Plattformen
- 3. 6. Interkonnektivitätspflicht für Messenger und soziale Netze, um den Netzwerkeffekt zu brechen
- G 4 Ethik und Recht, um sicherzustellen, dass die KI dem öffentlichen Wohl dient
- 4. 1. Das Wesentlichkeitsprinzip hilft bei der Bestimmung der notwendigen gesetzlichen Regelungen
- 4. 2. Rechtstaatlichkeit, Grundrechte und Demokratie im Design der KI
- 4. 3. Die Bindung an das Recht und das Legalitätsprinzip als Prinzip der Kontrolle technischer Macht
- 4. 4. Die DSGVO reguliert KI bei der Verarbeitung persönlicher Daten
- 4. 5. Wir brauchen eine regelmäßige Überwachungsgesamtrechnung
- 4. 6. Nichtdiskriminierung und Verbraucherschutz
- G 5 Die Zukunft des KI Rechts
- 5. 1. Die EU DSGVO ist ein Beispiel für technikneutrales und innovationsoffenes Recht
- 5. 2. Was für Menschen rechtswidrig ist kann für KI nicht rechtmäßig sein
- 5. 3. Grundsätze der Technikregulierung, des Arzneimittelrechts und der Chemikalienregulierung
- 5. 4. Eine Renaissance und Intensivierung der Technikfolgenabschätzung auf drei Ebenen
- 5. 5. Empfehlung der Datenethikkommission umsetzen - in Deutschland und der EU
- G 6 Netzneutralität und Datenschutz: USA fragmentiert, Europa einheitlich - Die Stärke des EU-Binnenmarktes
- G 7 Schutz der Whistleblower und Unterstützung der Selbstorganisation von Mitarbeitern der GAFAM
- G 8 Entwicklung von Kontrolltechnologien für Datenverarbeitung und KI
- G 9 Wahrheitspflicht: Schluss mit den Lügen von GAFAM gegenüber Regierungen und Parlamenten
- G 10 Die Finanzmärkte: Von ESG zu demokratie- und rechtsstaatstreuer KI als Investitionsobjekt
- G 11 Die Zukunft der Kontrolle der technischen Macht im Zeitalter der KI
- G 12 Die neue Verantwortung der technischen Intelligenz
- G 13 Nachwort: Das Buch, ein Werk der Freundschaft
- Anhang
- Endnoten
- Literatur
- Register
- Über die Autoren
