Regulierung für Algorithmen und Künstliche Intelligenz

Name: Regulierung für Algorithmen und Künstliche Intelligenz | Tagung an der Universität Bonn am 7. und 8. September 2020
Brand: Nomos
Price: 99.0 EUR
Availability: OnlineOnly

Tagung an der Universität Bonn am 7. und 8. September 2020

Daniel Zimmer(Herausgeber*in)

Nomos (Verlag)

1. Auflage

Erschienen am 19. November 2021

384 Seiten

E-Book

PDF mit Adobe-DRM

Systemvoraussetzungen

978-3-7489-2799-0 (ISBN)

99,00 €inkl. 7% MwSt.

Systemvoraussetzungen

für PDF mit Adobe-DRM

E-Book Einzellizenz

Als Download verfügbar

Beschreibung

Weitere Details

Weitere Ausgaben

Person

Inhalt

Cover
Regulierung für Algorithmen und Künstliche Intelligenz: Eine Einführung
I. Aktuelle rechtspolitische Diskussion
II. Status quo
III. Regulierungsbedarf und Regelungsvorschläge
IV. Vorschlag für eine EU-Verordnung für künstliche Intelligenz
1.) Verbote bestimmter Praktiken im Bereich der Künstlichen Intelligenz (Titel II)
2.) Hochrisiko-KI-Systeme (Titel III)
3.) Transparenzpflichten (Titel IV)
V. Notwendigkeit einer gesellschaftlichen Debatte
VI. Programm dieses Buches
Was ist und was soll eine Ethik der K.I.?
I. Zur Ontologie der K.I.
II. Ethik der K.I. und der humane Kontext
III. Ethik der K.I. als Heuristik
Mögliche Wohlfahrtswirkungen eines Einsatzes von Algorithmen
I. Einleitung
II. Einfluss von Algorithmen auf die Preisbildung
1. Durch Algorithmen gestützte Kartelle
2. Durch Algorithmen induzierte Preisdifferenzierung
a) Personalisierte Preise
b) Dynamische Preisbildung
3. Fazit
III. Daten als kritische Ressource für Algorithmen
IV. Algorithmen und Informationsverzerrungen
V. Algorithmen und Diskriminierung
VI. Fazit
Echokammern und Filterblasen versus Meinungsvielfalt - Algorithmen als Gefahr für die Demokratie?
I. Einleitung
II. Wie belastbar sind die Hypothesen?
1. Die beiden Denkbilder
a) Filterblasen
b) Echokammern
c) Das Gefahrenszenario
2. Belastbarkeit der Hypothesen
a) Filterblasen
b) Echokammern
c) Fazit
III. Anlass für staatliche Regulierung?
1. Kein voreiliger Ruf nach Intervention
2. Keine verfassungsrechtliche Pflicht zur Regulierung
3. Gefahren für die Freiheitlichkeit der Meinungsbildung
IV. Ausblick
Die Verantwortung der Medienintermediäre für den Schutz öffentlicher Kommunikationsräume - Algorithmen als Treiber von Hate speech, Fake News und Filter bubbles?
I. Einführung
1. Der Aufstieg der Medienintermediäre als Treiber der regulatorischen Debatte
2. Algorithmengetriebene Inhalteverbreitung: Filterblasen, Hassrede und Falschnachrichten?
3. Struktur des Beitrags
II. Funktionsweise von Algorithmen und mögliche Regulierungserfordernisse
1. Vielfältiger Einsatz von Algorithmen durch Intermediäre
a) Einsatz von Algorithmen - Nutzen und Schaden
b) Abschottungsbefördernde Algorithmen bei Facebook, Instagram, TikTok und Twitter
c) Eher "klassische" massenmediale Filtermechanismen bei YouTube
2. Denkbare Regulierungserfordernisse
a) Allgemein: Marktversagen und Regulierungserfordernis
b) Informationsasymmetrien und externe Effekte aufgrund von Vielfaltsmängeln beim Einsatz von Algorithmen?
III. Rechtlicher Rahmen für die Verantwortung der Medienintermediäre mit Blick auf die Bekämpfung von "Hate Speech" und "Fake News"
1. Allgemeine strukturelle Probleme der Medienintermediäre
2. Schlaglicht: grundrechtliche Gestaltungsvorgaben im Grundgesetz
3. Kontrollblick 1: Auf dem Weg zu einer grundrechtsadäquaten Entwicklung des Regulierungsrahmens im Kampf gegen Hate speech
a) Verrohung des öffentliches Diskussionsraums als regulierungsbegründender Ausgangspunkt
b) Die Etablierung des Netzwerkdurchsetzungsgesetzes als erster Schritt einer Intermediärs-Verantwortlichkeit
c) Notwendige Weiterentwicklung des Gesetzes trotz erster positiver Erfahrungen
d) Richtige Impulse in der jüngsten Novelle des Netzwerkdurchsetzungsgesetzes
e) Normative Umhegung des Löschens jenseits des NetzDG
aa) Überzeugende Leitlinien in der Rechtsprechung - praktische Konkordanz konfligierender Grundrechtspositionen
bb) Legislative (Nach-)Steuerung gleichwohl sinnvoll
f) Überlagerung oder Verdrängung durch die Regelungsansätze im Digital Services Act?
aa) Vorschlag der Kommission zum Digital Services Act zur Ergänzung der E-Commerce-Richtlinie
bb) Anwendungsbereich: Internet-Intermediärsdienste
cc) Haftungsfreistellung und materiell-rechtliche Kernvorgaben
umfassender Grundrechtsschutz
dd) "Notice-and-take-down"-Verfahren für Online-Plattformen
ee) Besondere prozedurale und institutionelle Pflichten für große Online-Plattformen
ff) Institutionelles Zusammenspiel im Mehrebenensystem
Sanktionen
gg) Verhältnis zum bisherigen nationalen Recht
Vergleich der Effektivität
g) Zwischenfazit
4. Kontrollblick 2: parallele Probleme bei der Bekämpfung von "Fake News" und Social Bots
a) Einsatz von Social Bots und Fake News
b) Kennzeichnungspflichten für Social Bots im MStV sowie Deepfakes in einer künftigen EU-Verordnung für künstliche Intelligenz
c) Bekämpfung von Fake News
5. Kontrollblick 3: algorithmengestütztes Microtargeting im Rahmen des politischen Wahlkampfes
a) Bislang begrenztes Problem in Deutschland
b) Regulatorischer Handlungsbedarf?
IV. Regulierung des Einsatzes von Algorithmen durch Medienintermediäre zur Vielfaltssicherung als weitere Herausforderung
1. Verantwortungsteilung zwischen Staat und Medienintermediären
2. Transparenzpflicht und Diskriminierungsverbot als negative Vielfalts-Regulierung
a) Transparenzpflicht (§ 93 MStV)
b) Diskriminierungsverbot (§ 94 MStV)
c) Sinnvolle Ergänzung und Fortführung des Ansatzes des MStV im DSA
3. Gegenwärtig keine positive Vielfalts-Regulierung
a) Gegenwärtig kein Zwang zu vielfaltsorientiertem Zusatzangebot
b) "Binnenpluralismus"-Modell als Verschärfung des Problems
c) "Must-be-found"-Regulierung wenig zielführend
d) Stattdessen: Stärkung der Qualitätsinhalte als Gebot der Stunde
V. Fazit
Chancen und Grenzen "erklärbarer Algorithmen" im Rahmen von Haftungsprozessen
I. Einleitung: Regulierung von Algorithmen
II. Regulierungsansätze
1. Haftungsregime
2. Transparenzanforderungen
III. Künstliche Intelligenz
1. Ein undefinierter Begriff
2. Abgrenzung des Begriffes
IV. Transparente Algorithmen
1. Transparenz
2. Erklärbare Algorithmen: Realisierbare Transparenz
3. Haftungsfragen: Nützliche Transparenz
V. Ausblick
Zur Systematischen Bewertung der Vertrauenswürdigkeit von KI-Systemen
I. Einleitung
II. Verwandte Ansätze
III. Handlungsfelder für eine vertrauenswürdige Künstliche Intelligenz
1. Fairness und Nichtdiskriminierung
2. Autonomie und Kontrolle
3. Transparenz und Nachvollziehbarkeit
4. Verlässlichkeit
5. Sicherheit
6. Datenschutz
IV. Prüfansatz für KI-Systeme
1. Herangehensweise
2. Vorprüfung
3. Schutzbedarfsanalyse
4. Prüfvorgehen pro Handlungsfeld
a) Risikoanalyse
b) Kriterien zur Zielerreichung
c) Maßnahmen zur Zielerreichung
d) Beurteilung des Handlungsfeldes
5. Abschließende Gesamtbewertung
V. Zusammenfassung und Ausblick
VI. Appendix: Beispielfragebogen zur Spezifikation des Prüfgegenstandes
Darstellung der Risikogebiete
Algorithmenregulierung nach Kritikalitätsstufen - der Ansatz der Datenethikkommission
I. Einleitung
II. Der Ansatz der Datenethikkommission zur Algorithmenregulierung
1. Der Begriff der algorithmischen Systeme
2. Grundsätze zum Umgang mit Algorithmen
a) Menschenzentriertes Design
b) Vereinbarkeit mit gesellschaftlichen Grundwerten / Verfassung
c) Transparenz, Erklärbarkeit und Nachvollziehbarkeit
3. Risikobasierter Ansatz - Systemkritikalität
4. Umsetzung
Algorithmenbasiertes Trading und Finanzmarktstabilität
I. Die Phänomene
1. Algorithmenbasiertes Trading
2. Hochfrequenzhandel
II. Beurteilung aus Sicht der Finanzmarktstabilität
1. Ein Beispielsfall: Der "flash crash"
2. Risiken für die Finanzmarktstabilität
a) Programmierfehler: "rogue algorithms"
b) AT als Katalysator von Krisen
c) Strukturelle Risiken für die Finanzmarktstabilität
3. Positive Wirkungen auf die Finanzmarktstabilität
a) Verbesserung der Preisbildung, Marktliquidität und -qualität?
b) Andere positive Wirkungen
4. Abschließende Einschätzung
III. Regulatorische Maßnahmen
1. Verbote
a) Untersagung von AT oder HFT
b) Bindung an Order
c) Mindestverhältnis von Order zu Transaktion
2. Geschwindigkeitsbegrenzungen
a) Speed bumps
b) Batch auctions
c) Tick Size
3. Fiskalische Maßnahmen
a) Transaction tax
b) Cancellation fee
4. Transparenz, Fairness und Nichtdiskriminierung
a) Gleicher Informationszugang
b) Kollokationsdienste
5. Sicherheitsmaßnahmen
a) Erlaubniserfordernis
b) Organisationsanforderungen
c) Circuit breaker
d) Regelung des direkten elektronischen Zugangs
e) Market Maker Verpflichtung
f) Einbindung der Handelsplätze
IV. Schlussfolgerung
Verdachtsgewinnung durch Algorithmen. Maßstäbe für den Einsatz von predictive policing und retrospective policing bei Gefahrenabwehr bzw. Strafverfolgung
I. Predictive policing und retrospective policing als Verfahren der automatisierten Verdachtsgewinnung
II. Aktuelle Anwendungsbeispiele automatisierter Verdachtsgewinnung
1. Intelligente Videoüberwachung
2. "Risikomanagement" durch die Steuerbehörden
3. Fluggastdatenabgleich durch das BKA
4. Exkurs: Kommunikationskontrolle durch Filtertechnologien
III. Die drängendsten Einwände gegen eine algorithmisierte Sicherheitsarchitektur, erste verfassungsrechtliche Regulierungsmaßstäbe, und (viele) offene Fragen
1. Fehlerhaft!
2. "1984"!
a) Das Schutzkonzept des BVerfG: Rechtschaffenheitsvermutung und Anlass-Dogmatik
b) Dogmatische Anmerkungen: Zur Tragfähigkeit der Anlass-Dogmatik
c) Rechtsphilosophische Anmerkungen: Zur Tragfähigkeit der Rechtschaffenheitsvermutung
3. Diskriminierend!
IV. Ausblick: Überwachungsgesamtrechnung und Überwachungsbalance
Algorithmenbasierter Handel und Kartellverbot
I. Die 'machinery question'
II. Fälle
1. Die Poster-Fälle
2. Einordnung
3. Fahrdienstvermittler
a) Uber
b) Webtaxi Luxemburg
4. Eturas
III. Algorithmische Koordination
1. Preissoftware
2. Stillschweigende Kollusion
3. Künstliche Intelligenz
4. Ausweg: Beobachtungs- und Interventionspflichten
IV. Fazit
Auslegung des Kartellverbots bei Kollusion durch Algorithmen
I. Einleitung und Problemstellung
II. Kollusion durch Algorithmen als Marktphänomen
III. Zur Reichweite des Kartellverbots im Lichte der traditionellen Auslegung
IV. Lösungsansätze
1. Zur Frage einer Personifizierung des Algorithmus
2. Zur Frage des Verbots stillschweigender Koordinierung
3. Verbraucherschädigende Informationssignale als Zuwiderhandlung
a) Konzeptionelle Überlegungen
b) Mögliche Einwände
V. Zusammenfassung
Algorithmenbasiertes Marktverhalten als Missbrauch einer marktbeherrschenden Stellung
I. Eingrenzung und Einordnung der Fragestellung
II. Daten
1. Verweigerung des Datenzugangs
2. Art und Weise der Nutzung von Daten
3. Umfang der genutzten Daten
a) Ausbeutung
b) Keine kontraproduktive oder systemwidrige Marktergebniskontrolle
c) Fazit
III. Produktgestaltung (Envelopment)
1. Envelopment-Strategien
2. Ausbeutung
3. Behinderung
4. Fazit
IV. Schnelligkeit und Intransparenz
1. Schnelligkeit
2. Intransparenz
3. Fazit
V. Dynamische Preise
1. Ausbeutung (Preishöhenmissbrauch)
2. Kampfpreise
3. Fazit
VI. Individualisierte Preise
1. Preisdifferenzierung durch Algorithmen
2. Wettbewerb und Preisdifferenzierung 1. Grades
3. Preisdifferenzierung 1. Grades als Machtmissbrauch
4. Fazit
VII. Ergebnis
Auf dem Weg zu einem algorithmisierten Wettbewerbsbegriff?
I. Problemstellung
II. Besonderheiten algorithmisch gesteuerten Marktverhaltens
III. Steigerung horizontaler Reaktionsverbundenheit
1. Grundlagen
2. Empirische Evidenz und Reaktionsmöglichkeiten
3. Algorithmische Preissetzung als abgestimmte Verhaltensweise
IV. Verändertes Wettbewerbsbild
1. Modellgeprägte Wirklichkeit
2. Technische Voraussetzungen für Marktteilnehmer
3. Integration des Menschen in eine digitalisierte Technostruktur
V. Fazit
Tagungsbericht
I. Vortrag von Prof. Dr. Markus Gabriel
1. Referat
2. Diskussion
II. Vortrag von Prof. Dr. Justus Haucap
1. Referat
2. Diskussion
III. Vortrag von Prof. Dr. Jörn Lüdemann
1. Referat
2. Kommentar von Prof. Dr. Jürgen Kühling
3. Diskussion
IV. Vortrag von Prof. Dr. Miriam Buiten
1. Referat
2. Diskussion
V. Vortrag von Prof. Dr. Stefan Wrobel
1. Referat
2. Diskussion
VI. Keynote Speech von Prof. Ulrich Kelber
1. Referat
2. Diskussion
VII. Vortrag von Prof. Dr. Matthias Lehmann
1. Referat
2. Diskussion
VIII. Vortrag von Prof. Dr. Timo Rademacher
1. Referat
2. Diskussion
IX. Vortrag von Prof. Dr. Andreas Heinemann
X. Vortrag von Prof. Dr. Petra Pohlmann
XI. Erkenntnisse der Panel-Diskussion

Systemvoraussetzungen

Als PDF speichern Als Link merken