Künstliche Intelligenz und Datenschutz
Vereinbarkeit intransparenter Systeme mit geltendem Datenschutzrecht und potentielle Regulierungsansätze
1st Edition
Published on 7. February 2022
262 pages
978-3-7489-3095-2 (ISBN)
Description
Mit der fortschreitenden Entwicklung von Künstlicher Intelligenz stellen sich diverse Rechtsprobleme. Aus der Perspektive des Datenschutzrechts ist vor allem die Intransparenz bestimmter Arten von KI kritisch zu betrachten. Der Autor untersucht zum einen, ob und unter welchen Bedingungen derartige Systeme in datenschutzrechtlich zulässiger Weise eingesetzt werden dürfen. Zum anderen werden Regulierungsansätze für eine transparente Entwicklung und Nutzung von KI-Systemen aufgezeigt, wozu primär die umstrittene Frage gehört, ob und inwieweit das Datenschutzrecht der von einer KI-Entscheidung betroffenen Person ein "Recht auf Erklärung" der Funktionsweise des Systems gewährt.
More details
Other editions
Additional editions
Paul Vogel
Künstliche Intelligenz und Datenschutz
Vereinbarkeit intransparenter Systeme mit geltendem Datenschutzrecht und potentielle Regulierungsansätze
Book
02/2022
1st Edition
Nomos
€74.00
Available immediately
Content
- Cover
- Einführung
- Teil 1: Grundlagen
- Kapitel 1: Begriffliche und technische Grundlagen
- I. Kurze Geschichte der Künstlichen Intelligenz
- II. Begriffliche Klärung
- III. Grundlagen der Maschinenintelligenz
- 1. Techniken des maschinellen Lernens
- a) Überwachtes Lernen
- b) Nicht-überwachtes Lernen
- c) Verstärkungslernen
- 2. Modelltypen des maschinellen Lernens
- a) Entscheidungsbäume
- b) Tiefes Lernen in künstlichen neuronalen Netzen
- IV. Bedeutung von Daten und ihrer Qualität für lernende Systeme
- Kapitel 2: Einsatzszenarien lernender Systeme
- I. Einsatz durch Private
- II. Einsatz durch staatliche Stellen
- 1. Vorausschauende Gefahrenabwehr
- 2. Unterstützung bei Bewährungsentscheidungen
- Teil 2: Das Datenschutzrecht als Regulierungsinstrument für Künstliche Intelligenz?
- Kapitel 1: Vorüberlegungen
- I. Diskriminierungen und andere Rechtsverstöße
- II. Zentrales Problem: Intransparenz
- III. Schlüsselbegriffe und Begutachtungsperspektiven
- IV. Gründe für das Erfordernis von Nachvollziehbarkeit und Erklärbarkeit
- Kapitel 2: Anwendungsbereich des Datenschutzrechts
- I. Räumlicher Anwendungsbereich
- II. Sachlicher Anwendungsbereich
- 1. Personenbezogene Daten
- 2. Automatisierte und nichtautomatisierte Verarbeitung
- III. Zwischenergebnis
- Teil 3: Vereinbarkeit von Künstlicher Intelligenz mit den Grundprinzipien des Datenschutzrechts (de lege lata)
- Kapitel 1: Bedeutung und Rechtsnatur der Verarbeitungsgrundsätze
- Kapitel 2: KI und Rechtmäßigkeit
- I. Einwilligung des Betroffenen
- II. Erforderlichkeit der Verarbeitung zur Vertragserfüllung
- III. Überwiegende Interessen des Verantwortlichen
- IV. Verarbeitung besonderer Kategorien personenbezogener Daten
- V. Geltendmachung von Betroffenenrechten
- VI. Zwischenergebnis
- Kapitel 3: KI und Treu und Glauben
- Kapitel 4: KI und Transparenz
- I. Grundsätze des Transparenzprinzips
- II. Das Verbot automatisierter Einzelentscheidungen (Art. 22 DSGVO)
- 1. Einordnung und historischer Kontext der Vorschrift
- a) Geschichte und verfassungsrechtlicher Hintergrund des Verbots automatisierter Entscheidungen im Einzelfall
- aa) Art. 15 DSRL
- bb) § 6a BDSG a.F.
- b) Normcharakter des Art. 22 DSGVO
- 2. Anwendungsbereich der Vorschrift
- a) Automatisierte Einzelfallentscheidung
- aa) Entscheidung auf Grundlage einer automatisierten Verarbeitung
- bb) Unterwerfung des Betroffenen
- cc) Ausschließliches Beruhen
- b) Rechtliche Wirkung oder erhebliche Beeinträchtigung durch die Entscheidung
- aa) Rechtliche Wirkung
- (1) Grundsätzliches
- (2) Beschränkung des Anwendungsbereichs auf negative rechtliche Wirkungen
- (3) Zwischenfazit
- bb) Erhebliche Beeinträchtigung in ähnlicher Weise
- (1) Grundsätzliches
- (2) Insbesondere: Personalisierte Preisdifferenzierung
- (3) Zwischenfazit
- c) Ausnahmetatbestände
- aa) Abschluss oder Erfüllung eines Vertrages
- bb) Öffnungsklausel für unionsrechtliche und mitgliedstaatliche Regelungen
- (1) § 37 BDSG
- (2) § 31 BDSG
- cc) Ausdrückliche Einwilligung des Betroffenen
- dd) Erforderliche Schutzmaßnahmen
- 3. Zwischenergebnis: Auswirkungen auf den Einsatz lernender Systeme
- III. Informationspflichten und Auskunftsansprüche bei automatisierten Einzelentscheidungen
- 1. Grundsätzliches
- a) Inhaltliche Anforderungen und Zeitpunkt der Informationserteilung
- b) Formale Anforderungen
- 2. Pflicht zur Information und Auskunft über den Einsatz von KI de lege lata
- a) Bestehen einer automatisierten Entscheidungsfindung ("Ob")
- b) Einzelheiten der automatisierten Entscheidungsfindung ("Wie")
- IV. Allgemeine Erfordernisse des Transparenzgrundsatzes abseits von Art. 22 DSGVO
- V. Zwischenergebnis
- Kapitel 5: KI und Zweckbindung
- I. Inhalt des Zweckbindungsgrundsatzes
- II. Zweckbindung bei der Verarbeitung personenbezogener Daten zum Zwecke des maschinellen Lernens
- 1. Anforderungen an die Konkretisierung des Zwecks
- 2. Weiterverarbeitung zu Zwecken des maschinellen Lernens
- a) Fortentwicklung eines intelligenten Systems als "wissenschaftliche Forschung"
- b) Kompatibilitätstest gemäß Art. 6 Abs. 4 DSGVO
- 3. Risikoorientierte Auslegung des Zweckbindungsgrundsatzes
- III. Zwischenergebnis
- Kapitel 6: KI und Datenminimierung sowie Speicherbegrenzung
- I. KI und Datenminimierung
- II. KI und Speicherbegrenzung
- Kapitel 7: Zwischenfazit - Vereinbarkeit von KI mit den Datenschutzgrundsätzen
- Teil 4: Regulierungsansätze für einen transparenten Einsatz von KI
- Kapitel 1: Ein subjektives "Recht auf Erklärung" des Betroffenen?
- I. Vorteile eines solchen Rechts
- II. Normative Verortung eines Rechts auf Erklärung
- III. Argumente gegen ein Recht auf Erklärung
- 1. Vergleich mit der früheren Rechtslage
- 2. Entgegenstehende Rechte und Interessen des Verantwortlichen
- a) Geistiges Eigentum
- b) Geschäftsgeheimnisse
- c) Einschränkung der Beschränkungen
- 3. Faktischer Nutzen einer umfassenden Auskunft
- IV. Zwischenfazit
- V. Konturierung eines Rechts auf Erklärung mit Hilfe des risikobasierten Ansatzes der DSGVO
- 1. Ursprung und Charakter des risikobasierten Ansatzes
- 2. Eignung des risikobasierten Ansatzes zur Präzisierung eines Rechts auf Erklärung
- VI. Inhalt des Rechts auf Erklärung
- 1. Abgrenzung nach Bezugspunkt und maßgeblichem Blickwinkel
- 2. Anforderungen an die Begründung einer konkreten Entscheidung
- a) Ermittlung der Begründungstiefe aus der Perspektive ihres Zwecks
- b) Vergleich mit dem Begründungserfordernis hoheitlichen Handelns
- VII. Ergebnis: Ein Recht auf Erklärung algorithmischer Entscheidungen
- Kapitel 2: Pflichten der Betreiber intelligenter Systeme
- I. Zulassungskontrolle
- II. Fortwährende ergänzende Algorithmenkontrolle
- 1. Kontrollrechte der Untersuchungsbehörden
- 2. Mitwirkungspflichten des Betreibers
- III. Kennzeichnung algorithmischer Entscheidungen
- IV. Pseudonymisierung und Anonymisierung personenbezogener Daten
- 1. Regelungen der DSGVO zu Pseudonymisierung und Anonymisierung
- a) Pseudonymisierung
- b) Anonymisierung
- 2. Insbesondere: Anonymisierungstechniken beim maschinellen Lernen
- a) K-Anonymisierung
- b) Differential Privacy
- c) Homomorphe Verschlüsselung
- 3. Zwischenfazit
- V. Freiwillige Selbstverpflichtung und Zertifizierungsmöglichkeiten
- Kapitel 3: Aufsichtsbehördliche Sanktionsmöglichkeiten und individueller Rechtsschutz
- I. Datenschutzrechtliche Sanktionsmöglichkeiten
- II. Möglichkeiten individuellen Rechtsschutzes
- Teil 5: Fazit
- Kapitel 1: Thesen zu einem datenschutzkonformen Einsatz intelligenter Systeme
- Kapitel 2: Ausblick
- Literaturverzeichnis
