Diskriminierung beim Einsatz von Künstlicher Intelligenz (KI)

Technische Grundlagen für Rechtsanwendung und Rechtsentwicklung

Florent Thouvenin

Stephanie Volz

Soraya Weiner

Christoph Heitz

Region:

Schweiz, EU

Rechtsgebiete:

Artificial Intelligence & Recht

Zitiervorschlag: Florent Thouvenin / Stephanie Volz / Soraya Weiner / Christoph Heitz, Diskriminierung beim Einsatz von Künstlicher Intelligenz (KI), in: Jusletter IT 4. Juli 2024

Die zunehmende Verbreitung von Systemen der Künstlichen Intelligenz (KI) erhöht das Risiko der Diskriminierung von Menschen durch solche Systeme. Die Ursachen für Diskriminierung durch KI-Systeme sind vielfältig. Sie können insb. in der Definition von Modellstruktur und Trainingsverfahren und in nicht repräsentativen Trainingsdaten, aber auch in der Anwendung der Systeme liegen. Die Gefahr der Diskriminierung durch KI-Systeme lässt sich nur durch ein Zusammenwirken von rechtlichen und technischen Massnahmen verringern. Das erfordert eine vertiefte Zusammenarbeit von Informatiker:innen und Jurist:innen und ein gegenseitiges Verständnis der Begriffe und Konzepte. Der vorliegende Beitrag macht einen ersten Schritt, indem er Jurist:innen die technischen Grundlagen vermittelt, die für das Verständnis der Entstehung von Diskriminierung durch KI-Systeme erforderlich sind.

Inhaltsverzeichnis

I. Einleitung
II. Grundlagen
- A. Diskriminierung
  - 1. Begriff
    - a. Negative Ungleichbehandlung bzw. Gleichbehandlung
    - b. Geschützte Merkmale
    - c. Fehlende qualifizierte Rechtfertigung
  - 2. Erscheinungsformen
    - a. Direkte Diskriminierung
    - b. Diskriminierung durch Gleichbehandlung
    - c. Indirekte Diskriminierung
    - d. Proxy-Diskriminierung
  - 3. Bias und Fairness
- B. Technische Begriffe
  - 1. Künstliche Intelligenz (KI)
  - 2. Algorithmen und algorithmische Systeme
    - a. Begriff
    - b. Deterministische und nicht-deterministische Algorithmen
  - 3. Wichtigste Formen von Algorithmen
    - a. Regelbasierte Algorithmen und Expertensysteme
    - b. Datenbasierte Algorithmen und neuronale Netze
  - 4. Entwicklung von KI-Systemen
    - a. Definition von Modellstruktur und Trainingsverfahren
    - b. Trainieren und Validieren
    - c. Testen
  - 5. Anwendung von KI-Systemen
III. Problemstellung
- A. Gefahr und Nutzen von KI
- B. Korrelationen
- C. Skalierung
- D. Rückkoppelungseffekte (feedback loops)
- E. Zielkonflikte von Datenschutz und Genauigkeit
IV. Ursachen für algorithmische Diskriminierung
- A. Entwicklung
  - 1. Definition von Modellstruktur und Trainingsverfahren
  - 2. Trainieren
  - 3. Validieren und Testen
- B. Anwendung
V. Technische (und andere) Lösungsansätze
- A. Sensibilisierung und Aufklärung
- B. Anforderungen an Trainingsdaten
- C. Non-Discrimination by Design
VI. Fazit

Loggen Sie sich bitte ein, um den ganzen Text zu lesen.

Für Campus registrieren? Mehr dazu