Articles DOI: 10.38023/9642ed9a-5c05-4884-b5b9-ebc66f2f3324

Diskriminierung beim Einsatz von Künstlicher Intelligenz (KI)

Technische Grundlagen für Rechtsanwendung und Rechtsentwicklung

Florent Thouvenin

Stephanie Volz

Soraya Weiner

Citation: Florent Thouvenin / Stephanie Volz / Soraya Weiner / , Diskriminierung beim Einsatz von Künstlicher Intelligenz (KI), in: Jusletter IT 4 July 2024

The causes of discrimination by AI systems are diverse. They can lie in the definition of the model structure and training procedures and in non-representative training data, but also in the application of the systems. The risk of discrimination by AI systems can only be reduced through a combination of legal and technical measures. This requires a close cooperation between computer scientists and lawyers and a mutual understanding of terms and concepts. This article takes a first step by providing lawyers with the technical basics required to understand the emergence of discrimination by AI systems.

Table of contents

I. Einleitung
II. Grundlagen
- A. Diskriminierung
  - 1. Begriff
    - a. Negative Ungleichbehandlung bzw. Gleichbehandlung
    - b. Geschützte Merkmale
    - c. Fehlende qualifizierte Rechtfertigung
  - 2. Erscheinungsformen
    - a. Direkte Diskriminierung
    - b. Diskriminierung durch Gleichbehandlung
    - c. Indirekte Diskriminierung
    - d. Proxy-Diskriminierung
  - 3. Bias und Fairness
- B. Technische Begriffe
  - 1. Künstliche Intelligenz (KI)
  - 2. Algorithmen und algorithmische Systeme
    - a. Begriff
    - b. Deterministische und nicht-deterministische Algorithmen
  - 3. Wichtigste Formen von Algorithmen
    - a. Regelbasierte Algorithmen und Expertensysteme
    - b. Datenbasierte Algorithmen und neuronale Netze
  - 4. Entwicklung von KI-Systemen
    - a. Definition von Modellstruktur und Trainingsverfahren
    - b. Trainieren und Validieren
    - c. Testen
  - 5. Anwendung von KI-Systemen
III. Problemstellung
- A. Gefahr und Nutzen von KI
- B. Korrelationen
- C. Skalierung
- D. Rückkoppelungseffekte (feedback loops)
- E. Zielkonflikte von Datenschutz und Genauigkeit
IV. Ursachen für algorithmische Diskriminierung
- A. Entwicklung
  - 1. Definition von Modellstruktur und Trainingsverfahren
  - 2. Trainieren
  - 3. Validieren und Testen
- B. Anwendung
V. Technische (und andere) Lösungsansätze
- A. Sensibilisierung und Aufklärung
- B. Anforderungen an Trainingsdaten
- C. Non-Discrimination by Design
VI. Fazit