de en

Diskriminierung beim Einsatz von Künstlicher Intelligenz (KI)

Technische Grundlagen für Rechtsanwendung und Rechtsentwicklung

Florent Thouvenin
Florent Thouvenin
Stephanie Volz
Soraya Weiner
Soraya Weiner

Zitiervorschlag: Florent Thouvenin / Stephanie Volz / Soraya Weiner / , Diskriminierung beim Einsatz von Künstlicher Intelligenz (KI), in: Jusletter IT 4. Juli 2024

Die zunehmende Verbreitung von Systemen der Künstlichen Intelligenz (KI) erhöht das Risiko der Diskriminierung von Menschen durch solche Systeme. Die Ursachen für Diskriminierung durch KI-Systeme sind vielfältig. Sie können insb. in der Definition von Modellstruktur und Trainingsverfahren und in nicht repräsentativen Trainingsdaten, aber auch in der Anwendung der Systeme liegen. Die Gefahr der Diskriminierung durch KI-Systeme lässt sich nur durch ein Zusammenwirken von rechtlichen und technischen Massnahmen verringern. Das erfordert eine vertiefte Zusammenarbeit von Informatiker:innen und Jurist:innen und ein gegenseitiges Verständnis der Begriffe und Konzepte. Der vorliegende Beitrag macht einen ersten Schritt, indem er Jurist:innen die technischen Grundlagen vermittelt, die für das Verständnis der Entstehung von Diskriminierung durch KI-Systeme erforderlich sind.


Inhaltsverzeichnis

  • I. Einleitung
  • II. Grundlagen
    • A. Diskriminierung
      • 1. Begriff
        • a. Negative Ungleichbehandlung bzw. Gleichbehandlung
        • b. Geschützte Merkmale
        • c. Fehlende qualifizierte Rechtfertigung
      • 2. Erscheinungsformen
        • a. Direkte Diskriminierung
        • b. Diskriminierung durch Gleichbehandlung
        • c. Indirekte Diskriminierung
        • d. Proxy-Diskriminierung
      • 3. Bias und Fairness
    • B. Technische Begriffe
      • 1. Künstliche Intelligenz (KI)
      • 2. Algorithmen und algorithmische Systeme
        • a. Begriff
        • b. Deterministische und nicht-deterministische Algorithmen
      • 3. Wichtigste Formen von Algorithmen
        • a. Regelbasierte Algorithmen und Expertensysteme
        • b. Datenbasierte Algorithmen und neuronale Netze
      • 4. Entwicklung von KI-Systemen
        • a. Definition von Modellstruktur und Trainingsverfahren
        • b. Trainieren und Validieren
        • c. Testen
      • 5. Anwendung von KI-Systemen
  • III. Problemstellung
    • A. Gefahr und Nutzen von KI
    • B. Korrelationen
    • C. Skalierung
    • D. Rückkoppelungseffekte (feedback loops)
    • E. Zielkonflikte von Datenschutz und Genauigkeit
  • IV. Ursachen für algorithmische Diskriminierung
    • A. Entwicklung
      • 1. Definition von Modellstruktur und Trainingsverfahren
      • 2. Trainieren
      • 3. Validieren und Testen
    • B. Anwendung
  • V. Technische (und andere) Lösungsansätze
    • A. Sensibilisierung und Aufklärung
    • B. Anforderungen an Trainingsdaten
    • C. Non-Discrimination by Design
  • VI. Fazit
Loggen Sie sich bitte ein, um den ganzen Text zu lesen.
Für Campus registrieren? Mehr dazu
Login Poster
Kanton St. Gallen (Amt für Gemeinden und Bürgerrecht)
Juristische Fachperson Gemeinderecht [...] Kanton St. Gallen (Amt für Gemeinden [...]
Kanton St. Gallen (Amt für Gemeinden und Bürgerrecht)
Juristische*r Fachspezialist*in [...] Kanton St. Gallen (Amt für Gemeinden [...]
Oberson Abels SA
Steueranwältin / Steueranwalt oder [...] Oberson Abels SA
Kanton St. Gallen (Amt für Handelsregister und Notariate - Amtsnotariat St. Gallen)
Leiter*in Amt für Handelsregister [...] Kanton St. Gallen (Amt für [...]
Kanton St. Gallen (Amt für Wirtschaft und Arbeit)
Leiter*in Arbeitslosenversicherung (m/w/d) Kanton St. Gallen (Amt für [...]
chkp. ag Rechtsanwälte Notariat (Baden)
Rechtsanwalt / Rechtsanwältin [...] chkp. ag Rechtsanwälte Notariat (Baden)
Barandun AG (Zug)
Rechtsanwältin / Rechtsanwalt mit [...] Barandun AG (Zug)
BAUR HÜRLIMANN AG (Baden)
Rechtsanwältin / Rechtsanwalt [...] BAUR HÜRLIMANN AG (Baden)
Stadtparlament Winterthur
Ombudsperson Stadt Winterthur 60-80% Stadtparlament Winterthur
/dam/jcr:19b10fb5-feb5-4241-aa84-8bacb7a4f903/Verein%20eJustice.png
Tagung für Informatik und Recht
/dam/jcr:8a7f3354-213a-43de-a59d-a7475e221373
Rechtssicher mit KI - Kompaktseminar [...] Begrenzte Plätze.
/dam/jcr:2e9579bd-bc09-4fea-a327-9cd7e3831be2/HSLU_Logo_DE_Schwarz.jpg
MAS Economic Crime Investigation
/dam/jcr:48e078d1-06c6-4c49-81c7-3704e8d9abf9/Uni_StGallen_irph_logo.webp
St.Galler Arbeitsrechtstagung
/dam/jcr:c2a09a2e-ee26-4225-a6e7-2d9825723fad
CAS Compliance in Financial Services Institut für Rechtswissenschaft und [...]
/dam/jcr:d85df556-4302-43d6-aece-94d632ee9245/uni_li_logo.jpg
Executive Master of Laws (LL.M.) in [...]
/dam/jcr:274399e0-95f5-417e-8939-fe54d7fbfc49/Uni_Basel_Recht_aktuell_Neues_Logo.webp
Das neue Investitionsprüfgesetz [...]
/dam/jcr:48e078d1-06c6-4c49-81c7-3704e8d9abf9/Uni_StGallen_irph_logo.webp
CAS Haftpflicht- und Versicherungsrec[...]
/dam/jcr:d85df556-4302-43d6-aece-94d632ee9245/uni_li_logo.jpg
Executive Master of Laws (LL.M.) im [...]
/dam/jcr:035facb2-bbcb-4286-8a34-0499af8dbf1a/uni_freiburg_logo_final.PNG
19. Schweizerischer Datenschutzrechts[...]
/dam/jcr:9e9ce6db-0f4a-45c0-bb41-6f9887b960a9/zhaw.webp
CAS AI Law and Legal Tech
/dam/jcr:2513d656-4f19-4079-ac7b-20994bb9e76e/uzh%20logo.webp
LL.M. Internationales Wirtschaftsrecht
/dam/jcr:274399e0-95f5-417e-8939-fe54d7fbfc49/Uni_Basel_Recht_aktuell_Neues_Logo.webp
Praxis im Baurecht
/dam/jcr:d85df556-4302-43d6-aece-94d632ee9245/uni_li_logo.jpg
Executive Master of Laws (LL.M.) im [...]
/dam/jcr:b81c3d7c-a23a-43fb-89d5-dd07969509b2/Logo%20UNIGE.svg
FORMAT CAPSULE: Jurisprudences [...]
/dam/jcr:db2bffcf-48e3-4984-af80-012f88784e26/Paulus_akademie.png
Tagung der Fachgruppe «Reform im [...]
/dam/jcr:2e9579bd-bc09-4fea-a327-9cd7e3831be2/HSLU_Logo_DE_Schwarz.jpg
Online-Fachkurs Einführung ISO 2700x [...]
/dam/jcr:2e9579bd-bc09-4fea-a327-9cd7e3831be2/HSLU_Logo_DE_Schwarz.jpg
Swiss Digital Finance Conference 2026
/dam/jcr:2e9579bd-bc09-4fea-a327-9cd7e3831be2/HSLU_Logo_DE_Schwarz.jpg
MAS Information & Cyber Security
/dam/jcr:274399e0-95f5-417e-8939-fe54d7fbfc49/Uni_Basel_Recht_aktuell_Neues_Logo.webp
Gutachten im Strafprozess
/dam/jcr:6405333b-0d52-43ab-9e50-5aa94211cfde/Kalaidos-FH-Claim-DE_logo.webp
CAS FH in FinTech-Regulierung
/dam/jcr:274399e0-95f5-417e-8939-fe54d7fbfc49/Uni_Basel_Recht_aktuell_Neues_Logo.webp
Recht aktuell: Basler ZPO-Tag 2026
/dam/jcr:48e078d1-06c6-4c49-81c7-3704e8d9abf9/Uni_StGallen_irph_logo.webp
St.Galler Eherechtstagung 2026
/dam/jcr:48e078d1-06c6-4c49-81c7-3704e8d9abf9/Uni_StGallen_irph_logo.webp
St.Galler Erbrechtstagung 2026
/dam/jcr:8a7f3354-213a-43de-a59d-a7475e221373
Rechtssicher mit KI - Kompaktsemina[...] Begrenzte Plätze.
/dam/jcr:274399e0-95f5-417e-8939-fe54d7fbfc49/Uni_Basel_Recht_aktuell_Neues_Logo.webp
Recht aktuell: 10. Basler Sozialversi[...]
/dam/jcr:df85a69b-df10-42c1-b55e-2cd79c3853a4/universitaet_freiburg_logo.webp
CAS Migrationsrecht
/dam/jcr:2e9579bd-bc09-4fea-a327-9cd7e3831be2/HSLU_Logo_DE_Schwarz.jpg
CAS Finanz- und Rechnungswesen für [...]
/dam/jcr:2e9579bd-bc09-4fea-a327-9cd7e3831be2/HSLU_Logo_DE_Schwarz.jpg
CAS Data Protection & Technology
/dam/jcr:9e9ce6db-0f4a-45c0-bb41-6f9887b960a9/zhaw.webp
CAS Umweltrecht
/dam/jcr:48e078d1-06c6-4c49-81c7-3704e8d9abf9/Uni_StGallen_irph_logo.webp
CAS Prozessführung – Civil Litigation