Beiträge DOI: 10.38023/9642ed9a-5c05-4884-b5b9-ebc66f2f3324

Diskriminierung beim Einsatz von Künstlicher Intelligenz (KI)

Technische Grundlagen für Rechtsanwendung und Rechtsentwicklung

Florent Thouvenin

Stephanie Volz

Soraya Weiner

Zitiervorschlag: Florent Thouvenin / Stephanie Volz / Soraya Weiner / , Diskriminierung beim Einsatz von Künstlicher Intelligenz (KI), in: Jusletter IT 4. Juli 2024

Die zunehmende Verbreitung von Systemen der Künstlichen Intelligenz (KI) erhöht das Risiko der Diskriminierung von Menschen durch solche Systeme. Die Ursachen für Diskriminierung durch KI-Systeme sind vielfältig. Sie können insb. in der Definition von Modellstruktur und Trainingsverfahren und in nicht repräsentativen Trainingsdaten, aber auch in der Anwendung der Systeme liegen. Die Gefahr der Diskriminierung durch KI-Systeme lässt sich nur durch ein Zusammenwirken von rechtlichen und technischen Massnahmen verringern. Das erfordert eine vertiefte Zusammenarbeit von Informatiker:innen und Jurist:innen und ein gegenseitiges Verständnis der Begriffe und Konzepte. Der vorliegende Beitrag macht einen ersten Schritt, indem er Jurist:innen die technischen Grundlagen vermittelt, die für das Verständnis der Entstehung von Diskriminierung durch KI-Systeme erforderlich sind.

Inhaltsverzeichnis

I. Einleitung
II. Grundlagen
- A. Diskriminierung
  - 1. Begriff
    - a. Negative Ungleichbehandlung bzw. Gleichbehandlung
    - b. Geschützte Merkmale
    - c. Fehlende qualifizierte Rechtfertigung
  - 2. Erscheinungsformen
    - a. Direkte Diskriminierung
    - b. Diskriminierung durch Gleichbehandlung
    - c. Indirekte Diskriminierung
    - d. Proxy-Diskriminierung
  - 3. Bias und Fairness
- B. Technische Begriffe
  - 1. Künstliche Intelligenz (KI)
  - 2. Algorithmen und algorithmische Systeme
    - a. Begriff
    - b. Deterministische und nicht-deterministische Algorithmen
  - 3. Wichtigste Formen von Algorithmen
    - a. Regelbasierte Algorithmen und Expertensysteme
    - b. Datenbasierte Algorithmen und neuronale Netze
  - 4. Entwicklung von KI-Systemen
    - a. Definition von Modellstruktur und Trainingsverfahren
    - b. Trainieren und Validieren
    - c. Testen
  - 5. Anwendung von KI-Systemen
III. Problemstellung
- A. Gefahr und Nutzen von KI
- B. Korrelationen
- C. Skalierung
- D. Rückkoppelungseffekte (feedback loops)
- E. Zielkonflikte von Datenschutz und Genauigkeit
IV. Ursachen für algorithmische Diskriminierung
- A. Entwicklung
  - 1. Definition von Modellstruktur und Trainingsverfahren
  - 2. Trainieren
  - 3. Validieren und Testen
- B. Anwendung
V. Technische (und andere) Lösungsansätze
- A. Sensibilisierung und Aufklärung
- B. Anforderungen an Trainingsdaten
- C. Non-Discrimination by Design
VI. Fazit

Loggen Sie sich bitte ein, um den ganzen Text zu lesen.

Für Campus registrieren? Mehr dazu

Weitere Jobs Jobs inserieren

Kanton St. Gallen (Amt für Handelsregister und Notariate - Amtsnotariat St. Gallen)

Jurist*in als Amtsnotar*in (m/w/d) Kanton St. Gallen (Amt für [...]

Rechtsanwältin / Rechtsanwalt [...] Legal XII Tables Avocats

Leitende Staatsanwältin / Leitender [...] Kanton St. Gallen (Staatsanwaltschaf[...]

Anwältin / Anwalt mit Schwerpunkt [...] Suter.Legal. AG

Auditor*in (juristische*r Praktikant*[...] Kanton St. Gallen (Amt für [...]

Rechtsanwältin / Rechtsanwalt Prof. Giger & Partner Rechtsanwälte

Jurist*in als Abteilungsleiter*in [...] Kanton St. Gallen (Amt für [...]

Fachexperte*in KAST (m/w/d) Kanton St. Gallen (Arbeitslosenversic[...]

Rechtsanwalt / Rechtsanwältin 50-100% Kaiser Simmen Cattin Partner

Auditor*in (juristische*r Praktikant*[...] Kanton St. Gallen (Amt für [...]

Rechtsanwältin / Rechtsanwalt 60-100% Bürgi Nägeli Rechtsanwälte

Anwalt / Anwältin 80–100% Gründler & Partner Rechtsanwälte

Rechtsanwältin / Rechtsanwalt 100% [...] CMS (Zürich)

Rechtsanwältin / Rechtsanwalt mit [...] Wenger Plattner

Steuerexpert*in oder Jurist*in mit [...] Blum&Grob Rechtsanwälte AG

Gerichtsschreiber*in Versicherungsger[...] Kanton St. Gallen (Versicherungsgericht)

Rechtsanwältin / Rechtsanwalt 50-100% MV Legal Partners Inc.

Rechtsanwältin / Rechtsanwalt 70-100% MIOTTI_HUMBEL_BRUNNER AG

Erfahrene Steueranwältin oder Steueranwalt Altenburger Ltd legal + tax

Weitere Events Event inserieren

/dam/jcr:83f09d58-4a62-41b1-9c9c-02abeb440d40

Online-Kurs: AI für die juristische [...] Weblaw Academy

Intensivkurs „Strafrecht und [...]

/dam/jcr:2513d656-4f19-4079-ac7b-20994bb9e76e/uzh%20logo.webp

CAS Safety in Healthcare

/dam/jcr:19b10fb5-feb5-4241-aa84-8bacb7a4f903/Verein%20eJustice.png

Tagung für Informatik und Recht

/dam/jcr:8a7f3354-213a-43de-a59d-a7475e221373

Rechtssicher mit KI - Kompaktseminar [...] Begrenzte Plätze.

MAS Economic Crime Investigation

St.Galler Arbeitsrechtstagung

/dam/jcr:c2a09a2e-ee26-4225-a6e7-2d9825723fad

CAS Compliance in Financial Services Institut für Rechtswissenschaft und [...]

Executive Master of Laws (LL.M.) in [...]

Das neue Investitionsprüfgesetz [...]

CAS Haftpflicht- und Versicherungsrec[...]

Executive Master of Laws (LL.M.) im [...]

19. Schweizerischer Datenschutzrechts[...]

/dam/jcr:9e9ce6db-0f4a-45c0-bb41-6f9887b960a9/zhaw.webp

CAS AI Law and Legal Tech

Praxis im Baurecht

Executive Master of Laws (LL.M.) im [...]

FORMAT CAPSULE: Jurisprudences [...]

/dam/jcr:db2bffcf-48e3-4984-af80-012f88784e26/Paulus_akademie.png

Tagung der Fachgruppe «Reform im [...]

Swiss Digital Finance Conference 2026

MAS Information & Cyber Security

Gutachten im Strafprozess

Recht aktuell: Basler ZPO-Tag 2026

Rechtssicher mit KI - Kompaktsemina[...] Begrenzte Plätze.

Recht aktuell: 10. Basler Sozialversi[...]

CAS Data Protection & Technology

Mehr Beiträge