Articles DOI: 10.38023/9642ed9a-5c05-4884-b5b9-ebc66f2f3324

Diskriminierung beim Einsatz von Künstlicher Intelligenz (KI)

Technische Grundlagen für Rechtsanwendung und Rechtsentwicklung

Florent Thouvenin

Stephanie Volz

Soraya Weiner

Citation: Florent Thouvenin / Stephanie Volz / Soraya Weiner / , Diskriminierung beim Einsatz von Künstlicher Intelligenz (KI), in: Jusletter IT 4 July 2024

The causes of discrimination by AI systems are diverse. They can lie in the definition of the model structure and training procedures and in non-representative training data, but also in the application of the systems. The risk of discrimination by AI systems can only be reduced through a combination of legal and technical measures. This requires a close cooperation between computer scientists and lawyers and a mutual understanding of terms and concepts. This article takes a first step by providing lawyers with the technical basics required to understand the emergence of discrimination by AI systems.

Table of contents

I. Einleitung
II. Grundlagen
- A. Diskriminierung
  - 1. Begriff
    - a. Negative Ungleichbehandlung bzw. Gleichbehandlung
    - b. Geschützte Merkmale
    - c. Fehlende qualifizierte Rechtfertigung
  - 2. Erscheinungsformen
    - a. Direkte Diskriminierung
    - b. Diskriminierung durch Gleichbehandlung
    - c. Indirekte Diskriminierung
    - d. Proxy-Diskriminierung
  - 3. Bias und Fairness
- B. Technische Begriffe
  - 1. Künstliche Intelligenz (KI)
  - 2. Algorithmen und algorithmische Systeme
    - a. Begriff
    - b. Deterministische und nicht-deterministische Algorithmen
  - 3. Wichtigste Formen von Algorithmen
    - a. Regelbasierte Algorithmen und Expertensysteme
    - b. Datenbasierte Algorithmen und neuronale Netze
  - 4. Entwicklung von KI-Systemen
    - a. Definition von Modellstruktur und Trainingsverfahren
    - b. Trainieren und Validieren
    - c. Testen
  - 5. Anwendung von KI-Systemen
III. Problemstellung
- A. Gefahr und Nutzen von KI
- B. Korrelationen
- C. Skalierung
- D. Rückkoppelungseffekte (feedback loops)
- E. Zielkonflikte von Datenschutz und Genauigkeit
IV. Ursachen für algorithmische Diskriminierung
- A. Entwicklung
  - 1. Definition von Modellstruktur und Trainingsverfahren
  - 2. Trainieren
  - 3. Validieren und Testen
- B. Anwendung
V. Technische (und andere) Lösungsansätze
- A. Sensibilisierung und Aufklärung
- B. Anforderungen an Trainingsdaten
- C. Non-Discrimination by Design
VI. Fazit

Please log in to read the full text.

More jobs Post jobs

Kanton St. Gallen (Amt für Handelsregister und Notariate - Amtsnotariat St. Gallen)

Jurist*in als Amtsnotar*in (m/w/d) Kanton St. Gallen (Amt für [...]

Rechtsanwältin / Rechtsanwalt [...] Legal XII Tables Avocats

Leitende Staatsanwältin / Leitender [...] Kanton St. Gallen (Staatsanwaltschaf[...]

Anwältin / Anwalt mit Schwerpunkt [...] Suter.Legal. AG

Auditor*in (juristische*r Praktikant*[...] Kanton St. Gallen (Amt für [...]

Rechtsanwältin / Rechtsanwalt Prof. Giger & Partner Rechtsanwälte

Jurist*in als Abteilungsleiter*in [...] Kanton St. Gallen (Amt für [...]

Fachexperte*in KAST (m/w/d) Kanton St. Gallen (Arbeitslosenversic[...]

Rechtsanwalt / Rechtsanwältin 50-100% Kaiser Simmen Cattin Partner

Auditor*in (juristische*r Praktikant*[...] Kanton St. Gallen (Amt für [...]

Rechtsanwältin / Rechtsanwalt 60-100% Bürgi Nägeli Rechtsanwälte

Anwalt / Anwältin 80–100% Gründler & Partner Rechtsanwälte

Rechtsanwältin / Rechtsanwalt 100% [...] CMS (Zürich)

Rechtsanwältin / Rechtsanwalt mit [...] Wenger Plattner

Steuerexpert*in oder Jurist*in mit [...] Blum&Grob Rechtsanwälte AG

Gerichtsschreiber*in Versicherungsger[...] Kanton St. Gallen (Versicherungsgericht)

Rechtsanwältin / Rechtsanwalt 50-100% MV Legal Partners Inc.

Rechtsanwältin / Rechtsanwalt 70-100% MIOTTI_HUMBEL_BRUNNER AG

Erfahrene Steueranwältin oder Steueranwalt Altenburger Ltd legal + tax

More events Post events

/dam/jcr:83f09d58-4a62-41b1-9c9c-02abeb440d40

Online-Kurs: AI für die juristische [...] Weblaw Academy

Intensivkurs „Strafrecht und [...]

/dam/jcr:2513d656-4f19-4079-ac7b-20994bb9e76e/uzh%20logo.webp

CAS Safety in Healthcare

/dam/jcr:19b10fb5-feb5-4241-aa84-8bacb7a4f903/Verein%20eJustice.png

Tagung für Informatik und Recht

/dam/jcr:8a7f3354-213a-43de-a59d-a7475e221373

Rechtssicher mit KI - Kompaktseminar [...] Begrenzte Plätze.

MAS Economic Crime Investigation

St.Galler Arbeitsrechtstagung

/dam/jcr:c2a09a2e-ee26-4225-a6e7-2d9825723fad

CAS Compliance in Financial Services Institut für Rechtswissenschaft und [...]

Executive Master of Laws (LL.M.) in [...]

Das neue Investitionsprüfgesetz [...]

CAS Haftpflicht- und Versicherungsrec[...]

Executive Master of Laws (LL.M.) im [...]

19. Schweizerischer Datenschutzrechts[...]

/dam/jcr:9e9ce6db-0f4a-45c0-bb41-6f9887b960a9/zhaw.webp

CAS AI Law and Legal Tech

Praxis im Baurecht

Executive Master of Laws (LL.M.) im [...]

FORMAT CAPSULE: Jurisprudences [...]

/dam/jcr:db2bffcf-48e3-4984-af80-012f88784e26/Paulus_akademie.png

Tagung der Fachgruppe «Reform im [...]

Swiss Digital Finance Conference 2026

MAS Information & Cyber Security

Gutachten im Strafprozess

Recht aktuell: Basler ZPO-Tag 2026

Rechtssicher mit KI - Kompaktsemina[...] Begrenzte Plätze.

Recht aktuell: 10. Basler Sozialversi[...]

CAS Data Protection & Technology