4. Juli 2024

Schwerpunktausgabe: KI und Recht

Sehr geehrte Leser*innen

Künstliche Intelligenz (KI) ist derzeit in aller Munde. Die Entwicklung und der Einsatz von KI-Systemen, die immer breitere Lebensbereiche erfassen, sind nur aus einer interdisziplinären Perspektive sachgerecht zu erfassen. Technologisches Verständnis ist vorausgesetzt, die Politik und das Recht bestimmen aber die effektive Handhabe. International spriessen die Regulierungen wie frische Pilze aus der Erde; nach der Europäischen Union mit dem Artificial Intelligence Act publizierte der Europarat eine Framework Convention und die OECD überarbeitete die bestehenden KI-Richtlinien. Der Schweizer Bundesrat hat bereits Ende 2023 angekündigt, bis zum Dezember 2024 eine Auslegeordnung zu den sich stellenden Rechtsfragen ausarbeiten zu wollen. Dieses eher gemächliche Tempo muss aber kein Nachteil sein, denn die Schweiz kann die ausländischen Erfahrungen wertend in die Überlegungen einbeziehen; zudem drängt sich nicht der Erlass eines umfassenden Schweizer KI-Gesetzes (von über 100 Seiten) auf, sondern der Handlungsbedarf lässt sich auch mit einigen spezifischen (v.a. vertikalen, teils auch horizontalen) Gesetzesanpassungen und -ergänzungen in der Schweiz durchaus abdecken.

Die vorliegende Schwerpunktausgabe von Jusletter IT nimmt die Breite der neuen rechtlichen Fragestellungen auf, und zwar unter verschiedenen Perspektiven: Einerseits sollen nicht alle, aber doch die wichtigen Themenbereiche im KI-Kontext angesprochen werden; andererseits finden sich akademische Abhandlungen neben eher praxisorientierten Berichten. Zur Sprache kommen die internationalen Regelwerke (Europarat, EU [mit besonderer Beachtung des Risikomanagements], OECD) und themenspezifische Betrachtungen (Sicherstellung der Einhaltung von Immaterialgüter-Schutzrechten, Problematik potenzieller Diskriminierungen, Gewährleistung der Datenschutz-Grundprinzipien, Ausgestaltung einer sachgerechten Haftungsordnung). Von wachsender Bedeutung ist der KI-Einsatz auch im öffentlich-rechtlichen Bereich, weshalb die Erläuterung der Herausforderungen für Verwaltungen und Gerichte wesentlich ist.

Der vorliegende Jusletter IT ist ein Zwischenschritt; die publizierten Darstellungen und Meinungsäusserungen sind nicht in Stein gemeisselt, sondern sie bilden den Ausgangspunkt für weitere Überlegungen in und ausserhalb der Weblaw-Community.

Rolf H. Weber
Universität Zürich und Bratschi Rechtsanwälte

Beiträge

Die KI-Konvention des Europarats: Ursprung, Inhalt, Ausblick

David Marti

Der Beitrag erläutert die Entstehung, den Inhalt und die bevorstehenden Herausforderungen der Rahmenkonvention des Europarats zu KI und Menschenrechten, Demokratie und Rechtsstaatlichkeit, die im Mai 2024 angenommen wurde und das erste bindende internationale Regelwerk für KI-Systeme darstellt. Der Autor hebt die Notwendigkeit hervor, die Technologieunternehmen am Anfang der KI-Wertschöpfungskette in die Verantwortung zu nehmen und verweist auf ungelöste technische Herausforderungen, um die in der Konvention genannten Prinzipien in Bezug auf Tätigkeiten innerhalb des Lebenszyklus von KI-Systemen wirksam umzusetzen.

Risikomanagement nach der EU-Verordnung über Künstliche Intelligenz

Martina Arioli

Das Risikomanagementsystem ist eine der Hauptanforderungen für Hochrisiko-KI-Systeme nach der EU-Verordnung über Künstliche Intelligenz (KI-VO). Die KI-VO folgt dem EU-Konzept des New Legislative Framework (NLF) für die Produktsicherheit. Dabei werden grundlegende Anforderungen – wie insbesondere Anforderungen an ein KI-Risikomanagementsystem – in der KI-VO festgelegt, während die technische Umsetzung dieser Anforderungen durch «harmonisierte Normen» gewährleistet werden soll. Der vorliegende Beitrag soll einen Überblick über die Anforderungen an das Risikomanagementsystem nach der KI-VO sowie über bestehende Normen zum Risikomanagementsystem für KI verschaffen.

Neue OECD-Instrumente zu künstlicher Intelligenz

Christine Kaufmann

Der Beitrag gibt einen ersten summarischen Überblick über neue, noch wenig bekannte Entwicklungen in der OECD zur Unterstützung von vertrauenswürdiger KI durch Regierungen und Unternehmen. Die Autorin fasst die aktuellen Diskussionen zusammen und bettet sie in den Zusammenhang mit den wegleitenden Instrumenten der OECD zur Sorgfaltspflicht (due diligence) von Unternehmen ein. Sie kommt zum Schluss, dass die laufenden Arbeiten an einem Leitfaden zur Sorgfaltsprüfung für KI das Potential haben, der zunehmenden Fragmentierung von KI-bezogenen Standards in einem spezifischen Bereich entgegenzuwirken.

Diskriminierung beim Einsatz von Künstlicher Intelligenz (KI)

Florent Thouvenin

Stephanie Volz

Soraya Weiner

Christoph Heitz

Die zunehmende Verbreitung von Systemen der Künstlichen Intelligenz (KI) erhöht das Risiko der Diskriminierung von Menschen durch solche Systeme. Die Ursachen für Diskriminierung durch KI-Systeme sind vielfältig. Sie können insb. in der Definition von Modellstruktur und Trainingsverfahren und in nicht repräsentativen Trainingsdaten, aber auch in der Anwendung der Systeme liegen. Die Gefahr der Diskriminierung durch KI-Systeme lässt sich nur durch ein Zusammenwirken von rechtlichen und technischen Massnahmen verringern. Das erfordert eine vertiefte Zusammenarbeit von Informatiker:innen und Jurist:innen und ein gegenseitiges Verständnis der Begriffe und Konzepte. Der vorliegende Beitrag macht einen ersten Schritt, indem er Jurist:innen die technischen Grundlagen vermittelt, die für das Verständnis der Entstehung von Diskriminierung durch KI-Systeme erforderlich sind.

Künstliche Intelligenz und Datenschutz

Rolf H. Weber

In den letzten Jahren haben verfeinerte Gesetze in den meisten Ländern die persönlichkeitsbezogenen Grundprinzipien des Datenschutzes zu stärken versucht. Die neuesten technologischen Entwicklungen, v.a. die «Künstliche Intelligenz», führen nun aber zu weiteren (zusätzlichen) Herausforderungen. Das vorhandene Regelungsumfeld, sachgerecht ausgelegt und zur Anwendung gebracht, vermag indessen die meisten durch KI-Systeme hervorgerufenen Datenschutzprobleme zu bewältigen.

KI und Haftung: Lösungsansätze für die Schweiz

Isabelle Wildhaber

Für ein modernes Produktesicherheitsgesetz (PrSG) und Produktehaftpflichtgesetz (PrHG) sind Anpassungen in den Gesetzestexten notwendig, darüber ist sich die Lehre einig. Dennoch ist diese Säule einer Haftung für KI in der Schweizer Politik und Presse bis anhin kaum diskutiert worden. Hier sollte eine Priorität in der KI-Regulierung gesetzt werden. Ein Blick in die EU zeigt: Im Vergleich zu den (in Revision befindlichen) europäischen Richtlinien zu Produktsicherheit und Produkthaftung erscheint die praktische Schlagkraft des Richtlinienvorschlags über KI-Haftung gering. In der Schweiz ist deshalb von einer Umsetzung des Richtlinienvorschlags über KI-Haftung, aber auch von der Einführung einer verschuldensunabhängigen KI-Haftung derzeit abzusehen. Stattdessen ist an sektorspezifische Vorschriften anzuknüpfen, zumal nach nationalem Recht viele KI-Schäden von sektoralen Gefährdungshaftungen gedeckt sein werden, wie z.B. selbstfahrende Autos vom SVG oder Drohnen vom LFG.

KI-Projekte in der gerichtlichen Praxis

Frank Richter

Die Einführung künstlicher Intelligenz (KI) in der gerichtlichen Praxis hat in den letzten Jahren an Bedeutung gewonnen, insbesondere durch Projekte wie FRAUKE und JANO. Diese Projekte zielen darauf ab, die Bearbeitung von Massenverfahren zu optimieren und gerichtliche Entscheidungen effizienter zu anonymisieren. FRAUKE unterstützt Richter bei der Erstellung von Urteilen durch Textbausteine, während JANO gerichtliche Entscheidungen pseudonymisiert, um sie publikationsfähig zu machen. Beide Projekte wurden erfolgreich pilotiert und sollen zukünftig bundesweit implementiert werden. Die Akzeptanz dieser Technologien in der Richterschaft ist hoch und sie bieten großes Potenzial für die Zukunft der Justiz.

KI in der Verwaltung: Entwicklungen und Herausforderungen

Nadja Braun Binder

Nina Laukenmann

Liliane Obrecht

Der vorliegende Beitrag widmet sich den rechtlichen Aspekten eines Einsatzes von Künstlicher Intelligenz (KI) in der öffentlichen Verwaltung. Anhand von konkreten Beispielen werden mögliche Einsatzbereiche und verschiedene rechtliche Herausforderungen aufgezeigt. Neben den rechtsetzenden Entwicklungen in der Schweiz wird zudem auf internationale Regulierungsbestrebungen hingewiesen. Die Autorinnen kommen zum Schluss, dass auch in der Schweiz zumindest punktuelle rechtliche Grundlagen sinnvoll und notwendig sind, um den Herausforderungen zu begegnen und den KI-Einsatz rechtsstaatskonform auszugestalten.

Künstliche Intelligenz und Immaterialgüterrecht

Mathis Berger

Dieser Beitrag gibt eine Übersicht über die Herausforderungen, welche die künstliche Intelligenz an das Immaterialgüterrecht stellt. Die faktischen Herausforderungen und deren rechtliche Beantwortung sind im Fluss, weshalb der Versuch unternommen wird, ausgehend von immaterialgüterrechtlichen Grundsätzen, die zu teilweise ähnlichen Regelungen in den immaterialgüterrechtlichen Gesetzen geführt haben, Lösungen zu finden.