28. März 2024

E-Justice / Cybersecurity / Rechtstheorie / Rechtsvisualisierung / Datenschutz

Sehr geehrte Leser*innen

In dieser Ausgabe von Jusletter IT publizieren wir die Beiträge zu E-Justice, Cybersecurity / Cybercrime / Digital Evidence, Rechtstheorie und Rechtsvisualisierung, die anlässlich des Internationalen Rechtsinformatik Symposions (IRIS) verfasst wurden.

Ausserdem in dieser Ausgabe: die Aufzeichnungen der Vorträge von David Rosenthal, Chantal Imfeld-Matyassy, Colin Carter und Jonas Baeriswyl, die am 22. Februar 2024 im Rahmen des Webinars «KI: So setzen Sie den Datenschutz in der Praxis um» gehalten wurden.

An dieser Stelle ein wichtiger Veranstaltungshinweis: Am 20. Juni 2024 findet in Zürich das 10. Weblaw Forum LegalTech statt. Es widmet sich voll und ganz den Entwicklungen rund um AI im LegalTech-Kontext. Des Weiteren feiern wir am Abend 25 Jahre Weblaw!

Wir wünschen Ihnen eine spannende Lektüre!

Philip Hanke
Verlagsleiter

E-Justice

The space of possible E-Justice processes

Michał Araszkiewicz

Grzegorz J. Nalepa

Karolina Mania

Tadeusz Zbiegień

This paper outlines an idea of a space of possible e-justice processes. Such a space results from combinations of elements that describe such processes. The awareness of the possible combinations of these elements is essential for designing online courts and public and private ODR platforms. The point of departure for the investigations is that the general structure of justice processes, shaped in the 19th Century and extended and modified in the 20th Century with the rise of ADR methods, still represents a limited array of approaches in this area. Most of the viable solutions remain unexplored due to the constraints related to limited resources, traditional institutional settings and insufficient technological solutions. However, with the rapid development of new AI technologies which facilitate a range of activities in the justice processes, numerous additional possibilities should be considered seriously to broaden access to justice.

ODR and Online courts

Andrej Krištofík

Pavel Loutocký

Online Dispute Resolution (ODR) is characterized by the use of technological means, which makes ODR platforms beneficial compared to standard courts and dispute resolution methods. Any regulation of technical means has an impact on the use and possibilities of ODR, especially when such regulation directly references usage in judicial settings. The proposed AI Act aims to regulate any use of specified AI technologies in situations that could potentially impact fundamental rights, with specific emphasis on the right to a fair trial. The article analyzes the implications of the AI Act on the usage of such technologies in ODR processes, whether and to what capacity they are permissible, based on the categories proposed by the AI Act. The article also analyzes other aspects of ODR processes that could have implications for fundamental rights but are either out of scope of the AI Act or are overlooked by it.

Auslegung des KI-VO-E zur Evaluation von Verfahren der Künstlichen Intelligenz am Beispiel der automatischen Anonymisierung von Gerichtsentscheidungen

Axel Adrian

Stephanie Evert

Philipp Heinrich

Michael Keuchen

Die Qualitätssicherung eines KI-Systems ist für den Grundrechtsschutz elementar. Der Entwurf zur KI-VO der EU versucht das sicherzustellen, indem verschiedene Anforderungen an KI-Systeme, wie die Erfüllung der Zweckbestimmung, Genauigkeit, Risikoabschätzung und die Robustheit abgesteckt werden. Aufgrund der Vielfalt an KI-Systemen, insbesondere mit einem hohen Risiko beim Einsatz in der Justiz, müssen die Anforderungen anwendungsspezifisch ausgelegt werden. Am Beispiel der automatischen Anonymisierung von Gerichtsentscheidungen zeigen wir, dass durch die Erstellung eines Goldstandards und einer strengen kontinuierlichen Evaluation den Anforderungen nachgekommen werden kann.

Cybersecurity

Multidimensionale Spurensuche in der IT-Forensik

Thomas Hrdinka

Wie IT-Spuren welche mit einem Täter in Verbindung gebracht werden können zu bewerten sind lassen sowohl die Normen als auch die Rsp. offen. Auch bezüglich technischer Normen existiert kein Ansatz, IT-Spuren systematisch zu bewerten, sodass ein Zusammenhang mit dem Täter, dem Tatort und der Tatzeit hergestellt oder ausgeschlossen werden kann. Für die Bestimmung der Schuld oder Unschuld des Angeklagten muss unter der Beachtung der freien Beweiswürdigung mit an Sicherheit grenzender Wahrscheinlichkeit feststehen, dass kein Freispruchgrund vorliegt. Generell ist die Beurteilung von IT-Spuren hins. Schuld oder Unschuld eine vage Angelegenheit, die nur mit viel Verantwortung und Sachverstand bewerkstelligt werden kann, um einen Bias möglichst hintanzuhalten. Unterstützende Werkzeuge, Methoden oder Verfahrensweisen fehlen vollkommen. Diese Arbeit versucht eine in der Literatur beschriebene 7-stufige Skala zur Bewertung von Spuren mehrdimensional zu erweitern, sodass ein systematischer Ansatz zur Spurenbewertung in der IT geschaffen wird.

The road towards a legal framework for cybersecurity applicable to the European smart grid for electricity

František Kasl

Anna Blechová

The European energy sector faces a rising vulnerability to cyberattacks, posing a significant threat to modern societies due to its interconnected nature with critical infrastructure. This fragility could result in substantial physical and economic harm and be exploited for geopolitical purposes, as it is possible to see with the war in Ukraine. While digitalization enhances efficiency, it also exposes vulnerabilities. Recognizing the urgency of protecting critical energy infrastructure, a new European legislative framework is being established. This contribution focuses on examining the new regulatory framework and identifying persisting challenges for development of smart grids for electricity.

The role of public entities in promoting and regulating the development of the mobility as a service landscape

František Kasl

Pavel Loutocký

Adam Jareš

Veronika Příbaň Žolnerčíková

Martin Erlebach

The emerging European mobility as a service landscape is subject to a complex set of regulatory frameworks and the interaction of multiple layers of public as well as private stakeholders. The versatility of the particular local mobility systems is high, however, common patterns can be established and categorized, in particular with regard to the development of the role of mobility as a service in such systems. These then are suitable for reflection and discussion with regard to strategic support or European collaboration and regulatory coordination. In our contribution, we focus on the role of public entities at European as well as national levels, with the aim to identify, how to best utilize their particular link to the mobility as a service landscape in support of suitable development and promotion of this innovative approach to solve the future challenges of municipal mobility.

The upcoming Network code on cybersecurity and its impact on resilience of the european energy sector

František Kasl

Lucie Chmelíčková

Martin Švec

The cybersecurity challenges in the European energy sector have significant cross-border element that needs to be reflected in the collaboration and coordination on obligations and rules applicable to the system operators. The rules for transmission system operators are developed by European Network of Transmission System Operators for Electricity (ENTSO-E). In early 2024, new transformative rule book for cross-border cybersecurity will be established through the upcoming Network Code on Cybersecurity (NCCS). In our contribution, we introduce the NCCS, procedure leading to its adoption, core concepts, main provision and likely impact. Subsequently, we discuss in detail its expected benefits and weaknesses as well as suitable future progress in line with the development of robust and resilient European energy infrastructure with regard to cybersecurity.

Sachverständigenbeweis im Strafverfahren mit KI?

Thomas Hrdinka

Im Bereich des IT-Strafrechts ist es aufgrund der über die Jahre stetig steigenden Datenmengen gegeben, dass die Aufwände zur Beweissicherung und Analyse der Daten analog dazu – trotz der gestiegenen Rechenleistungen – ansteigt. Der Einsatz entsprechender forensischer Werkzeuge ist daher geboten. Diese Technologien unterstützen Forensiker dabei, Ergebnisse in kurzer Zeit zu erhalten, welche diese bei manueller Sichtung niemals erhalten hätten. Allerdings sollten sich sie nicht von solchen Ergebnissen hinreißen lassen, und voreilige und womöglich falsche Schlussfolgeŕungen zu tätigen. Dieses als „Bias‟ bekannte Phänomen ist die systematische fehlerhafte Neigung beim Wahrnehmen, Erinnern, Denken und Urteilen. Die in jüngster Zeit aufgekommenen KI-Systeme könnten daher eine innovative Methode darstellen, Sachverständige dabei zu unterstützen einerseits rasch zu Ergebnissen zu kommen, und andererseits durch diese „künstliche Intelligenz‟ einem Bias zu entgehen, und so die Qualität der Befundaufnahmen und Gutachten zu erhöhen. Diese Arbeit beschäftigt sich mit Möglichkeiten eine KI sinnvoll in der Gutachtensarbeit einzusetzen, und zeigt auch dabei die Grenzen anhand von Beispielen auf. Erforscht wurde anhand von „Google Bard‟, dass die Generierung technischer Anforderungen, wie bspw. einem Testprogramm oder einem Datenmodell mit Testdaten nahezu perfekte Ergebnisse liefert, welche der Sachverständigenarbeit zeitsparend zugute kommt. Hingegen kann gezeigt werden, wenn Fragestellungen im interdisziplinären Bereich gestellt werden, wie das Ziehen rechtsrelevanter Schlüsse, KI-Systeme mit falschen Ergebnissen vollkommen versagen.

Cybersecurity Work Force Scarcity

Pavel Loutocký

Miroslav Mareš

Jakub Drmola

František Kasl

Jakub Vostoupal

In the long term, it is essential to ensure a sufficient number of well-educated and expert professionals for various positions in the field of cybersecurity with a high level of specific knowledge and skills. In this article, we present the situation and approach chosen in Czechia, which could serve as a potential inspiration abroad based on the experience gained. We analyse the current situation, problems and possibilities of mitigation by using cybersecurity qualification frameworks (specifically, the Czech one). Finally, we summarize specific recommendations that could serve as broader inspiration on how to mitigate the problem of expert workforce scarcity.

Transferring the Concept of Tabletop

Peter Kieseberg

Simon Tjoa

Melisa Gafic

The strategy of simulating cyber incidents and training their subsequent handling is gaining increasing importance, as hands-on exercises are seen to be a vital part in developing practical skills under stress and external influences. Thus, on a technical level, these exercises have reached a good level of professionalism. Still, typical scenarios focus on the technical aspects, while legal issues are only considered as sub-topic at the side. With respect to the rising importance of legal matters in IT, this needs to be addressed. In this work we discuss, how use the method of conducting cyber exercises for training the legal aspects of cyber incidents.

Rechtstheorie

Juristische Phraseologie und Phraseologik

Meinrad Handstanger

Texte stehen im Mittelpunkt des juristischen Geschehens. Als performative Äußerungen („Sprechhandlungen“) über rechtliche Rechte, Pflichten oder Ermächtigungen sind sie charakterisiert durch einen relativ stabilen Wortgebrauch und relativ stabile Wortverbindungen (Phrasen). Mit Sprache wird das rechtliche Feld beherrscht, der juristische Habitus des beteiligten Rechtsstabes besteht als spezifischer sprachlicher Habitus, der juristische Denkgebrauch richtet sich nach dem Sprachgebrauch. Juristischen Wortverbindungen bzw. deren Verwendung weisen einige Charakteristika auf (etwa Formalisierung, Konstanz der Ausdrucksweise) und werden nach einer spezifischen Sachlogik gebildet (Phraseologik, etwa Orientierung am Sprachgebrauch der Gesetze, sprachliche und argumentative Sparsamkeit, Plausibilitätsniveau der „besseren Gründe“). Der konstante Gebrauch fester Wortverbindungen manifestiert die Rechtsordnung als Einheit ebenso wie die Zugehörigkeit der Verwender:innen zu einer Rechtsgemeinschaft. Juristische Phraseologie und Phraseologik zählen zu den Funktionsgrundlagen der verfassten Demokratie.

Multisensory Law and Multisyntactic Metalevels in the Context of Artificial Intelligence

Vytautas Čyras

Friedrich Lachmayer

The paper explores the use of legal machines on the ‘Is’ stage of everyday life, which is comparable to customary law situations. Legal machines can be given a qualitative upgrade through artificial intelligence (AI), and situational components therefore need to be developed in a non-textual way. The limits to human abilities require the adaptation of the external components of legal machines; for example, a synthesized language should be adapted to human language, e.g., in terms of the speed of speech. AI design also affects human mentality. We therefore introduce a supplemented evolutionary process that includes machines, i.e., plants–animals–people–machines. We discuss the competencies of legal machines and the impact of the multisyntactic metalevels of law on AI.

Der (angebliche) Normbegriffswandel in Kelsens Rechtstheorie und seine Folgen für die Frage nach der Anwendbarkeit der Logik auf Rechtsnormen

Diogo Campos Sasdelli

In den 1960er Jahren änderte Kelsen ausdrücklich seine Auffassung zur Beziehung zwischen Logik und Recht: Für den sog. „späten Kelsen“ sind logische Prinzipien auf Rechtsnormen grundsätzlich nicht anwendbar. In loser Anlehnung an einer Bemerkung von Ulrich Klug wird im vorliegenden Beitrag argumentiert, dass Kelsens Ablehnung der Logik im Recht auf die Annahme einer sog. ontologischen Auffassung zum Normbegriff zurückzuführen ist, die einer sog. semiotischen Auffassung zum Normbegriff gegenübersteht. Es wird gezeigt, dass die Dichotomie zwischen diesen Auffassungen nicht auf die von Alchourrón und Bulygin vorgeschlagene Unterscheidung zwischen hyletischen und expressiven Normkonzeptionen reduziert werden kann. Nach einer Diskussion seiner früheren Werke wird argumentiert, dass die normontologischen Thesen, die Kelsen in der Allgemeinen Theorie der Normen vertritt, keinen fundamentalen Bruch mit seinen früheren Ansichten darstellen; stattdessen können Kernelemente der ontologischen Auffassung zum Normbegriff in der Gesamtheit von Kelsens Oeuvre gefunden werden. Es wird außerdem argumentiert, dass der Kelsen’sche Rechtspositivismus konsequent zu seinen erst später ausdrücklich formulierten normontologischen bzw. logikkritischen Thesen führt. Schließlich wird im Gegensatz zu Ota Weinbergers Ansichten argumentiert, dass Kelsens Normontologie zwar mit dem Aufbau einer eigentlichen Normenlogik, allerdings nicht mit der Vorstellung einer nach strengen Methoden geführten Rechtswissenschaft inkompatibel ist.

Normative Konkretisierung der Verfassung und der Gesetze (einige Diskussionsthesen)

Marijan Pavčnik

It is well known that there exists a greater or smaller similarity (analogy) between the abstract regulative and the concrete applicative levels of law. It is also known that the constitution and the statutes can not be automatically normatively concretised and mechanically applied at the lower levels of law and in concrete social relationships. The mentioned path is made essentially easier if one regularly supports oneself on adequate guidelines that fill the analogy (similarity) and at the same time make it possible to seek and find the measure of law. − The basic guidelines for concretising the single stages of legal order as to their content are the constitutional and statutory legal principles. It lies in the nature of principles that they are value measures guiding the definition of legal norms as to their content, their understanding and the manner of their fulfilment. Among the constitutional principles, special weight belongs to human dignity and to the rule of law. Concerning the fulfilment of rights and the prohibition of abuse of rights (in the law of obligations), the principle of good faith and confidence is of special importance.

What is Language?

Hanna Maria Kreuzbauer

In this paper the author proposes a theory of language based on population thinking. Special emphasis is placed on metaphysical consistency, which leads to some rather fundamental considerations. The core of the theory is the idea, that language begins with concrete individual neuronal events, which form a population and develop into concrete individual mental language-relevant ideas. These, in turn, are synchronized with other speakers through communication, resulting in a population of language elements that together make up the whole language. This leads to a mixture of standard and deviant variants, and finally to the possibility of normative regulations. This in turn influences the synchronization behavior and ultimately causes a feedback effect on the individual mental and neuronal events.

Rechtsvisualisierung & Legal Design

Von Legal Design Thinking bis Virtual Reality

Bettina Mielke

Christian Wolff

Mehrere aktuelle Trends, die derzeit auf ihren Einsatz im Rechtswesen hin diskutiert werden, haben eine starke visuelle Ausrichtung. Zu nennen sind hier Legal Design Thinking, generative Künstliche Intelligenz (KI) und Virtual Reality (VR). Nachfolgend stellen wir diese Bereiche sowie ihre künftigen Anwendungsmöglichkeiten im Rechtswesen vor.

Wie viele Bilder braucht das Recht?

Caroline Walser Kessel

Sabine Kilgus

Cordula Niklaus

Seit vielen Jahren wird am IRIS über Rechtsvisualisierung bzw. Multisensorisches Recht in einem eigenen Programmteil berichtet. Der Verein Zentrum für Visuelles Recht, Rechtspsychologie und Rechtskommunikation in Zürich setzt sich seit seiner Gründung im Jahr 2012 intensiv mittels verschiedener Publikationen, Vorträgen und Studien für die Propagierung dieser neuen Herangehensweise im Recht ein. Die Autorinnen dieses Beitrags, die alle als praktizierende Rechtsanwältinnen und Dozentinnen tätig sind, begegnen in den letzten Jahren im Rahmen ihrer Arbeit einer zunehmenden Visualisierung von Rechtstexten. Die Publikationen in Fachzeitschriften, die Lehrbücher, die Webseiten von Amtsstellen wie auch die Power Point Präsentationen anlässlich von Vorträgen werden immer bunter und bildreicher. Ziel dieses Beitrages ist, einen Einblick in diese erfreuliche Entwicklung zu gewähren, ohne dabei Anspruch auf Vollständigkeit zu erheben. Ob damit immer die Kriterien der wissenschaftlichen Rechtsvisualisierung erfüllt werden, wird in Frage gestellt. Immerhin führt diese Tendenz dazu, dass Texte lesbarer, ansprechender und benutzerfreundlicher werden. Dies ist ein Ergebnis, das dem allgemeinen Rechtsverständnis und der Akzeptanz des Rechts nur dienen kann.

Neue Horizonte im Recht

Sarah Montani

Der Beitrag „Neue Horizonte im Recht: Künstliche Intelligenz und visuelle Analytik“ von Sarah Montani beleuchtet den Einfluss Künstlicher Intelligenz (KI) auf die Visualisierung im Rechtsbereich. Er beginnt mit einer Einleitung, die den technologischen Wandel in der juristischen Arbeitswelt, insbesondere durch fortschrittliche KI-Tools wie DALL-E von OpenAI, hervorhebt. Ein Schwerpunkt liegt auf der Rolle der Sprache bei KI-gesteuerten Visualisierungen, wobei die Bedeutung klarer, präziser Anweisungen für adäquate visuelle Darstellungen betont wird. Montani diskutiert das begrenzte „Verständnis“ der KI im Vergleich zur menschlichen Kognition. Der Artikel geht weiter mit einem Abschnitt über die Veränderungen in der Rechtsvisualisierung, die durch leichter zugängliche KI-Tools entstehen könnten, und diskutiert die Potenziale und Risiken dieser Entwicklung, einschliesslich der Homogenisierung visueller Stile und der zukünftigen Rolle von Illustratoren und Human generated Content. Der Ausblick betrachtet die zukünftige Rolle der KI in der Rechtsvisualisierung, insbesondere ihre Fähigkeit, komplexe rechtliche Konzepte schnell und effizient visuell darzustellen, und die Notwendigkeit, ein Gleichgewicht zwischen KI und menschlicher Kreativität zu wahren. Es folgen Zukunftsszenarien für die KI-Einflussnahme auf die Rechtsvisualisierung, darunter automatisierte Fallanalysen, interaktive Visualisierungen, KI-gestützte forensische Rekonstruktionen, virtuelle Gerichtsverhandlungen mit Avataren, automatisierte Erstellung von Rechtsdokumenten, Vorhersagemodelle für Prozessausgänge und Augmented Reality-Anwendungen in der juristischen Ausbildung. Schliesslich berichtet Montani über ein Experiment zur Visualisierung juristischer Beiträge mittels KI-gesteuerter Technologie, das die Effektivität und Genauigkeit der KI bei der Umsetzung juristischer Inhalte in visuelle Darstellungen untersucht. Dieses Experiment unterstreicht das Potenzial, aber auch die Grenzen der KI in der Rechtsvisualisierung und die Notwendigkeit menschlicher Aufsicht, um sicherzustellen, dass die Visualisierungen die juristischen Inhalte korrekt und effektiv vermitteln.

Formalisation Memories

Leon Qiu

Yiwei Lu

Burkhard Schafer

The paper brings together ideas from translation studies, software design, architecture and legal theory to propose a new approach to the way in which computational models of the law can be deployed for AI safety. With the proliferation of AI-based autonomous systems, ensuring their law compliance has become a challenge for lawyers and developers alike. One approach to overcoming the “black box” problem are neurosymbolic systems, a combination of machine learning with “Good old fashioned’ AI”. While highly intuitive, this approach faces a number of problems. Formalisation memories, a combination of translation memories with pattern design, could be a way to address some of the resulting issues.

Sprachmodelle: Juristische Papageien oder mehr?

Data Science & Law

Daniel Blochinger

Deniz Calhan

Steffen Hain

Der Projektkurs Data Science & Law, den die Universität Ulm gemeinsam mit dem Arbeitgeberverband Südwestmetall im Wintersemester 2020/21 ins Leben gerufen hat, ist eine interdisziplinäre Lehrveranstaltung an der Schnittstelle zwischen Recht, Statistik und Informatik. Der Kurs vermittelt den Studierenden der Universität Ulm mit wirtschaftswissenschaftlichem Hintergrund nicht nur Grundkenntnisse im Bereich der Digitalisierung des Rechts sowie auf dem Gebiet des kollektiven Arbeitsrechts, sondern auch Fähigkeiten bei der Aufbereitung und Analyse größerer Datensätze mit Hilfe der Programmiersprache R sowie deren Entwicklungsumgebung RStudio.

Datenschutz

Datenschutzkonforme generative KI – Antworten auf die materiellen Rechtsfragen

David Rosenthal

Im Rahmen seines Vortrages geht David Rosenthal den materiellen Fragen des Datenschutzes bei der Nutzung von generativer KI nach, etwa wie weit die Pflicht zur Transparenz wirklich geht, wann Personendaten für das Training von KI benutzt werden dürfen oder wie Betroffenenrechte gewahrt werden können.

KI im Einsatz bei Ringier aus der Sicht des DPO – und die Herausforderungen

Chantal Imfeld-Matyassy

Im Rahmen ihres Vortrages beleuchtet Chantal Imfeld-Matyassy die Herausforderungen, die sich ihr in der Praxis als erste Anlaufstelle für datenschutzrechtliche Beratungen im Hinblick auf KI-Technologien stellen.

Privacy by Design und by Default: Technische und organisatorische Massnahmen bei der Entwicklung und dem Einsatz von KI-Applikationen

Colin Carter

Colin Carter beleuchtet in seinem Vortrag, worauf aus Entwicklersicht beim Thema Datenschutz und KI besonders zu achten ist, welche technischen und organisatorischen Massnahmen eingesetzt werden und wie diese technisch umgesetzt werden können.

Datenschutz-Governance im Bereich generativer KI

Jonas Baeriswyl

In seinem Vortrag geht Jonas Baeriswyl auf zentrale Elemente der Datenschutz-Compliance in KI-Projekten ein, insbesondere auf Aufgaben, Kompetenzen und Verantwortlichkeiten im Unternehmen sowie auf Hilfsmittel und Methoden, die sich in der Praxis bewährt haben.