28. Februar 2020

Verantwortungsbewusste Digitalisierung – Digitale Ausgabe zum Tagungsband des 23. Internationalen Rechtsinformatik Symposions 2020

Liebe Leserinnen und Leser

Das 23. Internationale Rechtsinformatik Symposion steht unter dem Motto «Verantwortungsbewusste Digitalisierung».

Die Digitalisierung bestimmt zunehmend unser tägliches Leben. Nachrichten in Echtzeit, Kommunikationstools, Apps sowie digitale Vertragsabschlüsse und Behördengänge sind Realität und für uns selbstverständlich. Digitale Ämter, Waren und Dienstleistungen über E-Commerce, datengetriebene Industriefertigung, Einsatz von KI und Robotik sind die Charakteristika dieser Wissens- und Netzwerkgesellschaft. Das Internet, das Netz der Netze, bietet die nötige Infrastruktur, die mit der fortschreitenden Digitalisierung auch stärker ausgebaut wird. Smartphones werden zum unentbehrlichen digitalen Begleiter. Künstliche Intelligenz ist in aller Munde und ändert grundlegend die Produktions- und Arbeitsbedingungen. Die ethische und soziale Komponente dieses tiefgreifenden Wandels tritt immer mehr ins Zentrum der Diskussion.

Doch diese Fortschritte polarisieren, wie man unter anderem auch am Beispiel der künstlichen Intelligenz erkennen kann: Erwartet uns eine futuristische Utopie oder bewegen wir uns auf den von Kritikern prophezeiten Orwellschen Überwachungsstaat zu?

Wie können wir den Weg der Digitalisierung verantwortungsbewusst, also in einer dem Menschen dienenden Weise, beschreiten? Welche Maßnahmen müssen wir jetzt ergreifen, um den kommenden Herausforderungen der Digitalisierung entgegenzutreten – seien es die täglichen Hürden oder gar die mögliche Singularität? Ein wesentlicher Ansatz sind ethische Leitlinien für AI und Robotik.

Wie gewohnt umfasst der Tagungsband neben neuen wissenschaftlichen Erkenntnissen auch Beiträge zu den praktischen Problemstellungen und Anwendungen der Rechtsinformatik. Der Tagungsband ist in folgende Themengruppen gegliedert:

Generalthema: Verantwortungsbewusste Digitalisierung
Autonomes Fahren
Text- und Vertragsanalyse
LegalTech / Juristische Informatik-Systeme
Rechtsinformation / Suchtechnologien
Robolaw
Theorie der Rechtsinformatik

E-Government / E-Justiz / E-Democracy
Rechtstheorie
Rechtsvisualisierung / Legal Design
Sicherheit & Recht
Datenschutz
IP-Recht
E-Commerce
E-Procurement

Tagungsbände sind Dokumentationen von Momentaufnahmen der Wissenschaft, und zwar der gehegten und gepflegten Treffen der Wissenschaftsgemeinde. Das IRIS-Konzept sieht größtmögliche Dissemination der Ergebnisse vor.

Der Verlag Editions Weblaw publiziert zusätzlich zum gedruckten Tagungsband eine Online-Version in Jusletter IT. Um allen Beitrag die ihnen gebührende Sichtbarkeit zu geben, werden die ca. 80 Tagungsbeiträge über mehrere Ausgaben von Jusletter IT verteilt erscheinen. Diese Ausgabe enthält alle Beiträge zum Generalthema der Tagung «Verantwortungsbewusste Digitalisierung» sowie die Beiträge zum Thema Datenschutz.

Wir hoffen, dass dieser Tagungsband in gedruckter und in elektronischer Form mit ähnlichem Interesse aufgenommen wird wie die Tagungsbände der Vorjahre!

Wien, Bern und Rovaniemi, im Februar 2020

Erich Schweighofer, Franz Kummer, Ahti Saarenpää, Walter Hötzendorfer

Vorwort

Erich Schweighofer

Franz Kummer

Ahti Saarenpää

Walter Hötzendorfer

Zum Generalthema Verantwortungsbewusste Digitalisierung

Digital Rights

Ahti Saarenpää

We live in a digital network society, because the «information society», once such a popular concept, no longer serves our communicative needs. When we talk about digitalization, we are quick to present numbers but must also answer the question of whether we need renewed or new legislation to address the developments under way. Recent years have seen the emergence of the concept of digital rights that would seemingly form a special branch of jurisdiction. Discussion of the issue has intensified in the last few years as greater consideration has been given to our constitutional rights. In this article I examine the question of whether we in fact need special constitutional digital rights and what such rights might be. The author participated in the implementation of the Personal Data Directive and functioned as the vice chair of the Finnish Data Protection Board. The work of the Board was discontinued following the coming into force of the GDPR. This article is based in part on the author’s introductory article to the FIADI Manual of Legal Informatics, published in 2019.

Vom Vertrauen zur Verantwortung in der digitalisierten Welt

Rolf H. Weber

Die durch die neuen Technologien ermöglichte Digitalisierung des Lebens und der Geschäftsmodelle muss vertrauensorientiert und verantwortungsbewusst erfolgen. Dieses grundsätzliche Anliegen wird in der internationalen Diskussion in neuerer Zeit vermehrt beachtet (z.B. im Kontext der Big Data Analysen und der Artificial Intelligence); die Umsetzung verantwortungsorientierter Massnahmen schreitet aber nur langsam voran; eine erhöhte Aufmerksamkeit ist ein Gebot der Stunde, um Enttäuschungen als Folge von Digitalisierungen zu vermeiden.

Künstliche & «natürliche» Intelligenz: Was ich schon immer (vor 2020) über Recht, Ethik und «Robustheit» wissen wollte

Viola Schmid

Die Kommission stellt fest (COM(2018)237 final), dass KI genauso «Realität» wie ein «Game-Changer» sei. Am 23.10.2019 hat die deutsche «Datenethikkommission» ihr Gutachten, am 08.04. und am 26.06.2019 die europäische Hochrangige Expertengruppe für KI «Ethikleitlinien» und «Politik- und Investitionsempfehlungen» veröffentlicht. Demzufolge wird eine RER-Formel (Recht-Ethik-Robustheit) für eine «von der KI getriebene Welt» aufgestellt. Eine vertrauenswürdige künstliche Intelligenz für Europa ist somit die Agenda für die Eröffnung des Wettbewerbs zwischen unterschiedlichen «Intelligenzen».

Juristische Methodenlehre – ein Vorbild für verantwortungsvolle Digitalisierung?

Axel Adrian

Inwieweit ist «Recht durch Maschinen» prinzipiell denkbar? Zwar besteht wohl keine Einigkeit über eine einheitliche juristische Methodenlehre, als Vorbild für maschinelle Verfahren. Die h.M. stimmt aber darin überein, dass ein Ziel die Feststellung der zutreffenden semantischen Bedeutung des Normwortlautes ist. Aufgrund der Konzepte von Willard van Orman Quine könnte jedoch die Erreichung dieses Zieles aus sprachphilosophischen Gründen prinzipiell unmöglich sein. Dann aber bleibt nur die Verarbeitung syntaktischer Zeichen. Dies eröffnet gerade Chancen für maschinelle Verfahren.

Verantwortungsbewusste Digitalisierung, gerichtliche Entscheidungen und der Gedanke des fairen Verfa

Jochen Krüger

Stephanie Vogelgesang

Lena-Marie Adam

Der Beitrag befasst sich mit der Frage, wie verantwortungsbewusste Digitalisierung beim Einsatz von Algorithmen im Bereich des gerichtlichen Verfahrens ausgestaltet sein sollte. Als Ausgangspunkt wird dabei der Gedanke des fairen Verfahrens gewählt. Das faire Verfahren gilt als unverzichtbarer Bestandteil des Rechtsstaatsprinzips. Daneben ist dieser Gedanke auch offen für übergeordnete Gesichtspunkte wie etwa ethische Fragestellungen. Gerade bei neuartigen Techniken, die gewachsene Strukturen der Gesellschaftsordnung verändern können, ist dies ein wesentlicher methodischer Vorteil.

Zwischen Standesrecht und Legaltech: Verantwortungsvolle Digitalisierung in der Anwaltsbranche

Katharina Bisset

Caroline Hahn

Digitalisierung ist in vielen Branchen eine Herausforderung – in Anwaltskanzleien ist dies sogar noch mehr der Fall. Zwischen (oft) mangelnder Technikaffinität und Anforderungen des Standesrechts ist eine verantwortungsvolle Digitalisierung in der Anwaltsbranche eine höhere Hürde, als es auf den ersten Blick scheint. Die wichtigsten Faktoren einer erfolgreichen Digitalisierung werden ebenso beleuchtet wie die Auswirkungen des Standesrechts und mögliche Lösungswege.

Datenethik für verantwortungsvolle Digitalisierung: Probleme, Perspektiven, Politik

Bettina Mielke

Christian Wolff

Zunächst erörtern wir häufig diskutierte datenethische Problemstellungen, mit denen die digitale Gesellschaft konfrontiert ist, z.B. im Zusammenhang mit social media, dem internet of things oder hinsichtlich der Möglichkeiten prädiktiver Systeme, automatisierter Rechtsdurchsetzung und autonomer Systeme. Nach der Auseinandersetzung mit der Definition von Datenethik und der Abgrenzung von anderen ethischen Handlungsfeldern schlagen wir Kriterien für eine Systematisierung in diesem Bereich vor. Im Anschluss stellen wir aktuelle Lösungsvorschläge wie beispielsweise das kürzlich vorgelegte Gutachten der Datenethikkommission der deutschen Bundesregierung vor.

Diskriminierung und Frauenfeindlichkeit – KI als Spiegel unserer Gesellschaft

Maximilian Leicht

Julia Karst

Jasmin Zimmer

KI-Systeme werden vermehrt bei zentralen Geschäftsprozessen in Unternehmen eingesetzt. Im Rahmen der interdisziplinären Diskussion wurden in der Literatur mögliche Diskriminierungen durch den Einsatz von KI-Systemen bereits als eine beachtliche Problemstellung identifiziert. Um eine fokussiertere Darstellung der Gefahren und Ursachen, sowie von potenziellen Regulierungsansätzen zu ermöglichen, konzentriert sich dieser Beitrag auf mögliche geschlechterdiskriminierende Folgen des Einsatzes von KI in der Privatwirtschaft. Zudem werden weitere Herausforderungen dargelegt, die sich im Zusammenhang mit verantwortungsbewusster Digitalisierung ergeben können.

Eine Skizze zur rechtlichen Verbindlichkeit «ethischer» KI-Prinzipien

Philip Glass

Mit dem Voranschreiten der Digitalisierung scheint das Recht mit seinen Regelungsansprüchen zunehmend ins Hintertreffen zu geraten. Die wissenschaftlichen Diagnosen deuten an, dass Recht, so wie wir es kennen, mittel- bis langfristig nicht in der Lage sein könnte, seine rechtsstaatliche verbriefte normative Deutungshoheit über die Gewichtung und den Ausgleich gesellschaftlicher und individueller Interessen zu behaupten. Als möglicher Vorbote einer solchen Entwicklung zeigt sich eine laufend zunehmende Zahl von als «ethisch» bezeichneten Regelungsprogrammen für die Entwicklung künstlicher Intelligenz, die von nationalen und internationalen staatlichen wie privaten Organisationen publiziert wurden und werden. Der vorliegende Beitrag stellt in einer kurzen Übersicht den zentralen Gehalt der Programme für ethische KI in den Kontext des nationalen und internationalen rechtlichen Geltungsanspruchs.

AI & Law: The Impact on Legal Education

Maria Dymitruk

This paper analyses the impact of rapidly growing field of Artificial Intelligence and Law (AI & Law) on the legal higher education. AI (especially machine learning, ML) has a chance to change the legal profession. With relation to the legal industry automation processes, it may be argued that the AI is currently replacing only specific tasks, not the entire profession. However, it is not certain for how long this thesis will remain valid. AI transforms the legal domain for the better. However, it does not necessarily mean that it will change for the better for every lawyer. In order to adjust the new generations of law students to the changing technological reality, it is necessary to consider modifications in legal education. The purpose of the paper is to outline these transformations and their possible consequences.

Risikobeurteilung als Teil der verantwortungsbewussten Digitalisierung

Philippe Baumann

Cordula Niklaus

Caroline Walser Kessel

Die Beurteilung eines Risikos im Bereich der Datenverarbeitung unterliegt vielen Einflussfaktoren. Eine standardisierte und transparente Risikobeurteilung ist ein wichtiger Teil einer verantwortungsbewussten Digitalisierung. Mit der Einführung der DSGVO und der zunehmenden Standardisierung in der IT-Sicherheit durch den Cyber Security Act der EU wird eine erste Basis dafür geschaffen. Neben den Einflussfaktoren und deren Auswirkung auf eine Risikobeurteilung sollen am Beispiel der Beschaffung eines digitalen bildgebenden Gerätes in einem Krankenhaus und im Bereich Produkteentwicklung eines Unternehmens die Unterschiede und deren Auswirkung auf die Behandlung eines Risikos aufgezeigt werden.

KI und Recht oder das Vertrauensdilemma

Felix Gantner

Beim Einsatz von entscheidungsunterstützenden KI-Systemen in juristischen Verfahren stellt sich die Frage, wie diese Verfahren zu organisieren sind und welche Stellung die Systeme einnehmen sollen. Einerseits ist sicherzustellen, dass der entscheidende Richter bzw. Organ in seiner Freiheit der Entscheidungsfindung nicht unzulässig eingeschränkt wird, weshalb das System nicht als «objektiv und allwissend» angesehen und auf die berechneten Aussagen unkritisch vertraut werden darf (Automation Bias). Andererseits ist es notwendig, ihm diese Eigenschaften zuzuerkennen, wenn auf die Systemaussagen vertraut werden soll und das System effizient eingesetzt werden soll. Das führt zu einem Vertrauensdilemma. Dieses Dilemma kann nur aufgelöst werden, wenn man KI-Systemen als begrenzte abduktive Systeme mit Informationen über ihre Grenzen ausstattet und sie nur bei Entscheidungen, die von ihrer Datenbasis abgedeckt werden, begründete Aussagen treffen.

Participative Decision-Making and Gamification: The Case of «Civic Points»

Paolo Coppola

Federico Costantini

Gabriele Franco

Although games have always been part of human history (from children’s plays to gambling), only recently they have been introduced in the public sphere as a tool to stimulate aggregative social processes. However, gamification of participative decision-making, enabled by the use of ICTs and the exploitation of personal data, raises some concerns, in particular the protection of privacy and fundamental freedoms of citizens. In this contribution, after a theoretical overview, we tackle such questions, describing a participatory model which allows to minimize the risks of abuses by public authorities while maximizing the potential benefit, especially in local communities.

Datenschutz

Dynamic Consent als Weg aus der Einwilligungskrise

Eva Schlehahn

Rigo Wenning

Wer hat sie nicht schon verflucht, die Cookie–Banner? Vorausgefüllte Banner sind nach der Planet 49–Entscheidung des EuGH unzulässig. Manche Stimmen reden sogar vom Ende der Zustimmung im Datenschutz. Gleichzeitig werden die Anforderungen an die Information der Nutzer immer größer. Sie sind eine wichtige Voraussetzung dafür, dass die betroffenen Personen in der Lage sind, eine informierte Entscheidung zu treffen. Der Vortrag beschreibt einen Ausweg aus dem Dilemma mittels «computer-aided consent (CAC)» durch innovative und kontextuale Information. Die Innovation betrifft dabei nicht nur die technische, sondern auch die juristische Dimension und ist daher ein Thema im Zentrum der Rechtsinformatik.

How can we forget about this? Right to be forgotten in the light of CJEU's Facebook and Google Cases

Aleksander Wiatrowski

Since in 2014 the famous Google Spain Case promoted the term Right to be Forgotten (RTBF) discussions and controversies have never stopped. Recent 2019’s rulings by the European Court of Justice (CJEU) in Facebook and Google cases not only did not dispel some of the doubts, especially those about territorial scope of the RTBF but raised more questions and uncertainties. The court found that Facebook is required to delete content globally, not just in Europe if a European court decides that the content is defamatory. This ruling is almost the exact opposite of a recent Google case. Google is required to delist links under RTBF in EU but does not need to delist that same material around the globe. How to reconcile these two decisions? Is one of them wrong or the reason is the difference in the companies, Facebook and Google? However, the surprises continue. Specifically, because the EU’s E-Commerce Directive prohibits Member States from imposing general monitoring obligations on social media sites and other online providers. Government-imposed monitoring raises an array of privacy-related concerns in addition to the obvious speech concerns. Something that one would think the EU would be particularly concerned about, given its strong focus on protecting individual privacy and data protection.

Automated M2M Communication as Enhancer of Challenges for Personal Data Breach Notification

František Kasl

The contribution elaborates on one perspective of the author’s dissertation research concerning the challenges to personal data breach notification in the internet of things settings. The focus of the contribution are the potential disruptive effects of the implementation of 5G technologies in the respective NB-IoT and eMTC technology standards. The discussed setting is thereby the evolving automated M2M communication in the industry 4.0, smart city and smart home environments. The attention is limited to the personal data breach notification and communication obligations under Articles 33 and 34 GDPR. The provisions and their interpretations are confronted with this technological development and conclusions are drawn about the limits or challenges that the trend poses in this regard.

Koordination der Informationspflichten laut DSGVO mithilfe der Blockchain

Karl Pinter

Dominik Schmelz

Mario Bernhart

Thomas Grechenig

Die Datenschutzgrundverordnung (DSGVO) gewährt betroffenen Personen ein Recht auf informationelle Selbstbestimmung. Möchte eine betroffene Person bei einem Unternehmen Rechte geltend machen, so erfolgt dies individuell und ohne einheitlichen und dokumentierten Prozess. Wird eine Anfrage nicht oder nur unzureichend beantwortet, so muss individuell Beschwerde eingebracht werden. Die Autoren schlagen eine Legal Technology vor, die es ermöglicht, Anfragen zentral abzuwickeln und unter anderem zum Zwecke von Transparenz und Bürokratieabbau fälschungssicher zu dokumentieren.

Konformität der Supportleistungen mit dem Anwaltsgeheimnis nach deutschem und Schweizer Recht

Marvin Fechner

Blaise Dévaud

Supportleistungen gehören zu jeder Wartungsvereinbarung einer Kanzleisoftware. Im Rahmen des Supports ist es oft nötig, dem Dienstleister einen direkten Zugang zur produktiven Instanz der Kanzleisoftware zu gestatten. Um das Berufsgeheimnis zu gewährleisten, dürfen mandantenbezogene Informationen für die Betreiber der Software nur einsehbar sein, wenn dies zur Aufrechterhaltung der Funktionalität notwendig ist. Der Beitrag untersucht die rechtlichen Rahmenbedingungen und skizziert einen praktischen Lösungsansatz am Beispiel einer Dokumentenautomatisierungssoftware.

Einschränkung der Privatsphäre und Ausbeutung in der Digitalökonomie am Beispiel von Facebook – eine Standortbestimmung aus datenschutz- und kartellrechtlicher Sicht

Arno Scharf

Jakob Zanol

Die zunehmende Verbreitung «datenbasierter» Geschäftsmodelle und die Anerkennung von Daten als Wettbewerbsfaktor führt zu einer stärkeren Verzahnung von Datenschutz- und Kartellrecht. Vor diesem Hintergrund wird, mit Bezugnahme auf aktuelle Rechtsstreitigkeiten, untersucht, wie Daten, die auf Facebook hinterlassen werden, durch das Datenschutzrecht geschützt sind. Andererseits wird untersucht, inwiefern das Fordern zu vieler (Nutzer-)Daten durch Facebook aus kartellrechtlicher Sicht einen Verstoß gegen das Verbot des Marktmachtmissbrauchs darstellt.

Datenschutzkonformer Einsatz von US-Services

Natascha Windholz

Privacy Shield und Standarddatenschutzklauseln scheinen legitime Mittel zur Datenübertragung in die USA zu sein. Doch ist dem tatsächlich so? Die Aufdeckungen durch Whistleblower Snowden haben die Praktiken der USA zu Massenabfragen deutlich gemacht. Der CLOUD-Act erlaubt Zugriffe auf Daten, die US-Unternehmen verarbeiten – unabhängig vom Speicherort. Der neueste geplante Streich der EU, die e-Evidence-Verordnung ist ein Versuch, Datenübermittlungen an US-Behörden und US-Gerichte zu legalisieren. Der Preis dafür wäre jedoch hoch. Diese Analyse befasst sich mit Wegen und Irrwegen der Datenübermittlung in die USA.

Beschäftigtendatenschutz: Rechtliche Anforderungen und Technische Lösungskonzepte

Christian K. Bosse

Aljoscha Dietrich

Patricia Kelbert

Hagen Küchler

Hartmut Schmitt

Jan Tolsdorf

Andreas Weßner

Die Digitalisierung betrifft nahezu alle Bereiche der Gesellschaft und somit auch die Beschäftigten. Neben wirtschaftlichen Potenzialen hat diese Entwicklung auch bisher unbekannte Überwachungsmöglichkeiten zur Folge. Da die Datenschutzgesetze in Deutschland nur sehr unspezifische Vorgaben für den Beschäftigtendatenschutz machen, ist es erforderlich, diese aus Rechtsprechung und datenschutzrechtlichen Grundsätzen abzuleiten. Auf dieser Grundlage werden technische Lösungsvorschläge vorgestellt, die den Beschäftigten als Werkzeug für Transparenz und Kontrolle über die Verwendung ihrer Daten dienen können.

Grenzen der Überwachung von Mitarbeitern mittels Geotracking

Hermann Schwarz

Das Internet und die in sämtliche Lebensbereiche vordringende Digitalisierung halten naheliegenderweise Einzug auch in die Arbeitswelt. Der Einsatz von leistungsstarken Firmenservern als Rückgrat der Unternehmenssteuerung ist mittlerweile ebenso üblich wie die Ausstattung von Mitarbeitern mit Smartphones als Firmenhandys. Durch Handyortung oder GPS-Ortung von Firmenfahrzeugen ließe sich durchgängig erheben, wo sich Mitarbeiter gerade aufhalten. Die Frage, inwieweit eine (technisch) solcherart mögliche Totalüberwachung zulässig wäre oder die aktuelle Rechtslage allenfalls doch Grenzen setzt, untersucht dieser Beitrag.

The Crux of Cookies Consent: A Legal and Technical Analysis of Shortcomings of Cookie Policies in the Age of the GDPR

Gerhard Seuchter

Veronika Beimrohr

Dawn Branley-Bell

EU legislation such as the ePrivacy Regulation and the GDPR impose a variety of obligations on how browser cookies need to be implemented on web pages. While almost all website operators adhere to the letter of the law, many websites fail to uphold the spirit of the law. Website operators may nudge visitors into accepting superfluous cookies by carefully crafting cookie popups; thus impinging on visitors’ right to self-determination of their data. The authors propose to define a machine-readable representation for cookie policies. This representation can then be used to present the cookie policy to website visitors in a standardized manner, thus reducing the potential for deceptive cookie policies.

Datenschutzrechtliche Aspekte des Einsatzes intelligenter Wasserzähler

Maurits Haas

Hannes Knapp

Anders als im Energiesektor bestehen im Bereich der Wasserversorgung keine gesetzlichen Verpflichtungen zum Einsatz von intelligenten Messgeräten. Die Datenschutzbehörde hat die Verwendung intelligenter Wasserzähler untersagt. Im vorliegenden Artikel soll aufgezeigt werden, welche Rechtsvorschriften für die Zulässigkeit der Verwendung von intelligenten Wasserzählern sprechen; dabei wird thematisiert, welche erhobenen Daten personenbezogen sind, wann eine Verarbeitung durch den Verantwortlichen vorliegt und auf welche (wasserrechtlichen) Rechtsgrundlagen sich die Verarbeitung stützen könnte.

Die Inanspruchnahme des Auftragsverarbeiters durch die Aufsichtsbehörde – Der datenschutzrechtliche Satz des Pythagoras

Stefan Hessel

Lena Leffer

Karin Potel

Der Beitrag untersucht das Verhältnis zwischen den Verfahrensbeteiligten der DSGVO bei der Inanspruchnahme durch die Aufsichtsbehörde. Dabei kommt er durch Auslegung der einschlägigen unionsrechtlichen Vorschriften sowie des deutschen Verfahrensrechts zu dem Ergebnis, dass der Aufsichtsbehörde kein Wahlrecht hinsichtlich der Inanspruchnahme von Verantwortlichem und Auftragsverarbeiter zukommt. Vielmehr ergibt sich aus dem Verhältnis zwischen Aufsichtsbehörde und Verantwortlichem einerseits und dem Verhältnis zwischen Verantwortlichem und Auftragsverarbeiter andererseits, dass eine Inanspruchnahme des Auftragsverarbeiters an besondere Voraussetzungen geknüpft ist.