Next Generation DOI: 10.38023/8249bf62-0095-4ecb-a88f-4ef58bd82c3a

Ein Chatbot als Rechtsberater – ein haftungsrechtlicher Albtraum für den Betreiber?

Inwiefern bestehen für das Anbieten einer automatisierten Rechtsberatung mittels Chatbot haftungsrechtliche Risiken?

Michael Krähenbühl

Citation: Michael Krähenbühl, Ein Chatbot als Rechtsberater – ein haftungsrechtlicher Albtraum für den Betreiber?, in: Jusletter IT 30. September 2021

In recent times, a new type of legal service has reached the market, offering automated legal advice via a chatbot. Therefore, this paper seeks to determine under which circumstances a chatbot operator may be held accountable, when his chatbot is causing damages by offering false legal advice. On one hand, the research focuses on a type of chatbot, which has predefined working patterns, and therefore, offering a foreseeable advice. This type of chatbot does not pose any new challenges under swiss liability law. On the other hand, the research focuses on a chatbot, which operates (at least partly) with a system, which can be described as artificial intelligent. This type of system may cause damages, which can be traced back to their self-dynamic development. Under swiss civil law, artificial intelligence has by itself no legal entity according to Art. 11 Swiss Civil Code. In case of any damages, caused by false legal advice appointed by a system, which is artificial intelligent, an attribution norm is required, which attributes the damages to the chatbot operator. The author follows a doctrine, which suggests that this could be achieved through the analogous application of Art. 101 Swiss Code of Obligations or Art. 55 Swiss Code of Obligations.

Table of contents

1. Einleitung
2. Bestimmung des Begriffs der künstlichen Intelligenz (KI) und deren Abgrenzung von einem rein regelbasierten Expertensystem
- 2.1. Der Versuch einer Definition des Begriffs der KI
- 2.2. Die grundlegende Funktionsweise einer KI
- 2.3. Der Unterschied zwischen einer starken und schwachen KI
- 2.4. Abgrenzung einer KI von einem Expertensystem
3. Der Versuch einer Klassifizierung der Chatbots aus einer technischen Perspektive
- 3.1. Typ 1: Der Chatbot mit einem begrenzten Einsatzbereich unter Verwendung eines regelbasierten Systems
- 3.2. Typ 2: Der Chatbot mit einem begrenzten Einsatzbereich unter Verwendung von Natural Language Processing und einer regelbasierten oder KI-gestützten Datenanalyse
- 3.3. Typ 3: Die Zukunftsvision eines autonom handelnden Chatbots (starke KI)
- 3.4. Chatbot-Matrix
4. Haftungsrechtliche Analyse
- 4.1. Schäden, welche durch eine fehlerhafte Beratung durch einen Chatbot entstehen können.
- 4.2. Die zugrundeliegenden (ausser-)vertraglichen Bindungen der beteiligten Parteien
5. Haftungsrechtliche Beurteilung eines Chatbots Typ 1
- 5.1. Beschreibung der Haftungssphären
- 5.2. Umfang des Auftrages
- 5.3. Relevante Haupt- und Nebenpflichten des Auftragnehmers
- 5.4. Prüfung der Haftung Chatbot-Anbieters gegenüber dem Klienten nach dem Auftragsrecht
  - 5.4.1. Der Auftragsnehmer hat eine vertragliche Pflicht verletzt
  - 5.4.2. Es muss ein Schaden nachgewiesen werden können
  - 5.4.3. Adäquater Kausalzusammenhang zwischen der Vertragsverletzung und dem Schaden
  - 5.4.4. Der Auftragnehmer hat die Vertragsverletzung verschuldet
  - 5.4.5. Zwischenfazit
  - 5.4.6. Prüfung einer möglichen Haftungsbeschränkung
6. Haftungsrechtliche Beurteilung eines Chatbots Typ 2
- 6.1. Prüfung der Haftung Chatbot-Anbieters gegenüber dem Klienten nach dem Auftragsrecht
  - 6.1.1. Vertragsverletzung und Verschulden
  - 6.1.2. Schaden und Adäquater Kausalzusammenhang
  - 6.1.3. Prüfung einer möglichen Haftungsbeschränkung
- 6.2. Die Möglichkeit eines Rückgriffs auf den Hersteller der KI
7. Haftungsrechtliche Beurteilung eines Chatbots Typ 3: Eine Frage der Zukunft
8. Zusammenfassung und Fazit