Jusletter IT

Die Nachvollziehbarkeit von Ergebnissen stellt eine der grössten Herausforderungen beim Einsatz von künstlicher Intelligenz (KI) in der Justiz dar. Der vorliegende Beitrag untersucht, wie Entscheide einer KI im Vergleich zu Entscheiden von menschlichen Richterinnen und Richtern hinsichtlich ihrer Nachvollziehbarkeit zu beurteilen sind. Die Analyse diverser Beiträge zeigt, dass menschliche Entscheide nicht per se eine bessere Nachvollziehbarkeit bieten und dass den Gefahren einer KI teilweise mit Schutzmassnahmen und Kontrollen entgegengewirkt werden kann. Die grössten Hürden für eine KI bilden demgegenüber das fehlende Kontextwissen, die Unfähigkeit zur kritischen Reflexion sowie die Angabe der richtigen Gründe für einen Entscheid.