Viele kennen es. Man möchte in Eile noch schnell etwas ausdrucken. Der Drucker funktioniert jedoch nicht, der Billetautomat auch nicht. Und der Zug bleibt auf offener Strecke stehen, vermutlich wegen eines Software Bugs. Leider wurde noch kein Mittel entwickelt, um diese lästigen Viecher gänzlich auszurotten. Bereits 1977 hat Caspers Jones abgeschätzt, dass pro 1000 Zeilen Code mit einer bestimmten Anzahl Bugs zu rechnen ist, welche falsche Ergebnisse oder unerwartetes Verhalten von Computerprogrammen verursachen. Aus Compliance Sicht ist also immer mit Bugs zu rechnen. Was bedeutet das?
Am 13.12.2019 präsentierte eine interdepartementale Arbeitsgruppe den Bericht zu „Herausforderungen der künstlichen Intelligenz", welche sie im Auftrag des Bundesrates verfasst hat. Der Abschnitt 1.6.16 handelt vom Einsatz von künstlicher Intelligenz in der Justiz, welcher auch Compliance betrifft. In der Europäischen Ethik-Charta für den Einsatz der künstlichen Intelligenz in Gerichtssystemen werden vier Arten unterschieden: (1) zu befürwortende Anwendungen; (2) mögliche Anwendungen, für die starke methodische Vorsichtsmassnahmen getroffen werden müssen; (3) mögliche Anwendungen unter dem Vorbehalt zusätzlicher wissenschaftlicher Untersuchungen; (4) nur unter höchsten Vorbehalten mögliche Anwendungen. Was bedeutet das konkret für Compliance?
Assistenzsysteme gibt es in verschiedensten Ausprägungen. Die einfachsten passiven Systeme beschränken sich auf Empfehlungen und Warnungen. Der Mensch kann diese beachten oder ignorieren. Komplexer sind digitale Assistenten, die Dialoge führen. Am einfachsten zu entwickeln, aber alles andere als trivial, sind digitale Assistenten, welche den Dialog kontrollieren. Der Assistent fragt, der Mensch antwortet. Dabei besteht die Möglichkeit, die Fragen von vorhergehenden Antworten abhängig zu machen. Anspruchsvoller sind Assistenten, welche den Benutzer aus einem sogenannten Anomalous State of Knowledge (ASK) herauszuführen.
Elektronisch unterschreiben ist ein wachsendes Bedürfnis in der heutigen digitalisierten und vernetzten Welt. Was ist eigentlich eine Unterschrift? Einerseits geht es um die Identität einer natürlichen Person, die ein Zeichen (Lat. Signum) unter das von ihr Geschriebe bzw. unter ihr Werk setzt. Dies kann ein Siegel sein, das heute noch in Ostasien als Nachweis der Identität der Autorenschaft genutzt wird. Es kann eine Bitmap einer Unterschrift oder ganz einfach die Unterschrift auf einer Postkarte sein. Andererseits geht es um eine Willensbekundung oder Einverständniserklärung. Dazu gehören Unterschriften unter Protokolle und Verträgen, bei denen die schriftliche Form erforderlich ist.
Bei digitalen Prozessen spielen Vertrauensketten (chains of trust) eine wichtige Rolle. Wie im täglichen Leben geht es darum, wer vertraut wem weshalb? Die Beziehung ist nicht zwingend symmetrisch. Wenn Partei A der Partei B vertraut, dann vertraut B nicht zwingend A. In der Regel ist die Beziehung jedoch transitiv. Wenn Partei A der Partei B vertraut und die Partei B der Partei C, dann kann A auch C vertrauen. Diese Vertrauenskette wird auch in der digitalisierten Welt angewendet.
