KI-Kriminalität

Schadenverursachende KI-Agenten und die Grenzen des Strafrechts

Was verbirgt sich hinter dem Phänomen „KI-Kriminalität“, und wer, wenn überhaupt, sollte dafür verantwortlich gemacht werden? Eleni Nerantzi befasst sich mit drei Aspekten dieser Fragen: (1) einer Definition von KI-Kriminalität, (2) den damit verbundenen Herausforderungen und (3) Schritten für die Zukunft.

1) Definition: Ein Ziel des Projekts ist es, eine präzise, empirisch fundierte Definition von KI-Kriminalität als neue Risi­ko­kategorie zu entwickeln. Es versteht sich von selbst, dass damit nicht jedes durch ein KI-System verursachte schädliche Ergebnis erfasst ist. Das Verhalten einer KI kann nur dann als Fall von KI-Kriminalität bezeichnet werden, wenn ein KI-Agent – also ein System, das autonom und ohne ständige menschliche Aufsicht arbeitet – das ihm zugewiesene Ziel strategisch in einer Weise verfolgt, die nicht nur im Widerspruch (oder „Misalignment“) zu den Absichten seiner menschlichen Entwickler oder Nutzer bzw. zu ethischen Normen steht, sondern auch gegen das Gesetz verstößt. Mit anderen Worten: KI-Kriminalität liegt dann vor, wenn die Aktionen des KI-Systems eine Straftat wären, würden sie von einem Mensch mit dem erforderlichen subjektiven Tatbestand (insbesondere Vorsatz) ausgeführt.

2) Herausforderungen: Das Phänomen ist zwar neu, aber die zugrunde liegenden rechtlichen Herausforderungen nicht. Die Strafrechtstheorie setzt sich schon seit Langem mit Szenarien auseinander, in denen technische Systeme unvorher­seh­baren Schaden verursachen und es keinen menschlichen Akteur gibt, dem die Schuld angelastet werden kann. Nerantzi systematisiert die fragmentierte Literatur und argumentiert, dass eine Pattsituation unvermeidlich ist, solange die Strafrechtstheorie an der Unterscheidung „entweder Person oder Sache“ festhält – einer Dichotomie, die die neue, nicht-menschliche Handlungsfähigkeit von KI-Agenten ausschließt.

3) Ausblick: Ein erster, grundlegender Schritt zur Lösung des Problems besteht laut Nerantzi darin, KI-Agenten als eine neue Kategorie von Akteuren zu betrachten, die zwischen Person und Sache angesiedelt ist. Diese können zwar ziel­gerichtet kriminelles Verhalten an den Tag legen, sind jedoch – ähnlich wie Kinder oder Menschen mit geistiger Behin­derung – nicht schuldfähig und somit nicht strafbar. Anders als bei Kindern oder Menschen mit geistiger Behinderung kann man aber ex ante in die Entscheidungsfindung von KI-Agenten eingreifen: Es lassen sich Mechanismen zur Einhal­tung rechtlicher Vorschriften (beispielsweise eine von Strafrecht und Ökonomie inspirierte „KI-Abschreckungsformel“) implementieren, die eine präventive Wirkung entfalten. In jedem Fall geht das Projekt davon aus, dass nur die menschli­chen Auftraggeber strafbar sind, die es versäumen, einen solchen Compliance-Mechanismus in ihre KI-Agenten einzu­bauen, oder ihre Handlungsbefugnis leichtfertig an diese delegieren.