Künstliche Intelligenz hat sich in Rekordtempo entwickelt und findet Anwendung in nahezu allen Bereichen der Gesellschaft. Von der Gesundheitsvorsorge bis zu Finanzdienstleistungen, von Unterhaltung bis Bildung – KI transformiert die Art und Weise, wie wir arbeiten und leben. Das Rechtssystem bildet hierbei keine Ausnahme.

Während KI enorme Vorteile in der Rechtsrecherche, Dokumentenanalyse und bei administrativen Prozessen bieten kann, entstehen fundamentale Risiken, wenn Technologie eingesetzt wird, um menschliche Emotionen, Absichten und Erklärungen zu simulieren. Der jüngste Fall von Christopher Pelkey in Arizona markiert einen beunruhigenden Meilenstein: Zum ersten Mal in der amerikanischen Rechtsprechung wurde ein KI-generierter Avatar zugelassen, um im Namen eines verstorbenen Opfers während eines Strafprozesses zu sprechen.

Dieses Whitepaper analysiert, warum solche KI-Anwendungen einen gefährlichen Präzedenzfall schaffen, der die Integrität unseres Rechtssystems bedroht. Wir untersuchen die technischen, rechtlichen und ethischen Aspekte dieses Falls und formulieren konkrete Empfehlungen, um ähnliche Situationen in Zukunft zu vermeiden.