href="#u13070cf8-b66f-4c56-a7cd-6432bfa46f66">5 Aus dem Englischen „artificial intelligence“; teilweise wird eine zu ungenaue Übersetzung ins Deutsche kritisiert; vgl. John, Haftung für künstliche Intelligenz, S. 6; Herberger, NJW 2018, 2825 (2826). 6 Vgl. Lohmann, ZRP 2017, 169 (169); zur Terminologie im Einzelnen Herberger, NJW 2018, 2825 (2825); Erhardt/Mona, in: Gless/Seelmann, Intelligente Agenten und das Recht, S. 62, 65. 7 Viele Kritiker bevorzugen die Bezeichnung „Maschinenlernen“ (machine learning), vgl. Stroh, Markt&Technik 35/2019, 22 (24); Ramge, Mensch und Maschine, S. 18; Zech, in: Deutscher Juristentag, Verhandlungen des 73. Deutschen Juristentages, Band I, A 31. 8 Vgl. Jakl, MMR 2019, 711 (712). 9 Erhardt/Mona, in: Gless/Seelmann, Intelligente Agenten und das Recht, S. 65. 10 Böhringer, RAW 2019, 13 (13). 11 John, Haftung für künstliche Intelligenz, S. 62. 12 Erhardt/Mona, in: Gless/Seelmann, Intelligente Agenten und das Recht, S. 65; Kirn, WI 2002, 53 (53ff.); Teubner, AcP 2018, 155 (156); Keßler, MMR 2017, 589 (589). 13 Stroh, Markt&Technik 35/2019, 22 (24). 14 Ramge, Mensch und Maschine, S. 19; Fraunhofer-Allianz Big Data, Zukunftsmarkt künstliche Intelligenz – Potenziale und Anwendungen, S. 5; Sesink, Menschliche und künstliche Intelligenz, unter 8.1. 15 Ramge, Mensch und Maschine, S. 81ff. 16 Stroh, Markt&Technik 35/2019, 22 (24). 17 Scherk/Pöchhacker-Tröscher/Wagner, Künstliche Intelligenz – Artificial Intelligence, S. 20. 18 V. Bünau, in: Breidenbach/Glatz, Rechtshandbuch Legal Tech, 47 (51); Moeser, Starke KI, schwache KI – was kann künstliche Intelligenz?, https://jaai.de/starke-ki-schwache-ki-waskann-kuenstliche-intelligenz-261/. 19 Expertensysteme simulieren menschliches Expertenwissen auf einem eng begrenztem Aufgabengebiet, dazu Puppe, Einführung in Expertensysteme, S. 2. 20 Bundesregierung, Strategie künstliche Intelligenz der Bundesregierung, S. 4f. 21 Shala, Die Autonomie des Menschen und der Maschine, S. 33; vgl. auch Duden, https://www.duden.de/rechtschreibung/Intelligenz. 22 Der Turing-Test besteht darin, dass ein menschlicher Fragensteller lediglich über Bildschirm und Tastatur mit zwei Gesprächspartnern kommuniziert, einem Menschen und einem Computer. Bestanden ist der Test, wenn der Fragensteller den Computer am Ende einer ausführlichen Befragung nicht eindeutig identifizieren kann, vgl. Rimscha, Algorithmen kompakt und verständlich, S. 129; Graevenitz, ZRP 2018, 238 (240); Lämmel/Cleve, Künstliche Intelligenz, S. 12. 23 Sester/Nitschke, CR 2004, 548 (548); Wendt/Oberländer, InTeR 2016, 58 (59); Zech, in: Gless/Seelmann, Intelligente Agenten und das Recht, S. 170; Teubner, AcP 2018, 155 (170); Mayinger, Die künstliche Person, S. 14. 24 Sester/Nitschke, CR 2004, 548 (549); Teubner, AcP 2018, S. 155 (169f.); Pieper, InTeR 2016, S. 190; Kirn/Müller-Hengstenberg, MMR 2014, 225 (227); v. Westphalen, ZIP 2019, 889 (889). 25 Kirn/Müller-Hengstenberg, MMR 2014, 225 (226); Specht/Herold, MMR 2018, 40 (41); Lohmann, ZRP 2017, 168 (169); Grapentin, NJW 2019, 181 (183); Paulus/Matzke, ZfPW 2018, 431 (442); Wachenfeld/Winner, in: Maurer/Gerdes/Lenz/Winner, Autonomes Fahren, S. 468; Zech, in: Gless/Seelmann, Intelligente Agenten und das Recht, S. 170f. 26 Brause, Neuronale Netze, S. 15; Rimscha, Algorithmen kompakt und verständlich, S. 157; Lämmel/Cleve, Künstliche Intelligenz, S. 190; Grapentin, NJW 2019, 181 (183); Matthias, Automaten als Träger von Rechten, S. 25. 27 Biran/Cotton, Explanation and Justification in Machine Learning: A Survey, unter 1.; Miller, Explanation in Artificial Intelligence: Insights from the Social Sciences, S. 14. 28 Käde/v. Maltzan, CR 2020, 66 (69); Zech, ZfPW 2019, 198 (201). 29 Käde/v. Maltzan, CR 2020, 66 (69); Stiemerling, CR 2015, 762 (764). 30 Käde/v. Maltzan, CR 2020, 66 (69); Zech, ZfPW 2019, 198 (202). 31 Dazu eingehend Holzinger, Informatik-Spektrum 2018 (Vol. 41 Iss. 2), 138ff.; Zech, in: Deutscher Juristentag, Verhandlungen des 73. Deutschen Juristentages, Band I, A 33f. 32 Käde/v. Maltzan, CR 2020, 66 (69).
B. Automatisierung und Autonomie
Während sich die künstliche Intelligenz mit der Frage beschäftigt, welche Qualität das maschinelle Verhalten an den Tag legt und diese „Handlungsqualität“ mit der des Menschen verglichen wird, fragt der Grad der Automatisierung nach dem Umfang des menschlichen Einflusses auf diese Handlungen.33 Das höchste Maß an Automatisierung ist die Autonomie, wobei auch in der Wissenschaft nicht immer ganz trennscharf zwischen den Begrifflichkeiten differenziert wird. Die rechtswissenschaftliche Literatur jedenfalls nimmt die Begrifflichkeit des „autonomen Systems“ bislang eher als selbstverständlich und wenig diskussionswürdig an. Wenn überhaupt wird sie mit der Frage nach der Rechtssubjektivität („e-Person“) verknüpft.34 Sie darf (und sollte) sich dabei der Erkenntnisse anderer wissenschaftlicher Disziplinen bedienen, weil sie schlichtweg auf diese Befunde angewiesen ist.35 So wie sich geltendes Recht oftmals an wissenschaftlichen Tatsachen orientiert,36 so muss auch hier der interdisziplinäre Diskurs berücksichtigt werden.
I. Automatisierung
Unter Automatisierung wird der Einsatz von Automaten verstanden.37 Seinen begrifflichen Ursprung hat der „Automat“ im altgriechischen Adjektiv „automatos“, das „Dinge, die sich von selbst bewegen“ bezeichnet.38 Strenggenommen begann die Automatisierung des Straßenverkehrs damit bereits mit dem Umstieg vom Pferd auf den Verbrennungsmotor.39 Heute verstehen wir unter „automatisch“ für gewöhnlich einen meist computerbasierten Vorgang, der von selbst abläuft und der keine oder nur wenig Überwachung benötigt.40 Die (softwarebasierten) Automaten befolgen dabei ein Computerprogramm und treffen anhand der Vorgaben dieser Software Entscheidungen.41 Automatische Systeme sind daher streng durch den Menschen determiniert. Ihr Verhalten lässt sich jederzeit auf die Software zurückführen, sei es durch Funktion oder Fehlfunktion ebendieser.42
II. Autonomie in Wissenschaft und Technik
„Autonomie“43 assoziieren wir dagegen mit Selbständigkeit und Freiheit von äußerlicher Fremdeinwirkung,44 wobei dieses Verständnis je nach wissenschaftlicher Disziplin ganz unterschiedliche Formen annehmen kann. Nach der Kant’schen Moralphilosophie ist Autonomie Ausdruck moralischer Freiheit, das „oberste Prinzip der Sittlichkeit.“45 Sie ist demzufolge das Handeln nach Maximen, die sich der Mensch selbst auferlegt und dadurch zum „Gesetz“ erhebt. Dieser Selbstgesetzgebung durch moralische Vernunft, die Kant als den „kategorischen Imperativ“ bezeichnet,46 steht ein Zustand der Abhängigkeit von Naturgesetzen