ist (Heteronomie).47 Legt man diese Unterscheidung zugrunde, so ist die Existenz von autonomen Maschinen unmöglich. Zwar ist durchaus vorstellbar, dass selbstfahrende Kraftfahrzeuge in Dilemmasituationen zwangsweise zwischen mehreren Handlungsoptionen eine moralische bewertbare Entscheidung treffen müssen; allerdings basiert eine solche Entscheidung nicht auf einem freien Willensentschluss, sondern einzig und allein auf den Vorgaben des – wenn auch intransparenten – Algorithmus.48 Die Reaktion des Fahrzeugs ist also lediglich die naturgesetzliche Folge einer mathematischen Formel, die zu keiner moralischen Abwägung imstande ist.
Von moralischer Wertung gänzlich entkoppelt ist der technische Autonomiebegriff. Autonomie zeichnet sich in der Informatik und den Ingenieurswissenschaften zunächst durch die Fähigkeit aus, hochkomplexe Aufgaben ohne oder nur mit geringfügiger Hilfe durch den Menschen zu bewältigen.49 Bei mobilen Robotern kommt der räumliche Aspekt der Bewegungsfreiheit hinzu, also das Navigieren auch in unbekannter Umgebung ohne menschliche Steuerung.50 Auch das Europäische Parlament hat sich in seinen Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik vom 27.01.2017 für ein technisches Verständnis ausgesprochen.51 Danach ist Autonomie die Fähigkeit, „Entscheidungen zu treffen und diese in der äußeren Welt unabhängig von externer Steuerung oder Einflussnahme umzusetzen.“52
Es zeigt sich, dass das technische Konzept von Autonomie graduell ist. Es fragt nicht im Sinne einer Ausschließlichkeitsentscheidung danach, ob eine Maschine entweder autonom ist oder nicht, sondern in welchem Abhängigkeitsverhältnis sie zur menschlichen Kontrolle steht. Ausgehend von diesem Grundverständnis ist es im Ergebnis durchaus denkbar, dass technische Systeme autonom handeln können. Die menschliche Beherrschbarkeit endet nämlich dort, wo maschinelle Verhaltensweisen ex ante nicht mehr vollständig vorhersehbar und ex post nicht mehr vollständig nachvollziehbar sind.
33 Voigt, Automatisierung, https://wirtschaftslexikon.gabler.de/definition/automatisierung-27138/version-25080; vgl. Simanski, in: VDE, Biomedizinische Technik, S. 9. 34 Siehe unter § 8 D. 35 Teubner, AcP 2018, 155 (171). 36 Etwa bei emissionsrechtlichen Grenzwertregelungen, Teubner, AcP 2018, 155 (171). 37 Voigt, Automatisierung, https://wirtschaftslexikon.gabler.de/definition/automatisierung-27138/version-250801. 38 Dwds, https://www.dwds.de/wb/Automat. 39 Feldle, Notstandsalgorithmen, S. 49. 40 Vgl. Linke, in: Heinrich/Linke/Glöckler, Grundlagen Automatisierung, S. 2. 41 Voigt, Automatisierung, https://wirtschaftslexikon.gabler.de/definition/automatisierung-27138/version-250801; Kagermann, in: 56. Deutscher Verkehrsgerichtstag, S. XXXIX. 42 Siehe oben unter § 2 A. IV. 43 Der ebenfalls aus dem altgriechischen stammende Begriff „autonomos“ setzt sich zusammen aus „autos“ (selbst) und „nomos“ (Ordnung, Gesetz), Dwds, https://www.dwds.de/wb/autonom; Müller-Hengstenberg/Kirn, Rechtliche Risiken autonomer und vernetzter Systeme, S. 97. 44 Vgl. Nitschke, Verträge unter Beteiligung von Softwareagenten, S. 9; Müller-Hengstenberg/Kirn, Rechtliche Risiken autonomer und vernetzter Systeme, S. 97. 45 Kant, Grundlegung zur Metaphysik der Sitten, S. 68, „Autonomie des Willens ist die Beschaffenheit des Willens, dadurch derselbe ihm selbst (unabhängig von aller Beschaffenheit der Gegenstände des Wollens) ein Gesetz ist. Das Prinzip der Autonomie ist also: nicht anders zu wählen, als so, daß die Maximen seiner Wahl in demselben Wollen zugleich als allgemeines Gesetz mit begriffen sein.“ 46 Vgl. Kant, Grundlegung zur Metaphysik der Sitten, S. 69; Hilgendorf, in: 53. Deutscher Verkehrsgerichtstag, S. 56. 47 Shala, Die Autonomie des Menschen und der Maschine, S. 13; Noller, Die Bestimmung der Freiheit: Kant und das Autonomie-Problem, S. 3; Erhardt/Mona, in: Gless/Seelmann, Intelligente Agenten und das Recht, S. 71. 48 Vgl. Grunwald, SVR 2019, 81 (85). 49 „Autonomous Robots are designed to perform high level tasks on their own, or with very limited external control.“, Bensalem/Gallien/Ingrand/Kahloul/Nguyen, Toward a More Dependable Software Architecture for Autonomous Robots, S. 1; vgl. Lämmel/Cleve, Künstliche Intelligenz, S. 20; Maier, Grundlagen der Robotik, S. 50; Bauer, Elektronische Agenten in der virtuellen Welt, S. 6. 50 Vgl. Maier, Grundlagen der Robotik, S. 50. 51 Das Europäische Parlament weist sogar explizit darauf hin, dass die Autonomie „rein technischer Art“ ist, Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103 (INL)), http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_DE.html, unter AA; vgl. auch Teubner, AcP 2018, 155 (174); Matthias, Automaten als Träger von Rechten, S. 35; Lohmann, ZRP 2017, 168 (169); Spindler, JZ 2016, 805 (816); Zech, in: Gless/ Seelmann, Intelligente Agenten und das Recht, S. 170; Erhardt/Mona, in: dies., Intelligente Agenten und das Recht, S. 68. 52 Europäisches Parlament, Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103 (INL)), http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_DE.html, unter AA.
C. Zwischenergebnis
Nach alledem lässt sich folgender Zwischenstand festhalten: Die Maschine bleibt ein zweckgebundenes, „schwaches“ Werkzeug des Menschen und kann nur innerhalb der engen Grenzen der ihr zugewiesenen Nutzung agieren. Streng genommen ist sie daher bereits aus diesem Grund nicht selbstständig;53 jedenfalls nicht so, wie es der Mensch ist. Das schließt aber nicht unbedingt aus, dass sie – im Rahmen dieser Grenzen – eine von menschlicher Kontrolle freie Instanz sein kann. Ausgangspunkt und zentrale Voraussetzung dafür ist hochqualifizierte künstliche Intelligenz. Dennoch ist nicht jede KI gleichzeitig auch als autonom zu bezeichnen; hierfür muss zunächst unterschieden werden: Die Autonomie des Menschen wird vornehmlich unter philosophischen Gesichtspunkten diskutiert und erreicht weitaus vielfältigere Dimensionen als das technische Verständnis. Menschliche und maschinelle Autonomie sind daher niemals gleichzusetzten und somit nicht den gleichen Voraussetzungen unterworfen. Auch wenn sich durch jüngste technische Entwicklungen und den noch zu erwartenden Fortschritt Mensch und Maschine immer weiter annähern, ist (und bleibt) eine Unterscheidung von Autonomie im menschlichen und technischen Sinne unabdingbar.54
53 Vgl. Freise, VersR 2019, 65 (73); Feldle, Notstandsalgorithmen, S. 47f. 54 A. A. Mayinger, Die künstliche Person, S. 15.
§ 3 Automatisierung und Autonomie im Straßenverkehr
Mediale und gesellschaftliche Aufmerksamkeit erhalten intelligente Systeme vor allem im Bereich des automatisierten und autonomen Fahrens. Das mag einerseits daran liegen, dass das Auto als Mobilitätsmittel unangefochten an der Spitze steht55 und sich ein technologischer Wandel somit auf sämtliche Bevölkerungsschichten auswirkt. Andererseits ist gerade das Automobil schon seinem begrifflichen Ursprung nach56 Sinnbild für eine „selbstständige“ Maschine und die Technologie unserer Zeit. Kaum eine andere Erfindung der letzten Jahrhunderte lässt den Fortschritt der Technik so anschaulich erkennen wie das Automobil, vom ersten Benz Patent-Motorwagen Nr. 157