Ri 02/2019: Wellengang

Ri 02/2019: Navigation

Ri 02/2019: Beitrag

System(at)isches Overclocking[1]?

Ein Kommentar

Dr. Sebastian Feiler*

KI ist in aller Munde. Gäbe es eine KI, die semantisches Verständnis aufbringen und das Schrifttum erfassen kann, müsste ihr das artifizielle Herz aufgehen angesichts der ausufernden Flut von Beiträgen.

Explosionsartig sind in den vergangenen Jahren Überlegungen zu KI-Implementierungen in verschiedenartigsten Rechtsgebieten angestellt worden: Moore’s Law[2] gilt seitdem auch für die juristische Publizistik. KI hält – vorgeblich, momentan noch eher hypothetisch – Einzug in der Rechts-, Steuer- und Wirtschaftsberatung,[3] soll helfen bei Grenzkontrollen,[4] zieht ein in Aufsichtsgremien wie das board of directors der Firma Deep Knowledge Ventures (Hong Kong),[5] soll mittelfristig die Massegenerierung und Effektivität der Anfechtungsklagen im Insolvenzverfahren steigern,[6] das Verwaltungsverfahren effizienter machen,[7] ja gar im Gesetzgebungsprozess eingesetzt werden.[8] Der Fahrweg für das autonom fahrende Auto ist bereitet (solange es keinen Dieselkraftstoff tankt).[9] Der Chatbot unterbreitet  (vielleicht) die invitatio ad offerendum zum Vertragsschluss und wird (vielleicht) zur ePerson.[10] Die Utopie des gesellschaftlichen Zusammenlebens in einer Ressourcen gesättigten, automatisierten Gesellschaft ohne Bedarf für Zivil- oder Sozialrecht wird bereits geschrieben.[11]

___STEADY_PAYWALL___

Viele Beiträge konzedieren dabei durchaus (selbst)kritisch, dass von einem gewissen Hype gesprochen und ein Umfeld überhöhter Erwartungen herbeigeschrieben wird.[12]  Gleichzeitig mehren sich ernstzunehmende Entschließungen, die im Angesicht heranwachsender Möglichkeiten von KI-Systemen auf die Einzigartigkeit des „menschlichen Systems“ weisen und dessen Freiheitsrechte sichern wollen.[13] Vorsichtig skeptische Beiträge sind also (noch) auffindbar.[14]

Das technische Potential von KI wächst, ja kann exponentiell wachsen. Doch können wir mithalten? Droht das „chronische Vollzugsdefizit“?[15] Die letzten Ansätze wirken überhastet.[16] Es hat den Anschein, als gebe sich die Gesellschaft der Entwicklung in Demut hin. Das Europäische Parlament bemüht schon die Frage nach der Rechtspersönlichkeit von KI (Robotern), ohne deren Wesenswirklichkeit, ohne das Phänomen KI überhaupt fassen zu können.[17] 

In einem sind sich alle einig: „Die” KI gibt es nicht.[18] Das Phänomen ist nicht nur rechtlich, sondern auch tatsächlich vielschichtig. Besteht nicht vor – oder begleitend zu – der Diskussion des „Wie“ ein Bedürfnis nach stärkerer tatsächlicher Durchdringung des „Was“?

Ist ein Schutzgesetz wie das viel gescholtene[19] französische Gesetz zur Reform der Justiz, das ein Verbotsgesetz enthält, welches den Rechtsstaat gegen automatisierte Verarbeitung personenbezogener Daten der in der Justiz Tätigen absichert, nicht eine gangbare Variante, um das technisch Mögliche in praktische Konkordanz mit dem rechtlich Wichtigem zu bringen?

Mit der anwaltlichen Praxis hat all dies ohnehin noch wenig zu tun: Der technikgeneigte Rechtsanwender bemüht sich täglich um den Versand seiner digitalen Schriftsätze über das – ersichtlich nicht intelligente – besondere elektronische Anwaltspostfach (beA).[20] Aber einen Blick in die Zukunft muss der Anwalt stets walten lassen. Gut wäre, wenn er dabei – ganz wie im Beratungsalltag – als Gestalter, nicht als Gejagter aufträte. Recht, System und Beratung werden sich ändern, wenn wir dies wollen. Es gilt – schon im bloßen Denken über die Zukunft – die Hoheit über die Maschine nicht zu verlieren.

Legislative und „Rechtsinnovationsmarkt“ spielen derzeit ein gefährliches Spiel. Der zweite Schritt will vor, will ohne, den ersten getan werden. Die künstliche Intelligenz Joshua, die im Spielfilm “War Games” (1983)[21] auf den Plan tritt, konstatiert am Ende: „A strange game. The only winning move is not to play.” So weit mag man nicht gehen wollen (und müssen). Doch sollte der Mensch, nicht die Maschine, die Geschwindigkeit vorgeben.

V

V


* Dr. Sebastian Feiler ist Rechtsanwalt und Assoziierter Partner bei der GÖRG Partnerschaft von Rechtsanwälten mbB (Köln). Er berät im Bereich Handels- und Vertriebsrecht und bei gerichtlichen und außergerichtlichen Streitigkeiten, insbesondere im grenzüberschreitenden Bereich und in nationalen und internationalen Schiedsverfahren. Sein besonderes Interesse gilt den seine Arbeitsbereiche berührenden Technologiebezügen diesseits und jenseits von „Legal Tech“ sowie dem IT- und Datenschutzrecht.

V

[1]  Siehe zum Begriff https://de.wikipedia.org/wiki/Übertakten (abgerufen am 11.08.2019).

[2]  Vgl. https://de.wikipedia.org/wiki/Mooresches_Gesetz (abgerufen am 11.08.2019).

[3]  Vgl. z.B. Fettke, Umsatzsteuer, Zoll und Künstliche Intelligenz – Eine Einführung, MwStR 2018, 463 ff.

[4]  S. Stoklas, ZD-Aktuell 2018, 06363 (via beck-online, abgerufen am 11.08.2019): Die EU sucht im Forschungsprojekt “iBorderCtrl” nach KI-gestützen Anwendungen für die Kontrolle der EU-Außengrenzen, u.a. durch pre-screening-Interviews vor einem virtuellen Grenzbeamten mittels Kameraaufnahmen und Lügendetektion.

[5]  Vgl. Strohn, Die Rolle des Aufsichtsrats beim Einsatz von Künstlicher Intelligenz, ZHR 2018, 371 ff.

[6]  S. den Ausblick bei Till, Revolution im Insolvenzwesen durch die Künstliche Intelligenz (KI)?, NZI 2019, 405, 406 f., 409.

[7]  Vgl. den Tagungsbericht von Heldt, Algorithmen und künstliche Intelligenz in der Verwaltung – Tagungsbericht zur wissenschaftlichen Tagung in Hamburg (Anm. d. Autors: am 12.10.2018), NVwZ 2019, 862 f.

[8]  So das Petitum von Klaas, Demokatieprinzip im Spannungsfeld künstlicher Intelligenz – Demokratische Entscheidungsfindung durch und mithilfe von selbstlernenden Algorithmen, MMR 2019, 84 ff., der dankenswerter Weise an die aus der Souveränität des Parlaments abzuleitende Notwendigkeit der Letztentscheidung desselbigen hinweist.

[9]  S. §§ 1a-c, 63a StVG.

[10]  Lorenz, Chatbots im praktischen Einsatz: Grundbegriffe, Rechtsfragen und Anwendungsszenarien, K&R 2019, 1, 2 ff.

[11]  Schwintowski, Wird Recht durch Robotik und künstliche Intelligenz überflüssig?, NJOZ 2018, 1601, 1607 f.

[12]  Vgl. z.B. Fettke, Umsatzsteuer, Zoll und Künstliche Intelligenz – Eine Einführung, MwStR 2018, 463; Pieper, Wie der zunehmende Einsatz von „Künstlicher Intelligenz“ das Vertragsrecht beeinflusst, K&R 2019, 14 ff.

[13]  S. z.B. den Überblick über die Hambacher Erklärung zur Künstlichen Intelligenz der 97. Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder vom 3. April 2019 sowie die OECD-Empfehlung für Künstliche Intelligenz von Tinnefeld, Künstlichen Intelligenz – ein (digitales) Glasperlenspiel?, ZD 2019, 333 f.

[14]  Vgl. zu zivilistischen Aspekten Grapentin, Die Erosion der Vertragsgestaltungsmacht durch das Internet und den Einsatz Künstlicher Intelligenz, NJW 2019, 181; s. ferner Di Fabio, Grundrechtsgeltung in digitalen Systemen: Selbstbestimmung im Wettbewerb und im Netz, München 2016, und Papier, Rechtsstaatlichkeit und Grundrechtsschutz in der ditigalen Gesellschaft, NJW 2017, 3025 ff.

[15]  Hierauf weist Pieper, Wie der zunehmende Einsatz von „Künstlicher Intelligenz“ das Vertragsrecht beeinflusst, K&R 2019, 14, 18, hin.

[16]  Treffend Otto, In Bot eu Trust – Wenn sich sogar die Europäische Kommission von ihrer „Trustworthy AI“ distanziert, Ri 2019, 15 ff., und dies., Was du erblickst, ist Schatten des widerstrahlenden Bildes. Europas „human-centric Trustworthy AI“ als Spiegel des Narcissus, Ri 2019, 25 ff.

[17]  Treffend Otto, Das dritte Ich: Ist die „Schizophrenie“ künstlich intelligenter Systeme behandelbar?, Ri 2018, 68, 88.

[18]  S. z.B. Pieper, Wie der zunehmende Einsatz von „Künstlicher Intelligenz“ das Vertragsrecht beeinflusst, K&R 2019, 14, 15.

[19]  Vgl. Kuhlmann, „Baum der Erkenntnis nicht nur im Paradies verboten“, https://www.lto.de/recht/zukunft-digitales/l/frankreich-legal-tech-beschraenkung-predictive-analysis-verbotene-erkenntnis/ (abgerufen am 11.08.2019) m.w.N. und die Einordnung von Otto, „Legal Tech“ oder wenn der Rechtsstaat von Wahrsagern in Frage gestellt wird, https://rechtinnovativ.online/glaskugeljuristerei (abgerufen am 11.08.2019).

[20]  Vgl. zuletzt https://www.heise.de/newsticker/meldung/Wieder-eine-beA-Panne-Archive-ohne-Signatur-4491965.html und https://vowe.net/archives/018107.html (beide abgerufen am 11.08.2019) – Eine KI, die die Hiobsbotschaften über Ausfälle, Sicherheitslücken und Pannen des beA filtert, wäre freilich hilfreich.

[21]  S. https://de.wikipedia.org/wiki/WarGames_-_Kriegsspiele (abgerufen am 11.08.2019).

Titelbild: © Willyam via Adobe Stock, #149929818