I. Das Buch

Das Rechtshandbuch Artificial Intelligence und Machine Learning, herausgegeben von Dr. Markus Kaulartz und Tom Braegelmann, LL.M. (Cardozo) ist 2020 im Verlag C.H. Beck oHG/Vahlen erschienen. Für den Preis von 169,00 EUR bietet es der Leserin und dem Leser eine breitgefächerte Sammlung von Beiträgen, verfasst von Autorinnen und Autoren^[1] mit verschiedenen beruflichen Hintergründen. Den Schwerpunkt bilden die Rechtsanwälte. Einige Kanzleien sind durch mehrere Berufsträger vertreten. Das Buch soll, gemäß Vorwort, „erste, primär rechtswissenschaftliche Antworten auf die aktuellen Herausforderungen der KI in der Rechtspraxis geben“ und dabei „aus interdisziplinärer Sicht Neuland in der digitalen Welt ‚unter den Pflug nehmen‘“. Es folgt auf das Rechtshandbuch Smart Contracts (2019), herausgegeben von und erschienen in derselben Verbindung zwischen Herausgebern und Verlag, teilweise auch mit denselben Autoren.

II. Zum Vorwort

Das Vorwort spricht Prof. Dr. Michael Lehmann.

„KI wird die Digitalisierung in vielen weiteren Bereichen unseres täglichen Lebens vorantreiben; aber wir sollten mit dem Historiker Y. N. Harari (21 Lektionen für das 21. Jahrhundert, 2018) wachsam sein, damit das spezifisch Menschliche nicht durch die Techniken der Informatik vergewaltigt oder gar verdrängt wird.“

Eine begriffliche Metaphorik, die Fragen aufwirft und im Vorwort eines wissenschaftlichen Buches sehr überrascht. Auf der zweiten Seite eines Rechtshandbuchs zum Thema Künstliche Intelligenz von Vergewaltigung zu sprechen, ist nicht nur in der Sache verfehlt. Lehmanns Worte zeugen zudem von Unkenntnis. Sie haben gar etwas von der Ankündigung einer feindlichen Invasion der Roboter. Die innewohnende Aussage als mutmaßliches Zitat Yuval Noah Hararis ist für ein Rechtshandbuch unpassend und nicht mit einer Quellenangabe belegt. Yuval Noah Harari dürfte nie formuliert haben, dass von „Techniken der Informatik“ derartige (Vergewaltigungs-)Gefahr ausgeht. Er wird auf der Website des Verlags C.H. Beck wie folgt zitiert:

„Als Historiker, der Interesse an der Zukunft hat, habe ich eine Sorge: dass nicht künstliche Intelligenz die größte Gefahr für die Menschheit darstellt, sondern natürliche Dummheit.“^[2]

Lehmann vergleicht auch über diese fragwürdige Zitatweise hinaus Ungleiches und stellt in lehre- sowie geschichtsverachtender Weise Zusammenhänge her, die es nicht gibt. So unterstellt er Jeremy Bentham und John Stuart Mill, die sich seit ca. 200 Jahren nicht mehr gegen falsche Unterstellungen wehren können, sie würden die Tötung von Menschen unter Umständen als größtes Glück bewerten, ohne dies konkret zu belegen.

Dem Vorwort gemäß lässt das Buch auch in Bezug auf die Qualität jeden Leserwunsch offen:

 „KI ist im Ergebnis nur eine vor allem mit Big Data verbesserte Software“.

Hier wird bereits zu Beginn des Werkes ein erheblicher Mangel an notwendigem Grundlagenwissen deutlich. Dies wirft mithin die Anschlussfrage auf, wie eine rechtliche Bewertung stattfinden soll, wenn wesentliche Grundvariablen der gegenständlichen Technologien und Parameter der behandelten Sachverhalte unbekannt sind?

III.  Aufbau und Gestaltung

Bei Durchsicht des Inhaltsverzeichnisses fällt zunächst auf, dass das Buch an nicht unerheblichen Aufbaufehlern leidet: Zwar werden begriffliche (Kapitel 1, Kaulartz/Braegelmann) und technische Grundlagen (Kapitel 2, diverse Autoren) in eine Art „Allgemeinem Teil“ vorgezogen, was zunächst den Erwartungen entspricht, im Rahmen der technischen Kapitelteile gewinnt man dann jedoch schnell den Eindruck von Autoren „lost in translation“: Ein schlüssiger Aufbau ist nicht erkennbar. Die aufgelisteten Inhalte erfüllen nicht die Erwartungen des subsumtionsfreudigen Rechtspraktikers. Auch das Stichwortverzeichnis ist keine große Hilfe. So tauchen hier viele Begriffe doppelt auf: Beim zufälligen Aufschlagen des Sachregisters auf den Seiten 688/689 springen die Dopplungen „Haftpflichtversicherung“ und „Haftungsadressat“ ins Auge. Dies erweckt beim Lesen den Eindruck des unfertigen Zustands des Werkes.

Der Einstieg in den juristischen Teil erfolgt sodann mit Kapitel 3 (Heinickel/Döveling) zu Europäischen Perspektiven, die allerdings Ethik- statt Rechtsfragen zum Schwerpunkt haben. Auf den Exkurs folgen im nächsten Kapitel 4.1 (Reusch) Ausführungen zur deliktischen Haftung nach § 823 Abs. 1 BGB (III.). Das Produkthaftungsgesetz (ProdHaftG), welches auf einer europäischen Richtlinie basiert, folgt erst hiernach (IV.). Dies wirkt systematisch fragwürdig, geht die deliktische Haftung doch weiter als die nach dem ProdHaftG. Nach der Diskussion von deliktsrechtlichen Rechtsaussichten (Kapitel 4.2, Wöbbeking) mündet das Buch in mehrere Wiederholungen erkennen lassende Beiträge zum Vertragsrecht (Kapitel 5 und 6, diverse Autoren). Die Reihenfolge der Bearbeitung von Anspruchsgrundlagen irritiert erneut, da die vertraglichen Ansprüche grundsätzlich vor deliktischen Ansprüchen zu prüfen wären. Ausführungen zu Allgemeinen Geschäftsbedingungen, AGB (Kapitel 5.2, Behrendt/von Enzberg), folgen vor speziellen Outsourcing-Vertragsfragen (Kapitel 5.3, Ammann), bevor in Kapitel 6 dann die sog. E-Person (Kapitel 6.1, Riehm) und Rechtsgeschäftslehre samt Fragen zu Willenserklärungen als Basis von AGB und sonstigen Verträgen (Kapitel 6.2, Pieper, und 6.3, Savary/Reuter) besprochen werden. In Kapitel 7 befassen sich sodann drei Autorenbeiträge im Kern mit denselben Rechtsfragen des Immaterialgüterrechtsschutzes. Kapitel 8 umfasst auf knapp über 200 Seiten ganze elf (!) Unterkapitel und Autorenbeiträge zum (europäischen) Datenschutzrecht, wobei auch hier kapitelintern zahlreiche Wiederholungen auffallen. Mit Kapitel 9 (Möslein) folgt ein Beitrag zu aktienrechtlicher Leistungsverantwortung beim Einsatz von KI und in Kapitel 10 (Leeb/Schmidt-Kessel) ein Verbraucherschutzbeitrag, der, wie schon der Vorhergehende, deplatziert erscheint. In Kapitel 11 (Hinz) folgt ein Beitrag zu Diskriminierungen durch KI im arbeitsrechtlichen Bereich. Kapitel 12 (Peters) knüpft mit Ausführungen zu strafrechtlicher Verantwortlichkeit und KI als Tatmittel an. Kapitel 13 behandelt finanzaufsichtsrechtliche Fragen, zunächst rund um § 130 OWiG (Kapitel 13.1, von Buttlar). Ein wenig zusammengewürfelt wirkt da die direkte Verbindung mit Ausführungen zu den Chancen von Robo Advice, Krypto-Token und RegTech in Kapitel 13.2 (Voß) sowie die Fortsetzung mit Kapitel 14 (Rühl und Keis) samt (zivilrechtlichen) Streitbeilegungsbeiträgen.

Das Buch folgt insgesamt keiner klaren Linie. Der inhaltliche Schwerpunkt liegt erkennbar nicht bei „Artificial Intelligence und Machine Learning“. Das Buch hat sogar zwei Schwerpunkte: Der eine liegt mit knapp 200 Seiten auf dem Thema Produkthaftung. Den anderen Schwerpunkt, mit weiteren knapp 200 Seiten, auf dem Thema Datenschutz. Von 679 Buchseiten wären gut 2/3 besser aufgehoben als (günstigere) Einzelwerke, um Praktikern schnelle und vor allem zielgerichtete Antworten auf entstehende Praxisfragen zu geben.

Besonders positiv hervorzuhebende Beiträge wie der von Nägele/Apel (Kapitel 7.1), der das Ziel eines Rechtshandbuchbeitrags für Praktiker auffällig gut verinnerlicht und umsetzt, gehen unter. Kapitel 7.1 enthält kurze, rechtswissenschaftlich genaue, auf den Punkt formulierte Abschnitte, die ergänzt werden durch hilfreiche, sich optisch abgrenzende Praxis-Hinweise. Ebenfalls erfreulich praxisfreundlich sind die abschließenden Zusammenfassungen und Übersichten von Paal (Kapitel 8.7) sowie von von Buttlar (Kapitel 13.1). Diese Beiträge (und noch ein paar wenige mehr) zeichnet vor allem eines aus: Sie schaffen es, ihr Wissen angenehm lesbar aufzubereiten. Das Gesamtleseerlebnis vermögen sie jedoch nicht zu verbessern.

IV. Herangehensweise an das Titelthema

Leider fehlt es dem hier besprochenen Fachbuch als Rechtshandbuch an wesenswichtigen Eigenschaften. So wirkt schon der Buchtitel „Artificial Intelligence und Machine Learning“ verfehlt und irreführend. Der Einführungsteil der Herausgeber (Kapitel 1) vermag es nicht, den Leser an das richtige Verhältnis beider Begriffe zueinander heranzuführen. Machine Learning (ML) ist ein Teilgebiet von Artificial Intelligence (AI). Sie stehen also nicht gleichrangig nebeneinander. Herausgeber Kaulartz erkennt dies sogar, allerdings erst zu Beginn von Kapitel 2.2, Rn 1. Dabei beschränkt er sich auf den Verweis auf Kapitel 2.1, Rn 14 ff., wo dieses Verhältnis jedoch nicht erläutert wird.

Kapitel 1 hat im Hinblick auf die historischen und vor allem technisch-wissenschaftlichen Grundlagen mehr Potential als hier genutzt wurde. Beschreibungen werden mißverständlich als Definitionen dargeboten. Notwendige Quellen fehlen. Die Begriffe der sog. schwachen und starken KI werden als eigene Wortkreationen dargestellt (Kapitel 1, Rn 10). Andere Kapitel nehmen hierauf wiederum Bezug, vermögen auf diese Weise jedoch keine wissenschaftliche Tiefe zu schaffen. Von einer „KI-Industrie“ ist (in Kapitel 1, Rn 24) gar die Rede, wobei unklar bleibt, welche hier gemeint ist. Bedingt durch seine fehlende Forschungstiefe verliert das Buch den Blick für die (reale) Gegenwart sowie den Stand der Technik und Wissenschaft.

Das Buch steht tatsächlich auf dem Forschungsstand von vor etwa 20 Jahren: Bevor Deep Learning Machine Learning zu neuem Glanz verhalf. Um im Mittel dennoch in das Jahr 2020 zu gelangen, bedient es sich Hollywood-beeinflusster Gedankenspiele, wie etwa die Vorstellung eines übermenschlichen Finanzanlage-Roboters, der aufgrund von (menschlicher) Gier Züge entgleisen lässt (Kapitel 4.2, Rn 5, Wöbbeking). Wahrscheinlich wird nur deshalb in Kapitel 6.1 die Rechtsfähigkeit von (zu menschlichen Emotionen fähigen) KI-Systemen diskutiert.

V. Technische Grundlagen

Grundsätzlich positiv hervorzuheben sind die „vor die Klammer gezogenen“ Beiträge von Fachautoren aus dem Bereich der Informatik in Kapitel 2. Trotz teilweise sehr guter Gedankengänge schaffen diese jedoch unnötig Verwirrung für den Leser, der ein Rechtshandbuch sucht und dem die Welt der Informatik möglicherweise fremd ist. So wird im Rahmen der Ausführungen zu Teilbereichen von Artificial Intelligence beispielsweise grundsätzlich richtig unterschieden zwischen Mustererkennung und Maschinellem Lernen (Kapitel 2.1, Rn 6, Stiemerling). Weil aber deren (historische) Zusammenhänge nicht dargestellt werden, entsteht ein Widerspruch innerhalb desselben Kapitels, vgl. Rn 14:

„Kernaufgabe des maschinellen Lernens ist die Erkennung von Bedeutungszusammenhängen in Datenbeständen“, i.e. Mustern.

Ebenso ungenau ist die Beschreibung in Kapitel 2.4, in dem es unter Rn 3 heißt:

„Das Versprechen von KI ist, dass maschinelle Lern-Algorithmen wie z.B. Deep Learning automatisch Muster erkennen (…)“.

Weiterhin unerwähnt bleibt hier, dass Deep Learning ein Teilgebiet von Machine Learning ist. An dieser unsauberen Darstellung leidet bereits der Buchtitel, der, wie bereits angeführt, das Verhältnis von AI und ML zueinander unzureichend darstellt. Kapitel 2.2 und 2.3 dazwischen erfüllen in der Folge schlicht keinen Zweck: Wenn schon die Grundlagen nicht (richtig) erklärt werden, helfen dem Leser keine mathematischen Formeln.

Als problematisch erweist sich in Kapitel 2.1 (Rn 20) die von Diplom-Informatiker Stiemerling mit „Zusamenhängen“ nicht vorgenommene Unterscheidung von Kausalitäten und Korrelationen. Hinz, Rechtsanwältin und Fachanwältin für Arbeitsrecht, weist in Kapitel 11 (Rn 74) auf das Problem derer Gleichsetzung hin und damit den Informatiker auf den Platz. Leider kommt ihr wichtiger Hinweis (und Beitrag) erst viel zu spät, nämlich am Ende des Buches.

In Kapitel 2.5 (Schröder) werden Amazons Alexa oder (sic!) Chatbots irritierenderweise als Imitatoren menschlichen Verhaltens bezeichnet (Kapitel 2.5, Rn 4). Das Computerprogramm ELIZA, das tatsächlich keine sog. KI ist, wird darüber hinaus als Beispiel für KI angeführt (Kapitel 2.5, Rn 1). Die fehlenden Fakten bemerkt wahrscheinlich nur, wer sich mit Joseph Weizenbaum, dem von ihm entwickelten Programm ELIZA und der Publikation „ELIZA — a computer program for the study of natural language communication between man and machine“^[3] befasst hat. Der Autor hat dies erkennbar nicht. Dementsprechend fehlt die Quellenangabe, die mit dieser Rezension nachgereicht werden soll.

Anstelle des Kapitels 2 sei dem Leser, der eine solide Wissensbasis für die rechtliche Beurteilung sog. KI sucht, die Lektüre oder das Anhören von Zweigs „Ein Algorithmus hat kein Taktgefühl“ (Heyne, 2019) empfohlen. Zweig bietet darin auch eine für jedermann gut verständliche Erklärung der Begriffe Modell und Modellierung, die bei Kaulartz in Kapitel 2.2 leider ausbleibt.

VI. Rechtlicher Inhalt

Grundsätzlich kann festgehalten werden, dass die juristischen Buchbeiträge per se die Mindesterwartungen an ihren jeweiligen Inhalt erfüllen. Das ist jedoch nicht schwer, weil das technologieneutrale Rad des Rechts für sog. KI nicht neu erfunden, sondern lediglich richtig angebracht werden muss. Dafür bietet das Buch, wie bereits ausgeführt, jedoch nicht das benötigte Grundlagenwissen. Die Verknüpfung von Technologie und Recht gelingt in der Folge nicht. Lediglich wenige Beiträge stechen durch eine in sich geschlossene, sauber ausgearbeitete Verquickung ohne Buzzwords und Anflüge von Futurismus hervor. Neben den bereits positiv Herausgehobenen ist an dieser Stelle unbedingt noch das lesenswerte Kapitel 12 (Peters) zu erwähnen, das als strafrechtlicher Beitrag zwischen den Splitterbeiträgen Verbraucherschutzrecht (Kapitel 10, Leeb/Schmidt-Kessler), Arbeitsrecht (Kapitel 11, Hinz) und zivilrechtliche Streitbeilegung (Kapitel 14, Rühl und Kreis) nicht deutlich genug zur Geltung kommt. Man vermutet zwischen zivilrechtlichen Beiträgen schlicht keine strafrechtliche Ausarbeitung. Der bereits monierte mangelhafte Aufbau des Buches tut vielen Autoren und ihren Leistungen Unrecht. Andere wiederum vermögen mit ihrer Leistung trotz guter Positionierung im Buch nicht zu überzeugen.

1. Kapitel 4.1: Produkthaftung

Das knapp 200 Seiten umfassende Kapitel 4.1 zur Produkthaftung übernimmt Reusch. Eine sich schrittweise entwickelnde Darstellung zum Technologie und Recht facetten- sowie spannungsreich verquickenden Produkthaftungsrecht ist hier jedoch nicht entstanden. Der Autor lässt den Leser nach seinen ersten zwei Sätzen (Rn 1) bereits verwirrt zurück:

„Künstliche Intelligenz und Produkthaftung erfordern an vielen Stellen eine genauere Betrachtung und Definition. Hierzu gehört in einem ersten Schritt die Entscheidung, auch nicht-cyber-physische Effekte in der Theorie produkthaftungsrechtlich betrachten zu wollen, auch wenn zunächst keine Schädigung für Eigentum, Leib und Leben durch eine rein virtuelle Instanz vorstellbar scheint.“

Auch eine Abkürzung über die letzten Worte des Kapitels hilft dem interessierten Leser nicht weiter, welches auf Seite 153, Rn 371 mit folgender Feststellung schließt:

„Insgesamt bleibt den Unternehmen nur, sich auf die möglichen Risiken und die KI im Rahmen ihrer Tätigkeiten zu besinnen und sich tiefergehend damit zu befassen, um dann eine geeignete Absicherung im Verantwortungsfalle erreichen zu können.“

Für den rechtskundigen Leser stellt sich die schon bei Betrachtung des Inhaltsverzeichnisses aufgekommene Frage, warum die verschuldensabhängige, betragsmäßig unbegrenzte deliktische Produzentenhaftung vor der verschuldensunabhängigen Produkthaftung nach dem ProdHaftG mit seinen Haftungshöchstbeträgen geprüft wird. Das Kapitel Produkthaftung wirkt auch deshalb aus mehreren Publikationen des Autors zusammengesetzt. Die Gestaltung macht das Auffinden von Antworten zu spezifischen Fragen sehr schwer. Das ist schade, weil auch kluge und wichtige Aussagen enthalten sind. Nicht zuletzt braucht ein tragendes Kapitel eines Rechtshandbuchs keine Buzzwords wie „Seed AI“ und „Supercode“ (Rn 74), die vom Autor nicht mit tauglichen Quellen unterlegt werden.

2. Die Kapitel zu Verträgen

Die Kapitel zu Verträgen hätten aus verschiedenen Gründen auf ein Kapitel und die Beiträge von Pieper (allgemeine Rechtsgeschäftslehre, Kapitel 6.2), Behrendt/von Enzberg (AGB, Kapitel 5.2), Ammann (Outsourcing als spezieller Vertrag, Kapitel 5.3) und Auer-Reinsdorff (Hinterlegung/Datentreuhand als spezielle Verträge, Kapitel 8.10) reduziert werden können. Die Diskussion der Rechtsfähigkeit von KI-Systemen durch Riehm (Kapitel 6.1) ist in einem im Jahr 2020 veröffentlichten Rechtshandbuch für Praktiker fehl am Platz. Die sog. elektronische Person wird nicht kommen, dies wurde auf europäischer wie nationaler Ebene explizit ausgeschlossen – worauf Riehm immerhin hinweist (vgl. Rn 36). Auch die anregenden Gedankenspiele in Kapitel 5.1 (Braegelmann) gehören eher nicht in ein Rechtshandbuch. Das Non-Disclosure-Agreement (NDA) wird zumindest hier nicht für das richtige Instrument gehalten, um langfristige Informationsaustausch- und Nutzungsbeziehungen zu regeln und zu pflegen.

Der AGB-Abschnitt in Kapitel 5.2 (Behrendt/von Enzberg) enttäuscht durch unsauberes wissenschaftliches Arbeiten beim Thema Vertragsschluss unter Einsatz von sog. KI (Rn 18 ff.): Hiernach können Softwareagenten für autonome Vertragsschlüsse eingesetzt werden (Rn 19). Verwiesen wird dabei in den Fußnoten auf den eine Rechtsfähigkeit der KI-Systeme ablehnenden Riehm sowie den Vertragsschluss durch selbige grundsätzlich ausschließenden Pieper. Auf den Warenautomat wird zwar verwiesen, die in diesem Zusammenhang zum Tragen kommende sog. antizipierte Willenserklärung taucht jedoch an keiner Stelle auf. In Rn 33 sprechen die Autoren Behrendt/von Enzberg von einer „Ermächtigung“ des Softwareagenten zum Vertragsabschluss, während unter Rn 29 f. die Stellvertretung noch abgelehnt wird. Die Definition von Allgemeinen Geschäftsbedingungen (AGB) folgt erst kurz vor Abschnittsende (Rn 37 von 51).

3. Kapitel 8: Datenschutz

Der Auftakt des Schwerpunktkapitels „Datenschutzrecht“ verwirrt nicht weniger. Es beginnt mit dem „Trainieren von KI-Modellen“ (Kapitel 8.1, Valkanova). Die Grundlagen werden nicht vorgezogen, sondern in den folgenden 10 Unterkapiteln immer wieder neu aufgegriffen und definiert. Gerade wichtige (und gute) Grundlagenbeiträge wie der von Kipker/Müller wirken versteckt, bzw. sind wie die Kapitel 8.1 (Valkanova) und 8.9 (Kaulartz) unsystematischerweise weit voneinander entfernt. Wenn schon nicht mit den (Rechts-) Grundlagen begonnen wird, so sollte doch der Abschnitt 8.11 (Brink/Bäßler/Groß-Karreis), die Sicht der Datenschutzbehörden als Leuchtturm der Datenschutzpraxis, ganz nach vorne gezogen werden. Denn diese Autoren schaffen es, die wesentlichen Datenschutzanforderungen auf den Punkt zu bringen. Jene hätten dann im Anschluss, z.B. aus der Sicht des Rechtsanwalts bewertet, in den Kontext der Beratung von Mandanten und Vertretung gegenüber den Behörden gesetzt und weitergedacht werden können. Doch diese praktische Rundumschau bleibt aus.

VII. Praxisnutzen

Das Rechtshandbuch Artificial Intelligence und Machine Learning beinhaltet ein paar sehr empfehlenswerte Beiträge. Innovativ und praktisch ist das Buch jedoch nicht. Es geht den technischen Grundlagen aus dem Weg, verwirrt durch widersprüchliche Darstellungen und verliert sich in Gedankenspielen über eine nicht näher bestimmte, fiktive „KI“. Viele Beiträge wirken unter Zeitdruck, ohne einschlägige verfügbare Literatur und ohne Lektorat heruntergeschrieben. Dem Antworten suchenden Leser werden hier von den Herausgebern und Autoren die Fragen gestellt, allen voran: Was ist eigentlich KI? Die Autoren und Herausgeber hätten das Potential der Unschärfe des KI-Begriffs, so man davon überhaupt sprechen kann, viel besser ausschöpfen können. So sind z.B. irreführende geschäftliche Handlungen (UWG) nicht Gegenstand des Buches.

Der Praxisnutzen des Buchs als Ganzes ist daher gering. Der Preis steht in keinem Verhältnis zum gebotenen Inhalt. Diese Einschätzung vermögen auch die bereits hervorgehobenenen Schätze dieses Buches nicht zu ändern.

VIII. Fazit

Mit dem Rechtshandbuch Artificial Intelligence und Machine Learning möchten die Herausgeber, wie schon mit dem Vorgänger Rechtshandbuch Smart Contracts (2019), weniger praktische Hilfestellung bieten als diskutieren und in die Zukunft blicken. Letzteres allerdings nach einer Reise in die Vergangenheit. Die vielen fehlenden Quellenangaben stehen dem Titel Rechtshandbuch entgegen. Ein Rechtshandbuch zu „Künstlicher Intelligenz“ hätte viel Potential; es wurde jedoch in diesem Werk weder erkannt, noch ausgeschöpft.

Und so wird die Rezension mit den am Ende doch überraschend treffenden Worten Lehmanns auf Seite 1 des Vorworts geschlossen:

 „Sie haben (…) sich um die Erklärung (…) der realen bzw. digitalen Welt bemüht.“

V

V

^[1]  Im Folgenden wird zugunsten des Leseflusses auf geschlechtsunterscheidende Sprache verzichtet. Jegliche Personenbezeichnungen meinen Menschen jeden Geschlechts.

^[2]  https://www.chbeck.de/buehnen/yuval-noah-harari-21-lektionen-fuer-das-21-jahrhundert/ (zuletzt abgerufen am 14. Juni 2020).

^[3]  In Communications of the ACM January 1966 https://doi.org/10.1145/365153.365168.