„Die geforderte Nachvollziehbarkeit spannt sich also, partiell mal straffer, mal lockerer, durch und über einen großen, mehrdimensionalen Raum von möglichen Anwendungen künstlich intelligenter Systeme, mit den verschiedenen Horizonten und damit Interessen der Nutzer, Anbieter, Hersteller und Behörden. Dieser mehrdimensionale Raum muss zum einen öffentlich-rechtlich, etwa im Hinblick auf die Produktsicherheit, aber auch im Rahmen der vertraglichen Risikoverteilung und deliktischen Produzentenhaftung abgesteckt sein. Jeder Einzelfall kann natürlich nicht geregelt werden. Nicht alles kann überwacht und überprüft werden. Gesetze müssen zudem, um ein Mindestmaß an Flexibilität bieten zu können, grundsätzlich technologieneutral sein. Ein Gesetz darf weder seine Umgehung durch Anwendung anderer Technologien ermöglichen, noch eine (auch-)nützliche Technologie verbieten. Erklärbar, transparent und nachvollziehbar macht man die Entscheidungen künstlich intelligenter Systeme als Gesetzgeber in diesem nicht vollumfänglich begrenzbaren Bereich dann im Wesentlichen durch eine klare, die beteiligten Interessen bestmöglich ausgleichende Verteilung von Rechten und Pflichten sowie Vorteilen und Nachteilen.“

Otto, Ri 2018, 136 (139)