I. Hintergrund

Das große europäische Projekt Künstliche Intelligenz (KI) begann im Jahr 2018 mit der sog. europäischen KI-Strategie^[1]. Im Jahr 2019 folgten Leitlinien der hochrangigen Expertengruppe für künstliche Intelligenz (HEG-KI) für sog. vertrauenswürdige KI.^[2] 2020 veröffentlichte die Europäische Kommission das sog. KI-Weißbuch^[3] mit dem formulierten Ziel, ein Ökosystem für Exzellenz und Vertrauen in KI zu schaffen. Darauf baut der Vorschlag des sog. „Artificial Intelligence Act“^[4] der Europäischen Kommission vom 21. April 2021 auf. Vorgestellt wurde dieser „weltweit einzigartige Rechtsrahmen für sog. Künstliche Intelligenz“^[5] in einer virtuellen Pressekonferenz durch Margrethe Vestager, die für das Ressort „Ein Europa für das digitale Zeitalter“ zuständige Exekutiv-Vizepräsidentin der Europäischen Kommission, und den für den Binnenmarkt zuständigen EU-Kommissar Thierry Breton.

II. Der Vorschlag

Das Ziel der Europäischen Kommission sei es, so Vestager, Chancen und Risiken neuer Technologien, die gemeinhin als KI bezeichnet werden, in Ausgleich zu bringen. In der Art und Weise, dass Europa in naher Zukunft ein attraktiver Standort für Innovation und Investition werden kann. Doch das darauf fußende sog. Ökosystem für Exzellenz benötige auch korrespondierendes Vertrauen des Einzelnen in KI, welches wiederum erfordert, die mit dem Einsatz von KI verbundenen Risiken bestmöglich abzumildern. KI, so betont Vestager, würde aufgrund der Vielgestaltigkeit der Einsatzmöglichkeiten nicht an Begrifflichkeiten festgemacht, sondern anhand der konkreten Anwendung und Funktionsweise bestimmt. Ergebe sich hieraus kein oder nur ein minimales Risiko, sei der Einsatz restriktionsfrei. Mit steigendem Risiko bzw. steigenden Auswirkungen auf den Einzelnen stiegen proportional die regulatorischen Anforderungen bis hin zum Verbot. Vier Risiko-Stufen hat die Europäische Kommission in einer sog. Risiko-Pyramide^[6] zusammengefasst: Dabei bilden diejenigen KI-Anwendungen mit keinem oder minimalem Risikopotential den breiten Fuß der Pyramide. Die verbotenen KI-Anwendungen mit dem höchstem, dem inakzeptablen Risiko die flächenärmste Spitze. Dazwischen finden sich KI-Anwendungen mit geringem und hohem Risiko. Dieser risikobasierte Ansatz soll mit einfachen Mitteln Klarheit und Rechtssicherheit schaffen.

Anbieter*innen, deren KI erhebliche Auswirkungen auf und damit hohe (z.B. gesundheitliche) Risiken für die Nutzer*innen birgt, sollen nach Vestager fünf strengen Vorgaben unterliegen. Sie benennt jeweils die Vorgabe

1. hoher Datenqualität, um z.B. diskriminierende Wertungen auszuschließen;
2. einer detaillierten Dokumentation zur Erklärung der Funktionsweise, z.B. gegenüber Behörden;
3. substanzieller Informationen für Nutzer*innen, um eine adäquate Nutzung sicherzustellen;
4. eines „proper level of human oversight“ vom Design bis zur Implementierung und
5. höchster „cybersecurity“ und Akkuratesse.

KI mit besonders hohem Risiko sei zu verbieten. Die Europäische Kommission hält deren Einsatz für inakzeptabel. Als Beispiel nennt Vestager ein Spielzeug, welches ein Kind durch Sprache manipulieren kann, z.B. etwas Gefährliches zu tun. Für solche Anwendungen sei in Europa kein Platz. Das Gleiche gelte für solche Anwendungen, die mit den europäischen Grundwerten nicht vereinbar seien. Vestager nennt hier explizit das sog. Social Scoring, d.h. das Ranking von Menschen gemäß ihrem Sozialverhalten.

Das Vertrauen in KI verlange natürlich auch die Durchsetzung der Vorgaben, so Vestager. Diese soll durch nationale Behörden erfolgen, deren Zuständigkeit sich nach dem jeweiligen Einsatz oder der jeweiligen Auswirkung von KI richtet. So seien bspw. bei Datenschutzfragen die Datenschutzbehörden zuständig, bei Fragen der Produktsicherheit die für die Marktüberwachung zuständigen Behörden. Bußgelder sollen bei vorgabewidrigem Verhalten von KI-Anbieter*innen bis zu 6% des gesamten weltweit erzielten Jahresumsatzes des vorangegangenen Geschäftsjahrs betragen.

Vestager greift anschließend das Thema biometrischer Identifizierungsysteme heraus. Diese könnten in verschiedene Risiko-Kategorien fallen. Eine biometrische Identifizierung des Einzelnen, z.B. bei der Durchgangskontrolle am Flughafen oder bei Vertragsschluss, sei unproblematisch und daher nicht im Fokus der Europäischen Kommission. Biometrische Identifizerungssysteme, welche gleichzeitig mehrere Personen erfassen können, seien hingegen hochriskant vor dem Hintergrund europäischer Grundwerte und Grundrechte. Vorgenannte strenge, im Einzelfall auch strengere Anforderungen seien einzuhalten. Soll die biometrische Identifizierung mehrerer Personen gleichzeitig in der Öffentlichkeit und zudem in Echtzeit erfolgen, gehöre eine solche Anwendung grundsätzlich verboten. In Europa sei kein Platz für Massenüberwachung. Eine Ausnahme unter engen Voraussetzungen sehe der Kommissionsvorschlag jedoch vor. Als Beispiel nennt Vestager ein besonderes Bedürfnis der Polizeibehörden zur Verwendung dieser Technologie, z.B. bei der Suche nach einem vermissten Kind.

Dieser Rechtsrahmen sei erforderlich, so Vestager, um Vertrauen in KI-Lösungen zu schaffen. Um ein „Global Leader“ zu werden, brauche es beste Rahmenbedingungen für Unternehmen, damit diese fortschrittliche KI-Systeme entwickeln können. Dafür sollen koordiniert finanzielle Mittel aus „Digital Europe“ und „Horizon Europe“-Programmen bereitgestellt werden. Und zwar dort, wo Europa sie am meisten benötigt. Vestager nennt hier das „High Performance Computing“ und das Schaffen von Testräumen zur Verbesserung von KI-Systemen. Doch auch Sektoren wie die Landwirtschaft hebt Vestager als „high impact sectors“ hervor: Hier sei der Nutzen des Einsatzes von sog. „critical AI“ von herausragender, weil für die Versorgung der Bevölkerung von besonderer Bedeutung. Um die Sicherheit und Gesundheit der Bedienenden zu gewährleisten, soll die Maschinenrichtlinie 2006/42/EG durch eine neue Maschinenverordnung^[7] ersetzt werden.

Vestager übergibt an Breton mit der Anmerkung, wie wichtig der Zeitfaktor bei der Regulierung sei. Europa mag kein „Leader“ in der ersten Digitalisierungswelle gewesen sein. Aber es habe das Potential, die nächste anzuleiten.

Breton, der sich kurz fasst, betont, ihm gefalle der Begriff „Künstliche Intelligenz“ nicht. Er sei unscharf, schließlich erfasse er eine Vielzahl von Anwendungen. Darüber hinaus stehe KI für vieles, v.a. Negatives, angeregt durch Volksglaube und Ängste, die von anthropomorphen Robotern in Kinofilmen ausgelöst würden. Doch Stigmatisierung und Verteufelung seien angesichts der Potentiale von KI nicht zielführend. Daher sei es wichtig, mit den von Vestager genannten Mitteln Vertrauen zu schaffen und Investitionen sowie die benötigten Infrastrukturen zur Verfügung zu stellen. Besonders betont er das Ziel der Europäischen Kommission, innerhalb der nächsten zehn Jahre den größten Markt an frei verfügbaren Industriedaten zu schaffen. Es gelte, so Breton, von anderen Ländern oder Kontinenten unabhängig zu sein.

Auf Nachfrage betont Breton, die Europäische Kommission wünsche sich eine schnelle Umsetzung ihrer Vorschläge. Einen konkreten Zeitplan gäbe es nicht. Man habe jedoch einen „großen Appetit“ beim Europäischen Parlament wahrgenommen. Vestager resümiert abschließend:

„Ich glaube, China und die USA werden bald nachziehen.“

III. Wie geht es weiter?

Die Vorschläge der Europäischen Kommission müssen nun vom Europäischen Parlament und von den Mitgliedstaaten angenommen werden. Nach Verabschiedung gelten die Verordnungen unmittelbar – einer Umsetzung in nationales Recht bedarf es nicht.

Was die am 21. April 2021 vorgestellten Vorschläge der Europäischen Kommission in der Praxis bedeuten, wird im Folgebeitrag anhand eines Beispiels aus dem Bereich Digital Health vertieft.

V

^[1]  https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:52018DC0237.

^[2]  https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:52019DC0168.

^[3]  https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/excellence-trust-artificial-intelligence_de.

^[4]  https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-european-approach-artificial-intelligence.

^[5]  Siehe auch „(…) the first ever legal framework on AI“, https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-european-approach-artificial-intelligence.

^[6]  https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/excellence-trust-artificial-intelligence_de.

^[7]  „Proposal for a Regulation of the European Parliament and of the Council on machinery products“ vom 21. April 2021, https://ec.europa.eu/docsroom/documents/45508.