RA Mario Pofahl , Partner / RA Dr. Maximilian Mann, Linklaters
Für das erste Quartal 2021 wird ein Regelungsentwurf der Europäischen Kommission zur Regulierung von künstlicher Intelligenz („KI“) erwartet. Einen ersten Eindruck von der geplanten Regulierung geben aktuelle Veröffentlichungen der europäischen Institutionen. Während das Europäische Parlament am 21.10.2020 den – für die Europäische Kommission nicht bindenden – Entwurf einer Verordnung zur zivilrechtlichen Haftung beim Einsatz von KI („KI-VO-E“) veröffentlichte, legte die Kommission ihre Vorstellungen von einem KI-Regulierungsregime bereits im Februar 2020 in einem Weißbuch dar.
Das Weißbuch
Das Weißbuch sieht insbesondere vor, Betreibern von Hochrisiko-KI-Anwendungen (Anwendungen, bei denen der betreffende Sektor und die beabsichtigte Verwendung erhebliche Risiken beinhalten) Dokumentations- und Informationspflichten aufzuerlegen und einen Regulierungsrahmen für die zum Training des KI-Systems verwendeten Daten zu schaffen. Darüber hinaus ist beabsichtigt, die private Rechtsdurchsetzung im KI-Bereich durch Beweislastregeln zu vereinfachen und den Geltungsbereich der EU-Produktsicherheitsvorschriften auf Softwareanwendungen zu erweitern. Zudem ist nach derzeitigem Stand auch denkbar, dass ein Prüfverfahren eingeführt wird, das vor der Verwendung eines Hochrisiko-KI-Systems zu durchlaufen ist.
Der KI-VO-E des Parlaments
Der KI-VO-E zielt auf die Vereinfachung der privaten Rechtsdurchsetzung und sieht dabei ein gestuftes Haftungsregime vor:
- Betreiber von Hochrisiko-KI-Anwendungen sollen einer Gefährdungshaftung unterliegen und somit verschuldensunabhängig für einen Schaden einstehen, der durch KI-Anwendungen verursacht wird, die von ihnen betrieben werden (Art. 4 Abs. 1 KI-VO-E). Zudem sollen die Betreiber solcher KI-Anwendungen verpflichtet werden, eine Haftpflichtversicherung abzuschließen (Art. 4 Abs. 4 KI-VO-E).
- Betreiber anderer KI-Anwendungen soll lediglich eine Verschuldenshaftung treffen, wobei dem Geschädigten eine Verschuldensvermutung zugutekommt (Art. 8 Abs. 1, 2 KI-VO-E). Darüber hinaus kann der Betreiber einer nicht hochriskanten KI-Anwendung allerdings auch ohne Verschulden haftbar sein, wenn ein nicht zu ermittelnder Dritter das System verändert und es zu einem Schaden kommt (Art. 8 Abs. 3 KI-VO-E). Für den Fall eines „Hacks“ des Systems dürfte somit faktisch eine Gefährdungshaftung des Betreibers bestehen.
Die Definition der Betreibereigenschaft im Sinne der KI-VO-E ist relativ weit gefasst. Betreiber einer KI-Anwendung sollen nach dem Verordnungsentwurf alle natürlichen oder juristischen Personen sein, die ein gewisses Maß von Kontrolle über das KI-System ausüben (Art. 3(d–f) KI-VO-E).
Bewertung und Ausblick
Einerseits ist die Möglichkeit einer effektiven Rechtsdurchsetzung wichtig, um das Vertrauen in KI-Anwendungen zu stärken. Vor dem Hintergrund, dass europäische Unternehmen im Wettbewerb mit amerikanischen und chinesischen Konkurrenten bestehen müssen, darf eine europäische KI-Regulierung andererseits aber keine übermäßigen Innovationshindernisse schaffen. Die Einführung eines Zulassungsverfahrens für KI-Anwendungen ist daher abzulehnen, denn die hierdurch entstehende Verzögerung bei der KI-Verwendung kann ein echter Wettbewerbsnachteil für europäische Tech-Unternehmen sein. Zudem könnte die derzeit im KI-VO-E des Parlaments enthaltene weite Definition der Betreibereigenschaft Unternehmen zu übermäßiger Vorsicht anhalten, was ebenfalls problematisch ist.
Letztlich wird es für Entscheidungsträger und KI-Verwender unerlässlich sein, die weitere Entwicklung des Regulierungsvorhabens aufmerksam zu verfolgen und gegebenenfalls wirksame Vorkehrungen zur Vermeidung möglicher Haftungsrisiken zu treffen. In ihrem Sinne bleibt zu hoffen, dass die europäische Regulierung einen angemessenen Ausgleich zwischen Risikobeschränkung und Innovationsspielraum findet, damit Unternehmen das erhebliche Potenzial des Einsatzes von KI voll ausschöpfen können.