Entscheidungen, die durch Systeme sog. K\u00fcnstlicher Intelligenz (KI) gepr\u00e4gt werden, kommen in Unternehmen immer \u00f6fter vor: Kundenscoring, Bewerberauswahl, Produktionsteuerung, Compliancefragen usw. Nicht selten bleibt im Dunkeln, warum die KI so und nicht anders befunden hat. Die KI-Software ist eben nicht wie herk\u00f6mmliche Programme linear angelegt (\u201ewenn – dann\u201c), sondern agiert in gewissem Ma\u00dfe selbst\u00e4ndig. Sie verzeichnet den Input (Daten) und den Output (Ergebnisse), aber die dazwischen liegenden \u201eneuronalen Netze\u201c der Entscheidungsfindung sind nicht offenkundig. Daher ist in der gesellschaftsrechtlichen Fachliteratur bezweifelt worden, dass die Gesch\u00e4ftsleitung eine solche \u201eBlack Box\u201c einsetzen darf. Der Vorstand sei etwa nicht in der Lage, dem Aufsichtsrat \u00fcber die KI-gesteuerten Gesch\u00e4ftsvorf\u00e4lle umf\u00e4nglich zu berichten.<\/p>\n
Das Black-Box-Problem ist in der KI-Forschung erkannt worden. Die Fraunhofer-Gesellschaft<\/a> hat die Nachvollziehbarkeit sogar als das wichtigste Forschungsziel bezeichnet (\u201eexplainable AI\u201c). Erkl\u00e4rbarkeit bedeutet, dass f\u00fcr eine konkrete KI-Entscheidung die wesentlichen Einflussfaktoren aufgezeigt werden k\u00f6nnen. Ferner wird dar\u00fcber nachgedacht, eine Kontroll-KI einzusetzen, welche die Entscheider-KI \u00fcberpr\u00fcft. Doch wer kontrolliert die Kontrolle?<\/p>\n Die technischen Entwicklungen werden voranschreiten, doch soll bis dahin \u2013 den Bedenkentr\u00e4gern folgend \u2013der Unternehmenseinsatz von KI-Programmen aufgeschoben werden? Das w\u00e4re eine praktisch unhaltbare Folgerung, die auch rechtlich nicht geboten ist. Die Verantwortung der Leitung liegt darin, auf Grund angemessener Information zum Wohle des Unternehmens zu handeln. Angemessen bedeutet hier, dass die grundlegende Wirkweise der KI bekannt ist, nicht aber das technische Detail der Umsetzung. Wenn der Vorstand f\u00fcr Ma\u00dfnahmen der Gesch\u00e4ftsf\u00fchrung<\/em> auf k\u00fcnstliche Intelligenz setzt, so ist dies im Grundsatz nicht anders zu bewerten als der Einsatz nat\u00fcrlicher Intelligenz. Die Gedanken des Mitarbeiters sind frei, sein Gehirn opak. Es kommt darauf an, ob der Mitarbeiter sorgf\u00e4ltig ausgesucht und hinreichend beaufsichtigt wird, den richtigen Platz in der Unternehmensorganisation hat. Die Leitung ist f\u00fcr die Struktur zust\u00e4ndig, in der die Akteure sich bewegen. Ob Menschen oder eine KI innerhalb dieses Rasters agieren, ist allein mit Blick auf die Funktion, Arbeitsergebnisse zu produzieren, einerlei.<\/p>\n Bei wichtigen Gesch\u00e4ftsentscheidungen, die keinen Routinen folgen, werden auch Begr\u00fcndungen erwartet. Indessen wird die \u00e4u\u00dfere Begr\u00fcndung bei einem Menschen vielfach von der inneren Herstellung, dem Gedankenprozess, abweichen. \u00c4hnlich l\u00e4ge es bei einer KI, der man eine Darstellung der Herstellung programmiert \u2013 auch diese Darstellung w\u00e4re das Produkt des inneren Prozessierens, der selbst (bislang) verschlossen bleibt. Daher sollte man von diesen \u00e4u\u00dferen Herleitungen nicht zu viel erwarten.<\/p>\n Eine andere Beurteilung k\u00f6nnte geboten sein, wenn die KI nicht nur f\u00fcr den laufenden Gesch\u00e4ftsbetrieb, sondern f\u00fcr origin\u00e4re Leitungsentscheidungen<\/em> genutzt<\/a> wird. Ob eine M&A-Transaktion angegangen oder eine grundlegende Finanzierungsma\u00dfnahme ins Werk gesetzt wird, entscheiden Vorstand und ggf. Aufsichtsrat. Wenn sich die Leitungen dabei durch ein KI-System beraten lassen, also (technischen) Expertenrat einholen, wird man sich an die Ision-Rechtsprechung des BGH erinnern (DB 2011, 2484). Mit Blick auf den Rechtsrat bei einer Kapitalfrage verlangte der II. Zivilsenat nach einem unabh\u00e4ngigen qualifizierten Berufstr\u00e4ger, dessen Beurteilung durch den Vorstand einer sorgf\u00e4ltigen Plausibilit\u00e4tskontrolle zu unterziehen ist. Die 1:1-\u00dcbertragung dieser Grunds\u00e4tze auf eine KI-Vorstandsberatung d\u00fcrfte schwerlich gelingen. Hier steht die Diskussion nach ganz am Anfang, nicht zuletzt, weil es solche auf Leitungsebene eingesetzten KI-Systeme soweit ersichtlich in Deutschland noch nicht gibt, also praktisches Material fehlt. Soviel d\u00fcrfte aber schon klar sein: Um das Business Judgement Rule-Element der angemessenen Information f\u00fcr den Vorstand zu aktivieren, ist eine Herleitung des KI-Vorschlags erforderlich.<\/p>\n","protected":false},"excerpt":{"rendered":" Entscheidungen, die durch Systeme sog. K\u00fcnstlicher Intelligenz (KI) gepr\u00e4gt werden, kommen in Unternehmen immer \u00f6fter vor: Kundenscoring, Bewerberauswahl, Produktionsteuerung, Compliancefragen usw. Nicht selten bleibt im Dunkeln, warum die KI so und nicht anders befunden hat. Die KI-Software ist eben nicht … Weiterlesen