Wir beleuchten das Anwendungspotenzial und den Rechtsrahmen von KI für Unternehmensentscheidungen. Außerdem gehen wir auf den Entwurf der europäischen KI-Verordnung und die daraus resultierenden Anforderungen an KI-Governance in Unternehmen ein.
Unsere Experten Klaus Brisch und Marco Müller-ter Jung aus unserem Team Legal haben in der Augustausgabe der „BOARD – Zeitschrift für Aufsichtsräte in Deutschland“ einen Artikel zum Rechtsrahmen für KI-basierte Unternehmensentscheidungen veröffentlicht. Neben dem Anwendungspotenzial von KI für Entscheidungsträger und den sich daraus ergebenden Herausforderungen werden die zentralen Aspekte des Entwurfs der europäischen KI-Verordnung aufgezeigt und die Anforderungen an KI-Governance Strukturen im Unternehmen betrachtet.
KI-Systeme können Entscheidungsträger im Unternehmen durch das Analysieren, Aufbereiten und Visualisieren von Informationen unterstützen, die Informationsbeschaffung übernehmen oder autonom Entscheidungen treffen, wobei unter anderem datenschutz- und arbeitsrechtliche Aspekte zu berücksichtigen sind.
Die voraussichtlich Ende 2023 in Kraft tretende KI-VO verankert einen europaweiten einheitlichen Rechtsrahmen für den Einsatz von KI-Systemen. Innerhalb des Unternehmens haben Vorstand und Geschäftsführung strategisch zu entscheiden, wer für die Umsetzung einer KI-Governance zuständig sein soll.
Um Haftung zu vermeiden, ist die Auswahl und Qualität der KI-Systeme besonders dann entscheidend, wenn der Vorstand diese zur Delegation von Vorstandsaufgaben nutzt, wobei fehlerhafte Entscheidungen des Vorstands auf Basis von KI-basierten Informationen nicht unbedingt zu einem Haftungsfall führen, solange die Business Judgement Rule beachtet wurde.
Der Einsatz von KI-Systemen stellt den Aufsichtsrat vor zwei Themen. Er kann KI-Systeme für die Steuerung seiner Kontroll- und Beratungspflichten nutzen. Gleichzeitig sind Vorstand und Aufsichtsrat gefordert, die Einhaltung rechtlicher und ethischer Rahmenbedingungen beim Einsatz von KI-Systemen zu überwachen.
Praxishinweis
Es ist Vorstand und Aufsichtsrat zu empfehlen, die Zeit bis zum Inkrafttreten der KI-VO zu nutzen, damit im Unternehmen bereits jetzt analysiert wird, ob und inwieweit KI-Systeme eingesetzt werden und welcher Risikoklasse sie unterfallen. Auch die Entscheidung, wo im Unternehmen die Zuständigkeit für KI-Systeme angesiedelt wird, sollte angestoßen werden. Es gilt, die – im Hinblick auf die lange Umsetzungsdauer negativen – Erfahrungen bei der Einführung der Datenschutzanforderungen der Datenschutz-Grundverordnung (DSGVO) nicht zu wiederholen.
Den vollständigen Artikel können Sie in der Augustausgabe der BOARD lesen (kostenpflichtig).
