Viele Unternehmen nutzen sie bereits: KI. Bis Ende des Jahres 2023 soll ein Gesetzesentwurf in Kraft treten, der die Verwendung von KI im Unternehmenskontext regeln und Risiken der Verwendung eindämmen soll.
Anwendungen mit Künstlicher Intelligenz gelangen im stationären Einzelhandel und im E-Commerce in vielschichtiger Weise zum Einsatz. Durch den Zugriff auf Daten ermöglichen KI-Methoden z. B. Sprachverarbeitung, Musterkennungen und Prognosen. Exemplarisch sind KI-Systeme zur Preisoptimierung, Sortimentsgestaltung, zur individuellen Ansprache von Kundinnen und Kunden, Chatbots, für virtuelle Kleideranproben oder personalisiertes Marketing zu nennen.
In rechtlicher Hinsicht sind dabei u. a. datenschutzrechtliche und arbeitsrechtliche Vorgaben sowie insbesondere zukünftig die „Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz“ (KI-VO) zu beachten. Der Gesetzesentwurf, der voraussichtlich bis Ende des Jahres in Kraft treten wird, normiert einen umfassenden Rechtsrahmen für den Einsatz von KI-Systemen innerhalb der EU. Er ist von großer praktischer Bedeutung für sämtliche Unternehmen.
Wichtige Eckpunkte des Entwurfs der KI-Verordnung
- gesetzliche (weite) Definition des Begriffs „KI-System“;
- risikobasierter Ansatz mit Verpflichtungen für Hersteller, Betreiber und Nutzer in Abhängigkeit zum jeweiligen Risiko des KI-Systems;
- die Risikostufen reichen von inakzeptablen, verbotenen KI-Systemen über KI-Systeme mit hohem Risiko bis hin zu solchen mit geringem Risiko;
- Regelungen zur Rechtsdurchsetzung und Aufsicht über die Einhaltung der KI-VO sowie
- ein Bußgeldkatalog mit unterschiedlichen Sanktionsstufen.
KI-Verordnung: Was Unternehmen jetzt beachten müssen!
Unternehmen sollten sich frühzeitig mit den rechtlichen Rahmenbedingungen für einen rechtskonformen Einsatz von KI-Systemen befassen. Es gilt, die – im Hinblick auf die lange Umsetzungsdauer negativen – Erfahrungen aus der Einführung der Datenschutzanforderungen der DSGVO nicht zu wiederholen. Denn auch die Umsetzung der KI-VO dürfte vielschichtige Anforderungen für Unternehmen mit sich bringen. Dazu gehört etwa die strategische Entscheidung, wer im Unternehmen für die Einhaltung der KI-Governance zuständig sein soll. Es sind Prozesse zur Auswahl und Qualität von KI-Systemen, Risikoklassifizierung, Dokumentation, Einhaltung von Informations- und Transparenzpflichten sowie zur Überwachung der Einhaltung rechtlicher und ethischer Rahmenbedingungen zu etablieren. Hierfür bedarf es des Aufbaus geeigneter Governance-Strukturen, um ein Risikomanagement-System zu etablieren. Außerdem muss sichergestellt werden, dass z. B. über den gesamten Lebenszyklus des KI-Systems eine Risikobewertung durchgeführt wird und Maßnahmen zur Risikobekämpfung ergriffen werden können.
Wir beantworten Ihnen gerne alle Fragen zum Gesetzesentwurf und unterstützen Sie dabei, die rechtlichen Rahmenbedingungen für den Einsatz von KI praxisorientiert, effektiv und compliant umzusetzen.
