KI-Verordnung der EU tritt in Kraft

Im Juli 2024 wurde die Verordnung der Europäischen Union über künstliche Intelligenz veröffentlicht, die in Teilbereichen bereits ab dem 2. Februar 2025 gilt. Sie soll einen einheitlichen Regulierungsansatz für den Einsatz von künstlicher Intelligenz (KI) in der EU schaffen und gleichzeitig das Vertrauen in und die Akzeptanz von KI-Systemen stärken.

Die KI-Verordnung stellt – typisch für das EU-Recht sehr ausführlich und kleinteilig – umfangreiche und komplexe Vorgaben für KI-Systeme auf, die nicht nur von Entwicklern oder Verkäufern von KI-Systemen zu beachten sind, sondern auch von Unternehmen, die KI-Systeme im eigenen Betrieb einsetzen.

Sehr umfassende Regelungen gelten für KI-Systeme mit hohem Risiko (Hochrisiko-KI-Systeme). Gemeint sind insbesondere Systeme in Bereichen wo schon jetzt Produktsicherheit von besonderer Bedeutung ist und einer ausführlichen Regulierung unterliegt. Dazu zählen etwa Medizinprodukte, Maschinen, Aufzüge und Spielzeug. Daneben werden auch Systeme als Hochrisiko-KI-Systeme klassifiziert, die auf Grund ihres Einsatzes ein Risiko für die Gesundheit oder Sicherheit von Menschen bergen.

Um sicherzustellen, dass solche KI-Systeme den in der Verordnung den normierten Standards entsprechen, müssen Unternehmen, die KI auf den Markt bringen, ein Konformitätsbewertungsverfahren durchführen (lassen) und spezifische Data-Governance-Maßnahmen treffen. Zusätzlich ist unter anderem die Einrichtung eines Risikomanagementsystems vorgeschrieben. Ebenso müssen Unternehmen, die mit Menschen interagierende KI-Systeme – wie etwa Chatbots – einsetzen oder Inhalte künstlich erzeugen oder verarbeiten, beispielsweise durch Textverarbeitung, Transparenzpflichten beachten. Schließlich stellt die KI-Verordnung spezifische Anforderungen für Anbieter von KI-Modellen mit allgemeinen Verwendungszwecken (GPAI-Modelle wie beispielsweise ChatGPT) auf.

Unternehmen, die KI-Systeme einsetzen, haben sich daher darauf einzustellen, in Zukunft erheblichen Verwaltungsaufwand betreiben zu müssen, um die europarechtlichen Vorgaben einzuhalten. Bei Verstößen – auch das ist EU-typisch – drohen hohe Bußgelder. Auf Unternehmerinnen und Unternehmer kommt also in den nächsten Jahren viel Arbeit zu.

Autoren: Johannes Brückmann und Dr. Chiara Streitbörger, wissenschaftliche Mitarbeiterin