EU AI Act – Was Artikel 4 für Unternehmen bedeutet

ZAHLEN | DATEN | FAKTEN

Unternehmen, die KI-Systeme nutzen oder betreiben, müssen die rechtlichen Anforderungen des European Artificial Intelligence Act (kurz: EU AI Act / dt.: KI-Verordnung) umsetzen. Seit Februar 2025¹ verpflichtet Artikel 4 Unternehmen, in denen KI-Systeme zum Einsatz kommen, sicherzustellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt. Zusammen mit weiteren Vorgaben zu technischen und organisatorischen Pflichten wird damit das Ziel verfolgt, KI-Systeme verantwortungsvoll und rechtssicher einzusetzen. Dies liegt mit Blick auf den Schutz betrieblicher Daten und möglicher Haftungsrisiken auch im Interesse von Unternehmen.

^{1 Eine staatliche Durch}^{setzung dieser Regelung ist im Fall der fristgerechten Benen}^{nung einer nationalen Aufsichts}^{behörde (entsprechend Art. 70 KI-VO) frühestens zum 2. August 2025 zu erwarten.}

Der ifaa-Faktencheck fasst die wichtigsten Anforderungen, die aus der KI-Verordnung resultieren, zusammen und zeigt Schritte der Kompetenzvermittlung auf.

Artikel 4 der KI-Verordnung im Wortlaut
Wer wird in die Pflicht genommen?
Was bedeutet KI-Kompetenz?
Wie kann KI-Kompetenz sichergestellt werden?
Warum Unternehmen von KI-Kompetenzen profitieren
Leitfaden und Praxisbeispiele

Jetzt lesen!

Faktencheck | 8 Seiten | PDF | 273 KB

Download

Artikel 4 der KI-Verordnung im Wortlaut

»Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.«

Wer wird in die Pflicht genommen?

Unternehmen, die KI-Systeme herstellen oder herstellen lassen und sie unter eigenem Namen – gegen Entgelt oder unentgeltlich – in den Verkehr bringen oder in Betrieb nehmen. Diese gelten als Anbieter.
Unternehmen, die fremdentwickelte KI-Anwendungen im Betrieb nutzen. Diese gelten i.d.R. als Betreiber².

Die Pflicht zur KI-Kompetenz bezieht sich zudem nicht nur auf die Endnutzerinnen und -nutzer von KI-Systemen, sondern auf das gesamte Personal entlang der KI-Wertschöpfungskette. Dies betrifft alle Mitarbeiterinnen und Mitarbeiter, welche je nach ihrer Rolle an der Konzeption und Entwicklung eines KI-Systems bzw. an deren Integration und Betrieb im Rahmen betrieblicher Strukturen beteiligt sind, oder ein KI-System im Rahmen ihrer Tätigkeit nutzen.

^{2 Abweichungen von dieser Einstufung ergeben sich im Falle von sog. Hochrisiko-KI-Systemen. Eine erste Orientierung bei der Risiko}^klassifi^{zierung von KI-Systemen gem. KI-VO bietet z. B. der Bitkom Umsetzungs}^{leitfaden zur KI-Verordnung. [4]}

Was bedeutet KI-Kompetenz?

KI-Kompetenz bezeichnet »die Fähigkeiten, die Kenntnisse und das Verständnis (…) KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.« (Art. 3, Nr. 56 KI-VO)

Welche Kompetenzen konkret erforderlich sind, lässt sich schwer pauschal definieren, da diese in Orientierung an

dem spezifischen KI-System,
dessen Einsatzkontext (Branche, Fachabteilung),
dem Zweck der KI-Nutzung sowie
der spezifischen Rolle des Personals

abgeleitet werden müssen. Aus der Begriffsbestimmung geht jedoch klar hervor, dass in jedem Fall

ein theoretisches (Grund-)Verständnis über die Funktionsweise sowie über die ethischen, organisatorischen und ggf. gesellschaftlichen Chancen und Risiken,
praktische (Anwendungs-)Fähigkeiten und
ggf. technische Kompetenzen

bezogen auf ein spezifisches KI-System sichergestellt werden müssen.

Wie kann KI-Kompetenz sichergestellt werden?

Unternehmen haben verschiedene Möglichkeiten, die KI-Kompetenzen ihrer Mitarbeitenden zu fördern. Es wird empfohlen, frühzeitig vor dem Roll-out von KI-Systemen im Betrieb mit der Planung und Durchführung von Maßnahmen zu beginnen. Bestenfalls nimmt die Sicherung von KI-Kompetenzen einen festen Platz in der strategischen Personalentwicklung ein.

Geeignete Maßnahmen können beispielsweise sein:

Interne Richtlinien zum Umgang mit KI-Tools können zur Kompetenzsicherung beitragen, sofern sie praxisnah und verbindlich sind.
Interne oder externe Schulungsangebote, welche auf das genutzte KI-System, den Einsatzkontext (Branche, Unternehmensbereich etc.) und auf die Aufgaben und Bedarfe Mitarbeitender in Bezug auf das KI-System abgestimmt sind.
Internes Know-how nutzen: Mitarbeitende mit einschlägigen Kenntnissen und Erfahrungen können als Multiplikatoren eine zentrale Rolle spielen, indem sie praxisnah Wissen vermitteln. Durch ihre betriebliche Erfahrung können sie schnell Unterstützung bei konkreten Anwendungsfällen bieten, Mitarbeitende gezielt in der Nutzung von KI-Systemen unterweisen und regulatorische Anforderungen umsetzen.
Informelle Initiativen wie betriebliche KI-Communities oder »lebende« FAQ-Dokumente können zusätzlich helfen, die Auseinandersetzung mit KI-Anwendungen und den Wissenstransfer zu fördern, sowie Akzeptanz und praktisches Knowhow zur Nutzung dieser Technologien zu entwickeln.

Entscheidend ist, dass die gewählten Maßnahmen KI-Kompetenzen fördern, die den Aufgaben und Verantwortlichkeiten der Mitarbeitenden im Umgang mit einem KI-System entsprechen – durch Schulungen, Erprobung und Austausch.

Warum Unternehmen von KI-Kompetenzen profitieren

Risikominimierung durch Prävention: Verstöße und Haftungsrisiken können minimiert werden, indem die rechtssichere Nutzung von KI-Systemen gefördert wird. Sensibilisierte und kompetente Mitarbeitende können Fehlverhalten aktiv vermeiden.
Klare Pflichten: Maßnahmen zur Kompetenzsicherung für die KI-Nutzung helfen zu erkennen, ob Fehler auf Fahrlässigkeit, Unwissenheit oder Absicht beruhen. Dies fördert Rechtssicherheit innerhalb der Organisation.
Schutz des Unternehmens: Nachweisbare Maßnahmen zur Kompetenzsicherung stärken die Verteidigungsposition eines Unternehmens im Falle von Datenschutzverstößen oder anderen Compliance-Fragen. Auch wenn Artikel 4 des EU AI Act keine explizite Dokumentationspflicht formuliert, ist es für Unternehmen ratsam, ergriffene Maßnahmen zur Kompetenzsicherung zu dokumentieren, um nachweisen zu können, dass sie ihrer Verantwortung nachgekommen sind.
Akzeptanz von KI im Unternehmen: Die Vermittlung von KI-Kompetenzen kann Vorbehalte und Ängste vor der Einführung und Nutzung von KI-Systemen im Unternehmen reduzieren. KI-Kompetenz bildet somit das Fundament für den produktivitätsförderlichen Einsatz von KI in Unternehmen.

GUT ZU WISSEN: Die Pflicht zur Sicherstellung von KI-Kompetenzen ist – anders als vielfach dargestellt – nicht gleichzusetzen mit einer pauschalen Schulungspflicht, geschweige denn mit der Verpflichtung, Kompetenzen zu prüfen oder Personal zu zertifizieren.

ACHTUNG: Kommt ein sog. Hochrisiko-KI-System gemäß KI-VO zum Einsatz, ergeben sich vom Wortlaut in Artikel 4 abweichende Pflichten. In dem Fall muss der Betreiber eines solchen Systems dafür sorgen, dass die mit der menschlichen Überwachung gemäß Art. 14 KI-VO beauftragten Personen über die erforderliche Ausbildung verfügen (vgl. Art. 26 Abs. 2 KI-VO).

UNSERE EMPFEHLUNG: Alle mit dem Einsatz eines Hochrisiko-KI-Systems in Zusammenhang stehenden Pflichten sollten Unternehmen in jedem Fall mit juristischer Beratung ermitteln lassen.