KI-Kompetenz im EU AI Act: Was Unternehmen jetzt wissen müssen

Generative KI erstellt Texte, analysiert Informationen, unterstützt bei der Softwareentwicklung oder ist direkt in Standardanwendungen integriert. Gleichzeitig entwickelt sich KI weiter: Mit Agentic AI entstehen Systeme, die zunehmend eigenständig Aufgaben planen und Aktionen ausführen können.

Damit wächst die Bedeutung von KI-Kompetenz. Denn der erfolgreiche Einsatz von KI hängt nicht allein von Modellen, Daten und Technologie ab. Menschen müssen verstehen, was KI leisten kann, wo ihre Grenzen liegen und innerhalb welcher Regeln sie eingesetzt werden darf.

• Was bedeutet KI-Kompetenz im EU AI Act?
• Artikel 4 wurde 2026 geändert: Was gilt jetzt?
• Neben KI-Kompetenz wird auch Transparenz wichtiger: Artikel 50
• Welche KI-Kompetenz brauchen Unternehmen?
• Was sollten Unternehmen jetzt konkret tun?
• Warum Agentic AI KI-Kompetenz noch wichtiger macht
• Über den EU AI Act hinaus: Warum Unternehmen ihre KI-Strukturen jetzt weiterentwickeln sollten
• KI-Kompetenz ist mehr als Compliance

• KI-Kompetenz ist eine Anforderung des EU AI Act: Artikel 4 verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zur Förderung der KI-Kompetenz (AI Literacy) ihrer Mitarbeitenden und weiterer beteiligter Personen zu ergreifen.
• Artikel 4 des EU AI Act wurde 2026 angepasst: Unternehmen müssen kein bestimmtes Kompetenzniveau einzelner Personen garantieren. Entscheidend sind angemessene Maßnahmen, die Wissen, Erfahrung, Einsatzkontext und Risiken berücksichtigen.
• KI-Kompetenz sollte rollen- und kontextbezogen aufgebaut werden: Statt einer einheitlichen KI-Schulung für alle sollten Unternehmen berücksichtigen, welche KI-Systeme Mitarbeitende einsetzen, für welche Aufgaben sie genutzt werden und welche Risiken damit verbunden sind.
• Artikel 50 ergänzt den EU AI Act um Transparenzpflichten: Seit August 2026 gelten zusätzliche Anforderungen für bestimmte KI-Systeme sowie für KI-generierte und manipulierte Inhalte.
• Agentic AI erhöht die Anforderungen an KI-Kompetenz und Governance: Wenn KI-Agenten zunehmend selbstständig planen und handeln, werden klare Verantwortlichkeiten, Guardrails sowie menschliche Kontroll- und Eskalationsmechanismen wichtiger.

Der EU AI Act versteht unter KI-Kompetenz die Fähigkeiten, Kenntnisse und das Verständnis, die es ermöglichen, KI-Systeme sachkundig einzusetzen und sich ihrer Chancen, Risiken und möglichen Auswirkungen bewusst zu sein.

Dabei geht es nicht darum, alle Mitarbeitenden zu KI-Spezialistinnen und -Spezialisten auszubilden. Entscheidend ist vielmehr, dass Menschen KI in ihrem jeweiligen Arbeitskontext angemessen einsetzen und beurteilen können.

Dazu gehört beispielsweise zu verstehen,

• für welche Aufgaben ein KI-System geeignet ist,
• wie verlässlich seine Ergebnisse sind,
• warum KI-generierte Inhalte kritisch geprüft werden müssen,
• welche Daten verarbeitet werden dürfen,
• welche rechtlichen, ethischen oder sicherheitsbezogenen Risiken bestehen,
• wann menschliche Kontrolle erforderlich ist.

Welche Kenntnisse und Maßnahmen angemessen sind, hängt damit wesentlich von der jeweiligen Rolle, dem konkreten Einsatzkontext und den möglichen Auswirkungen des KI-Systems ab. 

Die Anforderungen an KI-Kompetenz gelten bereits seit Februar 2025. Im Sommer 2026 wurde Artikel 4 des EU AI Act jedoch neu gefasst.

Ursprünglich waren Anbieter und Betreiber von KI-Systemen dazu verpflichtet, nach besten Kräften sicherzustellen, dass ihr Personal und weitere Personen, die in ihrem Auftrag mit KI-Systemen arbeiten, über ein ausreichendes Maß an KI-Kompetenz verfügen.

Die neue Fassung setzt einen anderen Schwerpunkt: Anbieter und Betreiber müssen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und weiterer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind.

Dabei sollen unter anderem technisches Wissen, Erfahrung, Aus- und Fortbildung, der konkrete Einsatzkontext sowie die Personen oder Personengruppen berücksichtigt werden, bei denen die KI-Systeme eingesetzt werden.

Entscheidend ist eine ausdrückliche Klarstellung: Unternehmen müssen kein bestimmtes Niveau an KI-Kompetenz einzelner Personen garantieren.

Der EU AI Act schreibt damit weder ein einheitliches Schulungsprogramm noch ein allgemeingültiges Kompetenzmodell vor. Unternehmen erhalten Spielraum, geeignete Maßnahmen passend zu ihrer tatsächlichen KI-Nutzung, den damit verbundenen Risiken und ihrer Organisation zu gestalten.

Die Verpflichtung zu Maßnahmen für KI-Kompetenz gilt bereits seit dem 2. Februar 2025. Seit dem 3. August 2026 gelten zudem die entsprechenden Überwachungs- und Durchsetzungsregelungen. Artikel 4 ist damit nicht nur eine Orientierung für den verantwortungsvollen KI-Einsatz, sondern eine regulatorische Anforderung, mit der sich Anbieter und Betreiber von KI-Systemen auseinandersetzen müssen.

Neben Artikel 4 sollten Unternehmen eine weitere Anforderung des EU AI Act im Blick haben: Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50.

Sie betreffen bestimmte KI-Systeme und KI-generierte oder -manipulierte Inhalte. So müssen Menschen unter bestimmten Voraussetzungen darüber informiert werden, wenn sie direkt mit einem KI-System interagieren. Anbieter generativer KI-Systeme müssen zudem dafür sorgen, dass künstlich erzeugte oder manipulierte Inhalte maschinenlesbar gekennzeichnet und als solche erkennbar sind.

Für Betreiber gelten weitere Transparenzpflichten, beispielsweise beim Einsatz von Emotionserkennung oder biometrischer Kategorisierung sowie bei bestimmten Deepfakes und KI-generierten Texten.

Für Unternehmen entstehen damit zwei unterschiedliche, aber miteinander verbundene Handlungsfelder: Artikel 4 adressiert die Kompetenz der Menschen im Umgang mit KI, Artikel 50 die Transparenz beim Einsatz bestimmter KI-Systeme und Inhalte. Beides sollte in einer übergreifenden AI Governance berücksichtigt werden.

Die Änderung von Artikel 4 bedeutet nicht, dass AI Literacy an Bedeutung verliert. Vielmehr rückt die Frage in den Mittelpunkt, welche Kompetenzen für den jeweiligen Einsatz von KI tatsächlich erforderlich sind.

Wer generative KI gelegentlich zur Unterstützung bei Texten nutzt, benötigt andere Kenntnisse als ein Entwicklungsteam, das KI in eine Fachanwendung integriert. Für HR, Einkauf, Kundenservice oder Management können wiederum andere Anforderungen und Risiken relevant sein.

Statt einer pauschalen Schulung für alle ist deshalb ein rollen- und kontextbezogener Kompetenzaufbau sinnvoll. Neben einem grundlegenden Verständnis der Funktionsweise und Grenzen von KI sollten Mitarbeitende insbesondere die für ihren Arbeitsbereich relevanten Risiken und Regeln kennen.

Dazu gehört auch zu wissen, wann menschliche Kontrolle oder zusätzliche Expertise erforderlich ist: Wann müssen Ergebnisse überprüft werden? Wann sollten Fachverantwortliche einbezogen werden? Und welche Entscheidungen dürfen nicht allein auf Basis eines KI-Outputs getroffen werden?

Für Unternehmen stellt sich damit weniger die Frage, welche einzelne „AI-Act-Schulung“ sie benötigen. Wichtiger ist: Welche KI-Kompetenz brauchen unsere Mitarbeitenden für die Systeme, mit denen sie tatsächlich arbeiten?

Dafür sind fünf Schritte sinnvoll:

1. KI-Nutzung transparent machen: Welche KI-Systeme werden bereits eingesetzt? Welche Prozesse, Entscheidungen und Daten sind betroffen? Erst auf dieser Grundlage lässt sich der tatsächliche Kompetenzbedarf bestimmen.

2. Rollen, Risiken und Einsatzkontexte unterscheiden: Nicht jede Person benötigt dasselbe Wissen. Entscheidend ist, wer mit welchen KI-Systemen arbeitet, wofür diese eingesetzt werden und welche Auswirkungen Fehler oder Fehlanwendungen haben können.

3. Passende Maßnahmen etablieren: Je nach Bedarf können beispielsweise Awareness-Angebote, rollenbezogene Trainings, Guidelines, praxisorientierte Workshops oder technische Dokumentationen sinnvoll sein.

4. Verantwortlichkeiten und Leitplanken definieren: Mitarbeitende sollten wissen, welche Anwendungen freigegeben sind, welche Daten verarbeitet werden dürfen, wann menschliche Kontrolle erforderlich ist und an wen sie sich bei Unsicherheiten wenden können.

5. Maßnahmen dokumentieren und weiterentwickeln: Artikel 4 schreibt kein bestimmtes Zertifikat vor. Dennoch ist es sinnvoll, umgesetzte Maßnahmen nachvollziehbar zu dokumentieren, regelmäßig zu überprüfen und an neue Technologien, Einsatzszenarien und regulatorische Anforderungen anzupassen.

Mit Agentic AI gewinnt KI-Kompetenz eine zusätzliche Dimension. Während generative KI häufig für die Erstellung und Analyse von Inhalten oder die Unterstützung einzelner Aufgaben eingesetzt wird, können agentische KI-Systeme darüber hinaus Aufgaben planen, Arbeitsschritte koordinieren, Handlungsoptionen auswählen und Aktionen in angebundenen Systemen ausführen.

Damit reicht es zunehmend nicht mehr aus, KI-Ergebnisse kritisch beurteilen zu können. Mitarbeitende und Verantwortliche müssen auch verstehen, welche Aufgaben an KI delegiert werden können, innerhalb welcher Grenzen Agenten selbstständig handeln dürfen und wann menschliches Eingreifen erforderlich ist.

Je höher der Grad der Autonomie, desto wichtiger werden klare Rollen, Governance und Guardrails sowie geeignete Kontroll- und Eskalationsmechanismen. Human-in-the-Loop-Ansätze verankern menschliche Kontrolle gezielt an kritischen Stellen.

KI-Kompetenz entwickelt sich damit vom reinen Anwenderwissen zu einer organisatorischen Fähigkeit: Unternehmen müssen nicht nur verstehen, wie Menschen KI einsetzen, sondern zunehmend auch, wie Menschen und autonom handelnde KI-Systeme sicher und wirksam zusammenarbeiten.

Regulatorische Anforderungen sind jedoch nur ein Grund, den Umgang mit KI systematischer zu organisieren. Mit dem Übergang von einzelnen KI-Assistenten zu Agentic AI verändern sich gleichzeitig Technologie, Governance und Investitionsentscheidungen.

Je mehr KI-Anwendungen und Agenten aus Pilotprojekten in den produktiven Betrieb überführt werden, desto wichtiger wird deshalb eine übergreifende Steuerung. Wenn KI-Systeme auf Daten, Anwendungen und Prozesse zugreifen und eigenständig Aktionen ausführen, müssen Unternehmen unter anderem Berechtigungen, Sicherheit, Monitoring und Kontrollmechanismen systemübergreifend organisieren.

Für Unternehmen verschiebt sich die Aufgabe damit: Es geht nicht mehr allein darum, einzelne KI-Anwendungen sicher einzusetzen. Sie benötigen zunehmend übergreifende Strukturen, mit denen sich unterschiedliche KI-Systeme und Agenten kontrolliert integrieren, steuern und überwachen lassen.

Der EU AI Act liefert einen regulatorischen Anlass, sich systematisch mit AI Literacy auseinanderzusetzen. Der Nutzen reicht jedoch darüber hinaus.

Denn KI kann nur dann nachhaltig Mehrwert schaffen, wenn Menschen ihre Möglichkeiten und Grenzen verstehen, Ergebnisse richtig einordnen und vorhandene Leitplanken kennen.

Mit Agentic AI wird KI-Kompetenz zunehmend zu einer unternehmensweiten Gestaltungsaufgabe: Kompetenz, Transparenz, Governance und technische Kontrolle müssen zusammenspielen, wenn KI-Systeme nicht mehr nur Inhalte erzeugen, sondern eigenständig auf Daten und Anwendungen zugreifen und Aktionen ausführen.

Für Unternehmen stellen sich deshalb gleich mehrere Fragen: Welche Kompetenzen brauchen unsere Mitarbeitenden? Welche Regeln und Transparenzmechanismen sind erforderlich? Welche KI-Anwendungen wollen wir produktiv skalieren? Und wie behalten wir die Kontrolle, wenn immer mehr KI-Systeme und Agenten in unsere Prozesse eingebunden werden?

Der Aufbau von KI-Kompetenz ist damit ein wichtiger Ausgangspunkt – für einen sicheren, kontrollierten und zugleich wirtschaftlich erfolgreichen Einsatz von KI.

conet unterstützt Unternehmen dabei, KI-Kompetenz, Governance und technische Kontrolle gemeinsam zu denken – von der Analyse bestehender KI-Nutzung und rollenbezogenen Kompetenzmaßnahmen bis zur sicheren Integration und Steuerung von KI-Systemen und Agenten.