KI-Kompetenzpflicht und die EU-KI-Verordnung: Was CIOs wissen müssen

Künstliche Intelligenz (KI) spielt eine immer wichtigere Rolle in Unternehmen und Organisationen. Doch mit der zunehmenden Verbreitung von KI-Technologien wachsen auch die regulatorischen Anforderungen. Die EU-KI-Verordnung (EU AI Act) ist eine der ersten umfassenden Gesetzgebungen weltweit, die den Einsatz von KI regelt. Ein zentrales Element dieser Verordnung ist die KI-Kompetenzpflicht. Doch was bedeutet das konkret für Unternehmen und CIOs?

Inhaltsverzeichnis

• Die EU-KI-Verordnung: Ein Überblick
• KI-Kompetenzpflicht: Was ist das?
• Verbotene KI-Praktiken gemäß Artikel 5 KI-VO
• Phasenweise Umsetzung der KI-Verordnung
• Auswirkungen auf Unternehmen
• Unser Schulungsangebot CONET_AI Literacy Program

Die EU-KI-Verordnung: Ein Überblick

Die EU-KI-Verordnung verfolgt das Ziel, den sicheren und ethischen Einsatz von KI-Systemen sicherzustellen. Sie klassifiziert KI-Anwendungen nach ihrem Risiko in vier Kategorien:

• Minimales Risiko: beispielswiese KI-gestützte Spam-Filter, automatische Rechtschreibkorrekturen
• Geringes Risiko: zum Beispiel Chatbots, KI-gestützte Empfehlungssysteme für Inhalte
• Hohes Risiko: beispielsweise KI in der Personalrekrutierung oder Kreditvergabe, KI-gestützte medizinische Diagnosen, autonome Fahrzeuge, kritische Infrastruktursteuerung
• Unvertretbares Risiko: zum Beispiel Social-Scoring-Systeme sowie bestimmte Formen biometrischer Überwachung und emotionale KI in der Arbeitsplatzkontrolle

Für Hochrisiko-KI-Anwendungen gelten strenge Vorschriften hinsichtlich Transparenz, Datenqualität, menschlicher Überwachung und Sicherheit. Unternehmen, die solche Systeme einsetzen, müssen zudem umfassende Risikobewertungen durchführen und regelmäßig Compliance-Prüfungen vornehmen. Die gesetzlichen Maßnahmen lassen sich jedoch sinnvoll umsetzen und können auch einen positiven Effekt auf die Softwarequalität haben. Gesetzkonformität ist in diesem Fall nicht ein bloßes Hindernis, sondern ein guter Anlass, das Qualitätsmanagement zu verbessern

KI-Kompetenzpflicht: Was ist das?

Ein zentrales Element der EU-KI-Verordnung ist die sogenannte KI-Kompetenzpflicht. Sie verpflichtet Unternehmen dazu, dafür zu sorgen, dass alle Mitarbeitenden, die in Entwicklung, Einsatz oder Überwachung von KI-Systemen eingebunden sind, über die nötigen Fähigkeiten und das entsprechende Wissen verfügen. Dies betrifft nicht nur technische Spezialistinnen und Spezialisten in den IT-Abteilungen, sondern auch Fachkräfte in Bereichen wie Compliance, Risikomanagement, Produktentwicklung oder HR – kurz: alle, die mit KI-Systemen arbeiten oder deren Ergebnisse nutzen. Die Kompetenzpflicht gilt dabei unabhängig von der Risikoklasse der KI-Anwendung – also auch bei Systemen mit nur begrenztem Risiko.

Kern dieser Anforderung ist ein fundiertes technisches Verständnis: Mitarbeitende sollen in der Lage sein, die grundlegende Funktionsweise von KI-Systemen nachzuvollziehen – wie etwa maschinelles Lernen, Entscheidungsfindung durch Algorithmen oder der Umgang mit Trainings- und Echtzeitdaten. Ziel ist es, nicht nur ein oberflächliches Anwenderwissen zu vermitteln, sondern echtes technisches Verständnis aufzubauen, das eine fundierte Beurteilung ermöglicht.

Hinzu kommt die Notwendigkeit, regulatorische Rahmenbedingungen zu kennen und im Arbeitsalltag zu berücksichtigen. Dazu zählen unter anderem Vorgaben zu Transparenz, Nachvollziehbarkeit, Datenschutz, Fairness oder Rechenschaftspflichten. Gerade in regulierten Branchen wie dem Finanz- oder Gesundheitswesen sind solche Kenntnisse unerlässlich, um KI-Projekte rechtskonform umzusetzen.

Ebenso wichtig ist die Sensibilisierung für ethische Fragestellungen: Wer mit KI-Systemen arbeitet, muss sich möglicher Verzerrungen (Bias), Diskriminierungseffekte oder mangelnder Transparenz bewusst sein. Mitarbeitende sollen lernen, diese Risiken zu erkennen, kritisch zu hinterfragen und aktiv Gegenmaßnahmen zu ergreifen – sei es bei der Datenaufbereitung, im Design von Modellen oder bei der Validierung von Ergebnissen.

Ein weiterer Aspekt der Kompetenzpflicht ist die Fähigkeit, die Zuverlässigkeit und Sicherheit von KI-Systemen bewerten zu können. Das schließt ein, Risiken frühzeitig zu identifizieren, die Robustheit von Systemen unter realen Bedingungen zu testen und mögliche Fehlerquellen systematisch zu dokumentieren. Nur so lassen sich vertrauenswürdige Anwendungen entwickeln, die langfristig im Unternehmen tragfähig sind.

Insgesamt verfolgt die EU-KI-Verordnung mit der Kompetenzpflicht ein klares Ziel: Der Einsatz von Künstlicher Intelligenz soll nicht nur innovativ, sondern vor allem verantwortungsvoll, nachvollziehbar und menschenzentriert erfolgen. Unternehmen sind damit in der Pflicht, nicht nur in Technologie, sondern auch in Know-how und Bildung zu investieren – und die Menschen in den Mittelpunkt ihrer KI-Strategie zu stellen.

Verbotene KI-Praktiken gemäß Artikel 5 KI-VO

Ab dem 2. Februar 2025 werden bestimmte KI-Praktiken innerhalb der EU ausdrücklich untersagt sein. Dazu gehören:

• Manipulative oder täuschende KI-Technologien, die Menschen unbewusst zu schädlichen Entscheidungen verleiten.
• Social Scoring-Systeme, die das Verhalten von Individuen bewerten und diskriminierende Konsequenzen nach sich ziehen.
• Biometrische Echtzeitüberwachung im öffentlichen Raum, es sei denn, sie dient spezifischen gesetzlichen Zwecken wie der Terrorismusbekämpfung.
• Emotionale KI zur Arbeitsplatzüberwachung oder in Schulen, die auf Basis von Gesichtsausdrücken oder Körpersprache Rückschlüsse auf die emotionale Verfassung zieht.
• Autonome Systeme, die Menschen physisch oder psychisch schädigen können, wie beispielsweise vollautomatisierte Waffensysteme.

Phasenweise Umsetzung der KI-Verordnung

Die EU-KI-Verordnung wird in mehreren Phasen umgesetzt:

• Phase 1 (2024 – 2025): Verabschiedung der Verordnung und Einführung grundlegender Transparenzpflichten für Anbieter von KI-Systemen.
• Phase 2 (2026): Anwendung der Vorschriften für Hochrisiko-KI, inklusive der Anforderungen an Datenqualität und menschliche Überwachung.
• Phase 3 (2027): Vollständige Implementierung der Verordnung mit verbindlichen Strafen bei Nichteinhaltung.

Unternehmen sollten dementsprechend bereits jetzt damit beginnen, ihre internen Prozesse und Schulungsmaßnahmen entsprechend anzupassen.

Auswirkungen auf Unternehmen

Die EU-KI-Verordnung sieht keine generelle Schulungspflicht, sondern vielmehr eine Nachweispflicht für Unternehmen vor. Im Rahmen der allgemeinen Sorgfaltspflichten und im Umgang mit bestimmten Hochrisiko-KI-Systemen kann ein entsprechender Kompetenzaufbau sinnvoll sein, um Risiken zu minimieren und den bestmöglichen Nutzen aus KI-Anwendungen zu ziehen. Unternehmen sollten daher prüfen, in welchem Kontext für sie ein entsprechender Qualifizierungsbedarf besteht. Um den Umgang mit KI strategisch und wirtschaftlich optimal zu gestalten, empfiehlt sich – abhängig von der jeweiligen Unternehmenssituation – die Umsetzung folgender Maßnahmen:

1. Schulungsprogramme und Workshops für Fach- und Führungskräfte etablieren, um ein grundlegendes Verständnis für KI-Anwendungen und deren regulatorische Anforderungen sicherzustellen.
2. Richtlinien für den ethischen und sicheren KI-Einsatz entwickeln, die alle Abteilungen betreffen, von der IT bis zum Management.
3. Interdisziplinäre Teams aus IT, Compliance und Fachabteilungen bilden, die gemeinsam KI-Projekte bewerten und Risiken frühzeitig identifizieren.
4. Externe Expertise nutzen, um KI-Projekte zu evaluieren und abzusichern, insbesondere bei der Implementierung von Hochrisiko-KI.
5. Regelmäßige Audits und Compliance-Prüfungen durchführen, um sicherzustellen, dass bestehende KI-Systeme weiterhin den Anforderungen der EU-KI-Verordnung entsprechen.

Die genannten Maßnahmen sind nicht verpflichtend, sondern betriebswirtschaftlich motivierte Empfehlungen, um den verantwortungsvollen und erfolgreichen Einsatz von KI im Unternehmen zu unterstützen. Unternehmen haben dabei einen gewissen Spielraum, wie sie gesetzlichen Anforderungen und wirtschaftliche Ziele miteinander in Einklang bringen. So lassen sich für die dritte Maßnahme auch Ethic-as-a-Service-Ansätze nutzen, bei denen die Ethik-Bewertung outgesourct wird. In Bezug auf den vierten Punkt kann es je nach Unternehmensstrategie auch sinnvoll sein, den Risk-Management-Prozess intern abzudecken, wenn externe Expertise nicht gewünscht ist.

Unser Schulungsangebot: Praxisnahes Wissen durch das CONET_AI Literacy Program

Um die Anforderungen der EU-KI-Verordnung zu erfüllen und den verantwortungsvollen Umgang mit Künstlicher Intelligenz im Unternehmen zu fördern, bietet CONET ein strukturiertes und praxisnahes Schulungsangebot: das CONET_AI Literacy Program.

Die Vorteile im Überblick:

• Modularer Aufbau: Inhalte können flexibel auf verschiedene Rollen im Unternehmen zugeschnitten werden – von allgemeinen Mitarbeitenden über technische Teams bis hin zu Führungskräften.
• Praxisorientierung: Interaktive Elemente wie Fallstudien, Workshops und Hands-on-Demos machen KI erlebbar und fördern nachhaltiges Lernen.
• Ganzheitlicher Ansatz: Von Grundlagen über ethische und rechtliche Aspekte bis hin zu wirtschaftlichen Implikationen deckt das Programm alle relevanten Themenfelder ab.
• Regulatorische Vorbereitung: Unterstützt Unternehmen dabei, sich gezielt auf die Anforderungen der EU-KI-Verordnung und weiterer Regulierungen einzustellen.

Unternehmen, die ihre Mitarbeitenden befähigen wollen, KI sicher, kompetent und regelkonform einzusetzen, finden im CONET_AI Literacy Program den idealen Einstieg.

Darüber hinaus stellen wir weitere Consulting Services zum Thema KI-Governance bereit. Im Rahmen unseres Govern_AI-Service-Angebots führen wir außerdem Readiness-Checks, Risk Assessments sowie eine Governance-Strategie-Beratung durch.

War dieser Artikel hilfreich für Sie? Oder haben Sie weiterführende Fragen zur EU-KI-Verordnung? Schreiben Sie uns einen Kommentar oder rufen Sie uns gerne an.