Ganzheitliche KI-Governance: Vertrauen schaffen, Qualität sichern

• Standards bilden das Fundament wirksamer KI-Governance
• Einheitliche Governance schafft Synergien und Effizienz
• Vom Regelwerk zum Rahmenwerk: Der Weg zu effektiver und effizienter KI-Governance
• Die organisatorische Perspektive: Governance als Gesamtaufgabe

• KI-Governance ist mehr als Compliance – sie schafft Vertrauen, Sicherheit und Qualität im gesamten KI-Lebenszyklus.
• Ein ganzheitlicher Ansatz verbindet gesetzliche, ethische und organisatorische Standards zu einem konsistenten Rahmenwerk.
• Standards wie EU-KI-Gesetz, DSGVO und ISO-Normen bilden die Basis für verantwortungsvolle und transparente KI-Nutzung.
• Einheitliche Governance-Strukturen reduzieren Doppelarbeit, fördern Synergien und erhöhen die Effizienz von Compliance-Prozessen.
• Spannungsfelder zwischen Vorschriften, etwa zwischen Datenschutz und Bias-Reduktion, müssen frühzeitig erkannt und ausbalanciert werden.
• Governance sollte als strategisches Instrument zur Qualitätssicherung und Prozessoptimierung verstanden werden – nicht als bürokratisches Hindernis.
• Effektive KI-Governance auf Systemebene erfordert koordinierte organisatorische Governance über alle Abteilungen hinweg.

Bei der KI-Governance geht es um mehr als nur die Erfüllung der im EU-KI-Gesetz verankerten gesetzlichen Anforderungen. Auch wenn dies wahrscheinlich das Erste ist, woran viele Fachleute denken, wird dadurch allein noch nicht die KI-Governance definiert. Im Kern zielt die KI-Governance darauf ab, Standards festzulegen und zu kontrollieren, um Compliance, Softwarequalität, ethische Nutzung und Vertrauenswürdigkeit sicherzustellen. Diese Standards können extern auferlegt werden, beispielsweise durch Gesetze oder angestrebte ISO-Zertifizierungen. Oft werden sie jedoch auch intern durch organisatorische Werte und strategische Ziele festgelegt. Darüber hinaus betreffen die relevanten Standards nicht ausschließlich Künstliche Intelligenz, sondern umfassen auch Standards, die sich speziell auf Daten beziehen, wie beispielsweise die DSGVO. Je nach Anwendungsfall können auch weitere domänenspezifische Verpflichtungen gelten. So muss beispielsweise KI, die in medizinische Geräte integriert ist, auch der Medizinprodukteverordnung der EU entsprechen. Eine zentrale Aufgabe der KI-Governance besteht darin, sicherzustellen, dass all diese unterschiedlichen Anforderungen während des gesamten KI-Lebenszyklus kohärent berücksichtigt werden. Dazu muss die KI-Governance ganzheitlich sein.

Diese breitere Perspektive auf die KI-Governance hat eine Reihe von Vorteilen. Zum einen ermöglicht sie es Organisationen, einen einheitlichen Ansatz für die Governance zu verfolgen. Anstatt separate Kontrollmechanismen für verschiedene Standards zu betreiben, können diese unter einer gemeinsamen Rubrik zusammengefasst werden. Dadurch werden Synergieeffekte besser sichtbar und es kann aufgezeigt werden, wo verschiedene Standards miteinander in Konflikt stehen könnten. Die Anforderungen an das Risikomanagement für KI-Systeme im EU-KI-Gesetz (Artikel 9) stimmen beispielsweise weitgehend mit dem in ISO 42001 beschriebenen Risikomanagementansatz überein. Andererseits können die in Artikel 10 des EU-KI-Gesetzes festgelegten Anforderungen zur Verringerung von Verzerrungen bei bestimmten risikoreichen Systemen die Verarbeitung zusätzlicher personenbezogener Daten erfordern. Dies kann wiederum den Grundsätzen der Datenminimierung der DSGVO zuwiderlaufen. Hier besteht also ein Spannungsfeld zwischen dem EU-KI-Gesetz und der DSGVO. Die Identifizierung von Synergien und Spannungsfeldern zwischen verschiedenen Standards ist einer der Punkte, die die Governance erschweren. Ein einheitlicher Governance-Ansatz kann die Effizienz jedoch verbessern, indem er Doppelarbeit reduziert, Compliance-Aktivitäten rationalisiert und eine konsistentere Überwachung aller geltenden Standards ermöglicht.

Der erste Schritt zur Definition einer wirksamen KI-Governance für ein bestimmtes KI-System besteht darin, klar festzulegen, welche Standards geregelt werden müssen.

Dazu gehören:

• Gesetzliche Anforderungen wie das EU-KI-Gesetz und die DSGVO
• Interne Standards der Organisation, etwa Ethikrichtlinien oder Anforderungen an die Softwarequalität

Im nächsten Schritt sollten Organisationen analysieren, wie diese verschiedenen Standards miteinander in Beziehung stehen und interagieren. Dabei gilt es:

• Synergieeffekte zu identifizieren, um bestehende Prozesse effizienter zu gestalten
• Mögliche Spannungen zwischen Standards (z. B. zwischen Datenschutz und Bias-Reduktion) frühzeitig zu erkennen

Auf dieser Grundlage kann schließlich ein Governance-Rahmenwerk entwickelt werden, das sowohl effektiv (rechtlich und ethisch wirksam) als auch effizient (organisatorisch praktikabel) ist.

Während sich die Diskussion bisher auf die Governance einzelner KI-Systeme konzentriert hat, liegt die größere Herausforderung auf der Organisationsebene: Wie kann ein einheitlicher Ansatz für die gesamte Organisation koordiniert werden? Dies wirft weitere Fragen auf: Wie kann die Zusammenarbeit zwischen KI-Spezialisten und Datenschutzexperten koordiniert werden? Wie können organisatorische Werte in Rahmenwerke eingebettet werden, die in erster Linie darauf ausgelegt sind, gesetzliche Anforderungen zu erfüllen? Die Beantwortung all dieser Fragen würde den Rahmen dieses Beitrags sprengen. Es sei jedoch darauf hingewiesen, dass eine effektive Governance auf Systemebene letztlich von einer effektiven organisatorischen Governance abhängt.