Ganzheitliche KI-Governance: Vertrauen gestalten, Qualität sichern

KI-Governance ist weit mehr als ein regulatorisches Pflichtprogramm. Sie bildet den Rahmen, um Künstliche Intelligenz (KI) verantwortungsvoll, sicher und im Einklang mit gesetzlichen wie ethischen Standards einzusetzen. Lesen Sie hier, warum ein ganzheitlicher Ansatz entscheidend ist – und wie KI-Governance über reine Compliance hinaus Vertrauen und Qualität schafft.

Inhaltsverzeichnis

• Standards bilden das Fundament wirksamer KI-Governance
• Einheitliche Governance schafft Synergien und Effizienz
• Vom Regelwerk zum Rahmenwerk: Der Weg zu effektiver und effizienter KI-Governance
• Die organisatorische Perspektive: Governance als Gesamtaufgabe

Standards bilden das Fundament wirksamer KI-Governance

Bei der KI-Governance geht es um mehr als nur die Erfüllung der im EU-KI-Gesetz verankerten gesetzlichen Anforderungen. Auch wenn dies wahrscheinlich das Erste ist, woran viele Fachleute denken, wird dadurch allein noch nicht die KI-Governance definiert. Im Kern zielt die KI-Governance darauf ab, Standards festzulegen und zu kontrollieren, um Compliance, Softwarequalität, ethische Nutzung und Vertrauenswürdigkeit sicherzustellen. Diese Standards können extern auferlegt werden, beispielsweise durch Gesetze oder angestrebte ISO-Zertifizierungen. Oft werden sie jedoch auch intern durch organisatorische Werte und strategische Ziele festgelegt. Darüber hinaus betreffen die relevanten Standards nicht ausschließlich Künstliche Intelligenz, sondern umfassen auch Standards, die sich speziell auf Daten beziehen, wie beispielsweise die DSGVO. Je nach Anwendungsfall können auch weitere domänenspezifische Verpflichtungen gelten. So muss beispielsweise KI, die in medizinische Geräte integriert ist, auch der Medizinprodukteverordnung der EU entsprechen. Eine zentrale Aufgabe der KI-Governance besteht darin, sicherzustellen, dass all diese unterschiedlichen Anforderungen während des gesamten KI-Lebenszyklus kohärent berücksichtigt werden. Dazu muss die KI-Governance ganzheitlich sein.

In diesem Zusammenhang ist es wichtig, Governance nicht als spezielles Instrument zur Erfüllung einzelner Compliance-Anforderungen zu betrachten, sondern als eine allgemeinere Methode, um sicherzustellen, dass eine Vielzahl möglicherweise heterogener Bewertungsmaßstäbe in Bezug auf Prozesse und Ergebnisse erfüllt wird. So betrachtet sollte Governance nicht als Overhead, sondern als Mittel betrachtet werden, um sicherzustellen, dass relevante Softwareanforderungen erfüllt werden – unabhängig von ihrer Herkunft. Eine solche Perspektive stellt die vorherrschende Meinung zu Governance, die diese als notwendiges Übel betrachtet, zweifellos in Frage. Governance ist notwendig, aber es sollte auch als Chance für Unternehmen gesehen werden, die Gesamtqualität und Eignung von Software sorgfältiger zu kontrollieren.

Einheitliche Governance schafft Synergien und Effizienz

Diese breitere Perspektive auf die KI-Governance hat eine Reihe von Vorteilen. Zum einen ermöglicht sie es Organisationen, einen einheitlichen Ansatz für die Governance zu verfolgen. Anstatt separate Kontrollmechanismen für verschiedene Standards zu betreiben, können diese unter einer gemeinsamen Rubrik zusammengefasst werden. Dadurch werden Synergieeffekte besser sichtbar und es kann aufgezeigt werden, wo verschiedene Standards miteinander in Konflikt stehen könnten. Die Anforderungen an das Risikomanagement für KI-Systeme im EU-KI-Gesetz (Artikel 9) stimmen beispielsweise weitgehend mit dem in ISO 42001 beschriebenen Risikomanagementansatz überein. Andererseits können die in Artikel 10 des EU-KI-Gesetzes festgelegten Anforderungen zur Verringerung von Verzerrungen bei bestimmten risikoreichen Systemen die Verarbeitung zusätzlicher personenbezogener Daten erfordern. Dies kann wiederum den Grundsätzen der Datenminimierung der DSGVO zuwiderlaufen. Hier besteht also ein Spannungsfeld zwischen dem EU-KI-Gesetz und der DSGVO. Die Identifizierung von Synergien und Spannungsfeldern zwischen verschiedenen Standards ist einer der Punkte, die die Governance erschweren. Ein einheitlicher Governance-Ansatz kann die Effizienz jedoch verbessern, indem er Doppelarbeit reduziert, Compliance-Aktivitäten rationalisiert und eine konsistentere Überwachung aller geltenden Standards ermöglicht.

Vom Regelwerk zum Rahmenwerk: Der Weg zu effektiver und effizienter KI-Governance

Der erste Schritt zur Definition einer wirksamen KI-Governance für ein bestimmtes KI-System besteht darin, klar festzulegen, welche Standards geregelt werden müssen.

Dazu gehören:

• Gesetzliche Anforderungen wie das EU-KI-Gesetz und die DSGVO
• Interne Standards der Organisation, etwa Ethikrichtlinien oder Anforderungen an die Softwarequalität

Im nächsten Schritt sollten Organisationen analysieren, wie diese verschiedenen Standards miteinander in Beziehung stehen und interagieren. Dabei gilt es:

• Synergieeffekte zu identifizieren, um bestehende Prozesse effizienter zu gestalten
• Mögliche Spannungen zwischen Standards (z. B. zwischen Datenschutz und Bias-Reduktion) frühzeitig zu erkennen

Auf dieser Grundlage kann schließlich ein Governance-Rahmenwerk entwickelt werden, das sowohl effektiv (rechtlich und ethisch wirksam) als auch effizient (organisatorisch praktikabel) ist.

Die organisatorische Perspektive: Governance als Gesamtaufgabe

Während sich die Diskussion bisher auf die Governance einzelner KI-Systeme konzentriert hat, liegt die größere Herausforderung auf der Organisationsebene: Wie kann ein einheitlicher Ansatz für die gesamte Organisation koordiniert werden? Dies wirft weitere Fragen auf: Wie kann die Zusammenarbeit zwischen KI-Spezialisten und Datenschutzexperten koordiniert werden? Wie können organisatorische Werte in Rahmenwerke eingebettet werden, die in erster Linie darauf ausgelegt sind, gesetzliche Anforderungen zu erfüllen? Die Beantwortung all dieser Fragen würde den Rahmen dieses Beitrags sprengen. Es sei jedoch darauf hingewiesen, dass eine effektive Governance auf Systemebene letztlich von einer effektiven organisatorischen Governance abhängt.

War dieser Artikel hilfreich für Sie? Oder haben Sie weiterführende Fragen zu KI-Governance? Schreiben Sie uns einen Kommentar oder rufen Sie uns gerne an.