IT Glossary

KI-Governance

KI-Governance legt fest, welche KI-Tools wofür, mit welchen Daten und unter wessen Verantwortung genutzt werden. Bausteine, Frameworks und Monitoring.

November 2, 2026

Was ist KI-Governance?

KI-Governance ist der unternehmensweite Rahmen aus Richtlinien, Rollen und Kontrollen, der festlegt, welche KI-Tools und -Modelle für welche Zwecke, mit welchen Daten und unter wessen Verantwortung genutzt werden dürfen, und wie Nutzung, Risiken und Kosten laufend überwacht werden. Sie umfasst gekaufte KI-Tools, KI-Funktionen in bestehenden SaaS-Anwendungen und selbst entwickelte Modelle, nicht nur autonome Agenten.

Das Wichtigste in Kürze

  • KI-Governance legt unternehmensweit fest, welche KI-Tools wofür, mit welchen Daten und unter wessen Verantwortung genutzt werden dürfen.
  • KI-Governance ist breiter als KI-Agenten-Governance, die sich auf Identitäten, Berechtigungen und Aktionen autonomer Agenten konzentriert.
  • Das NIST AI Risk Management Framework (AI RMF 1.0), veröffentlicht am 26. Januar 2023, ist für die freiwillige Anwendung gedacht.
  • ISO/IEC 42001:2023 legt Anforderungen an ein Managementsystem für künstliche Intelligenz fest und macht KI-Governance damit prüfbar.

So funktioniert KI-Governance

  • Inventar: ein Register der genutzten KI-Tools, KI-Funktionen und Modelle, auch solcher ohne Freigabe der IT, mit Nutzenden und Kosten.
  • Freigabeprozess: ein definierter Weg, um ein neues KI-Tool zu beantragen, mit Sicherheits-, Rechts- und Datenprüfung vor der Einführung.
  • Datenregeln: welche Datenkategorien in welche Tools dürfen, etwa keine personenbezogenen Kundendaten in ein Tool ohne Auftragsverarbeitungsvertrag nach DSGVO.
  • Verantwortliche: je Tool eine benannte fachliche und eine technische Verantwortung, zuständig für Nutzung und Verlängerung.
  • Monitoring und Review: Nutzung, Zugriffe und Ausgaben werden laufend verfolgt, und das gesamte Register wird in festem Rhythmus überprüft, etwa jedes Quartal.

KI-Governance oder KI-Agenten-Governance: Wo endet was?

  • KI-Governance: die unternehmensweite Ebene. Sie regelt jede KI-Nutzung, vom Chat-Assistenten bis zur KI-Funktion im CRM, und dokumentiert, wer auf welcher Grundlage und mit welchen Daten entschieden hat.
  • KI-Agenten-Governance: eine engere Ebene für autonome Agenten, die in Systemen handeln. Sie behandelt Agenten-Identitäten, delegierte Berechtigungen, Tokens und Aktionsprotokolle.

Ein Unternehmen kann zwei interne Agenten streng kontrollieren und trotzdem nicht wissen, welche 30 KI-Tools die Belegschaft nutzt. Veröffentlichte Frameworks helfen, die breitere Ebene zu strukturieren. Das NIST AI Risk Management Framework, veröffentlicht am 26. Januar 2023 und für die freiwillige Anwendung gedacht, gliedert die Arbeit in die Funktionen Govern, Map, Measure und Manage. ISO/IEC 42001:2023 legt Anforderungen an ein Managementsystem für künstliche Intelligenz (AIMS) fest, aufgebaut wie andere ISO-Managementsystemnormen, etwa ISO/IEC 27001. Im deutschsprachigen Raum ergänzen die Veröffentlichungen des BSI zu generativen KI-Modellen diese Referenzen.

Beispiele und Anwendungsfälle

Ein Fintech mit 250 Mitarbeitenden will vor dem nächsten Sicherheitsfragebogen eines Grosskunden eine praxistaugliche KI-Richtlinie. Das erste Inventar findet 19 KI-Tools, darunter denselben Schreibassistenten, den drei Teams getrennt bezahlen, und für die meisten keine benannte Verantwortung. Die KI-Governance folgt dann den Bausteinen: ein freigegebenes Tool pro Bedarf, eine Verantwortung pro Tool, Datenregeln in der Richtlinie und ein quartalsweises Review von Nutzung und Ausgaben.

Corma übernimmt Inventar und Monitoring: Die Plattform erkennt die genutzten KI-Tools inklusive Shadow AI, erfasst Lizenzen, Kosten und Verlängerungen, überwacht die KI-Ausgaben und führt Access Reviews mit Auditnachweisen durch, damit jedes Quartalsreview auf aktuellen Daten beruht.

Verwandte Begriffe

FAQ

Was gehört zu einem KI-Governance-Framework?

Ein Inventar der KI-Tools, ein Freigabeprozess, Datenregeln, benannte Verantwortliche, Monitoring von Nutzung und Kosten sowie ein Review-Zyklus. Referenzen wie das NIST AI RMF und ISO/IEC 42001 helfen bei der Strukturierung.

Ist das NIST AI Risk Management Framework verpflichtend?

Nein. Das NIST AI RMF 1.0, veröffentlicht am 26. Januar 2023, ist für die freiwillige Anwendung gedacht.

Was ist ISO/IEC 42001?

ISO/IEC 42001:2023 ist die internationale Norm, die Anforderungen an ein Managementsystem für künstliche Intelligenz (AIMS) festlegt, also an die Prozesse, mit denen eine Organisation ihre KI-Nutzung steuert.

Wer ist im Mittelstand für KI-Governance zuständig?

Meist eine kleine Gruppe: IT oder Informationssicherheit für Tools und Zugriffe, Rechtsabteilung oder Datenschutzbeauftragte für Datenregeln und Finanzen für Ausgaben, mit einer Person, die für das KI-Register verantwortlich ist.

Demo anfragen