TL;DR
Das Wichtigste zuerst
- KI-Governance beantwortet vier Fragen: welche Daten hinein dürfen, welche Ergebnisse hinaus dürfen, wer entscheidet und was im Zweifelsfall passiert.
- Pauschale Verbote beenden die Nutzung meist nicht, sondern verlagern sie ins Unsichtbare — Shadow AI entsteht typischerweise dort, wo das erlaubte Werkzeug fehlt oder spürbar schlechter ist als das verfügbare.
- Der EU AI Act stuft KI-Systeme risikobasiert nach Verwendungszweck ein; für Modelle mit allgemeinem Verwendungszweck gilt daneben ein eigener, modellbezogener Pflichtenstrang.
- Wer KI-Systeme einkauft und unter eigener Verantwortung einsetzt, ist Betreiber und nicht Anbieter — diese Rolle ist pro System zu bestimmen und kann sich bei eigener Weiterentwicklung verschieben.
- Artikel 4 verlangt Maßnahmen, um nach besten Kräften ein ausreichendes Maß an KI-Kompetenz sicherzustellen — unabhängig von der Risikoklasse, also auch beim Einsatz reiner Standardwerkzeuge.
- DSGVO-Berührungspunkte bleiben bestehen: Rechtsgrundlage, Auftragsverarbeitung, Betroffenenrechte, Datenminimierung — der AI Act ersetzt sie nicht.
- Ein tragfähiger Rahmen startet mit zwei Seiten Regeln, einer Positivliste und einem benannten Ansprechpartner — nicht mit einem 40-seitigen Dokument.
Das typische Ausgangsproblem der KI-Governance ist nicht fehlende Nutzung, sondern fehlender Überblick über die vorhandene. Einzelne Teams nutzen Chatassistenten für Entwürfe, Recherche und Auswertungen, während die formale Antwort auf die Frage "Nutzen wir KI?" noch "wir prüfen das" lautet. Diese Lücke ist das eigentliche Governance-Problem: Nicht die Nutzung ist riskant, sondern dass niemand weiß, welche Daten dabei das Haus verlassen, welche Ergebnisse ungeprüft in Kundenkommunikation und Entscheidungsvorlagen landen und wer im Schadensfall zuständig ist. Gleichzeitig ist die gegenteilige Reaktion — ein pauschales Verbot — in der Praxis schwer durchzusetzen, weil die Werkzeuge über private Geräte, Browsererweiterungen und in bestehende Software eingebaute Assistenzfunktionen ohnehin verfügbar sind. KI-Governance ist der Versuch, aus diesem Zustand einen bewussten zu machen: klare Regeln, ein guter freigegebener Standardweg, benannte Verantwortung und ein Überblick darüber, wo KI im Haus tatsächlich wirkt. Der regulatorische Druck aus EU AI Act und DSGVO gibt dem einen Termin, aber der betriebswirtschaftliche Grund ist älter — man kann nur steuern, was man kennt.
Was KI-Governance umfasst — und was sie nicht ist
KI-Governance beantwortet im Kern vier Fragen: Welche Daten dürfen in ein KI-System hinein? Welche Ergebnisse dürfen unter welchen Bedingungen wieder hinaus — in eine E-Mail, ein Angebot, eine Personalentscheidung? Wer entscheidet über Freigaben und trägt das Restrisiko? Und was passiert, wenn etwas schiefgeht oder ein Fall nicht in die Regeln passt? Alles Weitere ist Ausgestaltung.
Was Governance nicht ist: kein Verbotskatalog. Eine Regelung, die im Wesentlichen aus einer Liste untersagter Werkzeuge besteht, produziert keine Sicherheit, sondern Umgehung. Sie ist auch nicht deckungsgleich mit Datenschutz — der Datenschutz klärt die Zulässigkeit einer Verarbeitung personenbezogener Daten, sagt aber nichts darüber, ob ein generierter Text fachlich richtig ist oder ob ein Vertriebsangebot ungeprüft rausgehen darf. Und sie ist kein einmaliges Projekt mit Abschlussdokument, weil sich Werkzeuge, Modelle und Anwendungsfälle schneller ändern als jede Freigabe.
Drei Eigenschaften unterscheiden KI von klassischer Unternehmenssoftware und begründen den zusätzlichen Rahmen. Erstens ist die Ausgabe in der Praxis nicht reproduzierbar: Je nach Sampling-Einstellung, Modellversion und mitgegebenem Kontext kann dieselbe Eingabe unterschiedliche Ergebnisse liefern — klassische Freigabetests, die ein festes Ein-Ausgabe-Verhalten prüfen, greifen also nur begrenzt. Zweitens verlassen Eingaben bei Cloud-Diensten das eigene System, oft unbemerkt und in beliebiger Detailtiefe, weil ein Freitextfeld keine Feldvalidierung hat. Drittens sehen falsche Ergebnisse genauso überzeugend aus wie richtige — die Prüflast verschiebt sich auf den Menschen am Ende der Kette, und genau diese Prüfpflicht muss geregelt sein.
Der Steuerungsbedarf wächst deutlich, sobald Systeme nicht nur antworten, sondern handeln. Bei KI-Agenten, die Tools aufrufen, in Systeme schreiben oder Nachrichten versenden, ist die entscheidende Governance-Frage nicht mehr die Datenverarbeitung, sondern die Berechtigung: Welche Aktionen darf ein automatisierter Prozess ohne menschliche Bestätigung ausführen?
- Datenklassen: welche Informationen in welche Systemkategorie eingegeben werden dürfen
- Werkzeugfreigabe: welche Dienste ohne Rückfrage nutzbar sind und wie neue dazukommen
- Prüfpflichten: welche Ergebnisse ein Mensch vor Verwendung kontrolliert und dokumentiert
- Kennzeichnung: wann KI-Beteiligung intern oder gegenüber Dritten offengelegt wird
- Berechtigungen: welche Aktionen automatisierte Systeme selbstständig auslösen dürfen
- Zuständigkeit: wer entscheidet, wer beraten wird, wer im Vorfall informiert wird
Shadow AI: warum Verbote das Problem vergrößern
Shadow AI bezeichnet die Nutzung von KI-Werkzeugen außerhalb der freigegebenen und bekannten Wege — über private Accounts, private Geräte, Browsererweiterungen oder Assistenzfunktionen, die in bereits eingesetzte Software eingebaut wurden und nie als KI-Beschaffung durch eine Prüfung gelaufen sind. Der letzte Fall ist der unterschätzte: Ein bestehendes CRM, ein Ticketsystem oder eine Office-Suite aktiviert eine Assistenzfunktion, und damit ändert sich der Datenfluss, ohne dass jemand eine Entscheidung getroffen hat.
Die Motive dahinter sind selten böswillig. Menschen lösen die Aufgabe, für die sie bezahlt werden, mit dem besten verfügbaren Werkzeug. Wenn das erlaubte Werkzeug fehlt, langsamer ist, hinter drei Freigabestufen liegt oder schlicht schlechtere Ergebnisse liefert, entsteht ein Anreiz zur Umgehung — und zwar bei genau den Mitarbeitenden, die sich am stärksten engagieren. Ein Verbot ohne gleichwertige Alternative ändert an diesem Anreiz nichts, es entfernt nur die Möglichkeit, offen darüber zu sprechen.
Damit verschlechtert ein pauschales Verbot die Lage genau in den Punkten, die eigentlich abgesichert werden sollen: Es gibt keine Protokolle, weil die Nutzung über private Zugänge läuft. Es gibt keinen Auftragsverarbeitungsvertrag, weil kein Vertragsverhältnis besteht. Es gibt keine Prüfpflicht, weil niemand zugibt, dass ein Text generiert wurde. Und es gibt keinen Lerneffekt, weil die Organisation nicht erfährt, welche Anwendungsfälle tatsächlich funktionieren.
Der wirksamere Hebel ist Attraktivität statt Sanktion: ein zentral bereitgestellter, gut funktionierender Zugang zu leistungsfähigen Modellen — etwa über ein unternehmensweites LLM-Setup — kombiniert mit einer sanktionsfreien Bestandsaufnahme. Wer einmalig fragt, welche Werkzeuge im Haus tatsächlich genutzt werden, und dabei glaubhaft auf Konsequenzen verzichtet, bekommt eine belastbare Liste. Für besonders sensible Datenklassen kann ergänzend ein Weg über lokal betriebene Modelle sinnvoll sein, bei dem Eingaben das eigene Netz nicht verlassen.
- Typische Einfallstore: private Chat-Accounts, Browsererweiterungen, Assistenzfunktionen in bestehender SaaS, Automatisierungsplattformen, KI-Funktionen in Endgeräten
- Typische Auslöser: fehlendes freigegebenes Werkzeug, zu langsamer Freigabeprozess, unklare Regeln, spürbarer Qualitätsunterschied
- Gegenmittel: guter Standardweg, kurze Antragswege, sanktionsfreie Bestandsaufnahme, sichtbarer Ansprechpartner
Der EU AI Act in Grundzügen: risikobasiert nach Verwendungszweck — mit Sonderweg für Basismodelle
Der EU AI Act knüpft bei KI-Systemen nicht an der Technologie an, sondern am Verwendungszweck. Dasselbe Sprachmodell kann in einem Fall unter minimales Risiko fallen (Formulierungshilfe für interne Notizen) und im anderen in den Hochrisikobereich (Vorauswahl von Bewerbungen). Das ist die für die Praxis wichtigste Konsequenz: Die Risikoeinstufung erfolgt pro Anwendungsfall, nicht pro Werkzeug — ohne ein Verzeichnis der eigenen Anwendungsfälle lässt sie sich schlicht nicht durchführen.
Die Verordnung wird üblicherweise in vier Risikostufen zusammengefasst; für Modelle mit allgemeinem Verwendungszweck (General Purpose AI) gilt daneben ein eigener, modellbezogener Pflichtenstrang, der nicht am Verwendungszweck ansetzt. Hinzu kommt eine Rollenlogik: Der AI Act adressiert unter anderem Anbieter, die ein System entwickeln und unter eigenem Namen bereitstellen, und Betreiber, die es unter eigener Verantwortung einsetzen. Unternehmen, die KI-Systeme lediglich einkaufen und unter eigener Verantwortung einsetzen, sind dabei Betreiber und nicht Anbieter — die Rolle ist allerdings pro System zu bestimmen. Sie kann sich verschieben, wenn ein System wesentlich verändert, umgewidmet oder unter eigenem Namen weitergegeben wird — ein Punkt, den Unternehmen mit eigener Weiterentwicklung genau prüfen sollten.
Für Betreiber von Hochrisikosystemen sieht die Verordnung unter anderem vor: Nutzung entsprechend der Anbieteranweisung, menschliche Aufsicht durch dafür befähigte und mit Autorität ausgestattete Personen, Überwachung des Betriebs samt Meldung von Risiken und schwerwiegenden Vorfällen, Aufbewahrung der automatisch erzeugten Protokolle im eigenen Verantwortungsbereich sowie Information der betroffenen Beschäftigten und ihrer Vertretung vor dem Einsatz am Arbeitsplatz.
Unabhängig von der Risikoklasse steht Artikel 4: Anbieter und Betreiber von KI-Systemen müssen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere in ihrem Auftrag mit dem Betrieb und der Nutzung befasste Personen über ein ausreichendes Maß an KI-Kompetenz verfügen. Der Maßstab ist ausdrücklich kontextabhängig — technische Kenntnisse, Erfahrung, Ausbildung und Schulung, der Einsatzkontext und die Personengruppen, bei denen die Systeme eingesetzt werden, fließen ein. Eine bestimmte Zertifizierung schreibt die Verordnung nicht vor, was zwei Dinge bedeutet: Es gibt keine Ausrede über fehlende Vorgaben, und der Nachweis läuft über dokumentierte Inhalte, Zielgruppen und Teilnahme. Was das konkret für einzelne Rollen bedeutet, ist Thema des Bereichs KI-Kompetenz.
| Stufe | Beispiele für erfasste Anwendungen | Bedeutung für Betreiber |
|---|---|---|
| Unannehmbares Risiko (verbotene Praktiken) | Social Scoring, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (enge Ausnahmen aus medizinischen und Sicherheitsgründen), manipulative oder Schwächen ausnutzende Techniken zur Verhaltensbeeinflussung, ungezieltes Auslesen von Gesichtsbildern zum Aufbau von Gesichtserkennungsdatenbanken | Einsatz untersagt, soweit keine der eng gefassten Ausnahmen greift; relevanteste Prüffrage bei HR- und Überwachungssoftware |
| Hochrisiko | In den Anhängen benannte Bereiche, u. a. Beschäftigung und Personalauswahl, Kreditwürdigkeit, Zugang zu wesentlichen Diensten, Bildung, kritische Infrastruktur, sowie KI als Sicherheitsbauteil regulierter Produkte | Umfangreiche Anbieterpflichten; für Betreiber u. a. bestimmungsgemäße Nutzung, menschliche Aufsicht, Protokollaufbewahrung, Information der Beschäftigten |
| Transparenzpflichten (begrenztes Risiko) | Systeme im direkten Kontakt mit Menschen (Chatbots), synthetisch erzeugte oder manipulierte Inhalte, biometrische Kategorisierung und Emotionserkennung — soweit nicht bereits verboten oder als Hochrisiko eingestuft | Offenlegung gegenüber Betroffenen, Kennzeichnung generierter Inhalte |
| Minimales Risiko | Typische betriebliche Anwendungen: Entwürfe, Zusammenfassungen, Übersetzung, interne Suche | Keine spezifischen Systempflichten — die Kompetenzanforderung aus Artikel 4 und das Datenschutzrecht gelten trotzdem |
| Modelle mit allgemeinem Verwendungszweck (GPAI) | Große Sprach- und Multimodalmodelle als Basis vieler Anwendungen | Pflichten liegen primär beim Modellanbieter (u. a. Dokumentation, Informationen für nachgelagerte Anbieter); zusätzliche Stufe für Modelle mit systemischem Risiko |
DSGVO-Berührungspunkte: was der AI Act nicht ersetzt
Der EU AI Act tritt neben das Datenschutzrecht, er ersetzt es nicht. Sobald personenbezogene Daten im Spiel sind — und in Kundenkorrespondenz, Bewerbungsunterlagen, Support-Tickets und Kalendereinträgen sind sie es typischerweise — gelten die bekannten Anforderungen unverändert weiter. Eine vertiefte Darstellung findet sich unter DSGVO und KI; für die Governance sind vor allem fünf Punkte praxisrelevant.
Der unbequemste davon sind die Betroffenenrechte. Auskunft und Löschung lassen sich auf Ebene von Prompts, Protokollen und Wissensspeichern umsetzen, in den Gewichten eines trainierten Modells praktisch nicht. Daraus folgt eine Architekturentscheidung mit direkter Governance-Wirkung: Wer personenbezogene Daten über einen Retrieval-Ansatz wie RAG in den Kontext lädt, statt sie ins Training oder Fine-Tuning zu geben, behält die Löschbarkeit im Index — der Datensatz bleibt ein Datensatz und wird nicht Teil des Modells. Gelöst ist damit allerdings nur die Löschbarkeit, nicht die Übermittlung: Die Daten gehen bei jedem Abruf weiterhin im Prompt an den Modellanbieter, sodass Auftragsverarbeitung, Verarbeitungsort und Speicherfristen unverändert zu klären sind. Und die Löschung muss auch die aus den Daten berechneten Vektoren samt Caches und Sicherungen erfassen — sonst existiert der Datensatz im Index weiter.
Ebenso praktisch relevant: Zusicherungen von Anbietern zu Serverstandort, Speicherdauer und Trainingsnutzung gehören in den Vertrag, nicht auf die Produktseite. Für die Governance heißt das, dass die Werkzeugfreigabe eine Vertragsprüfung enthält und das Prüfergebnis mit Datum festgehalten wird, weil sich Konditionen ändern.
- Rechtsgrundlage: Auf welcher Grundlage werden die Daten verarbeitet — und im Beschäftigtenkontext gelten zusätzliche Anforderungen an Freiwilligkeit
- Auftragsverarbeitung und Drittlandtransfer: Vertrag mit dem Anbieter, geklärter Verarbeitungsort, dokumentierte Grundlage für Übermittlungen außerhalb der EU
- Betroffenenrechte: Auskunft, Berichtigung und Löschung müssen technisch umsetzbar bleiben — auch für Protokolle, Vektorindizes und Wissensspeicher
- Datenminimierung und Zweckbindung: Kein Kopieren ganzer Datenbestände in einen Assistenten, weil es bequem ist
- Automatisierte Einzelfallentscheidungen: Entscheidungen mit erheblicher Wirkung auf Personen brauchen besondere Betrachtung — hier überschneiden sich Datenschutz und AI Act direkt
- Dokumentation: Verzeichnis der Verarbeitungstätigkeiten aktualisieren, Erforderlichkeit einer Datenschutz-Folgenabschätzung prüfen
Die Bausteine eines praktikablen Rahmens
Ein funktionierender Governance-Rahmen besteht aus wenigen Artefakten, die tatsächlich gepflegt werden — nicht aus vielen, die einmal erstellt wurden. Die folgende Aufstellung beschreibt die Bausteine mit Zweck und realistischem Umfang für ein mittelständisches Unternehmen.
Das zentrale Dokument ist die KI-Richtlinie. Sie funktioniert nur, wenn sie in der Sprache der Belegschaft geschrieben ist und konkrete Fälle entscheidet statt Prinzipien zu formulieren. Nützlich ist ein einfaches Datenklassenmodell mit drei Stufen — öffentlich unbedenklich, intern, vertraulich oder personenbezogen — und die Zuordnung, welche Werkzeugkategorie für welche Stufe zulässig ist. Ein Satz wie "Kundendaten sind sorgsam zu behandeln" entscheidet nichts; "Bewerbungsunterlagen dürfen ausschließlich in System X verarbeitet werden" schon.
Die Werkzeugfreigabe braucht zwei Teile: eine kurze Positivliste dessen, was ohne Rückfrage genutzt werden darf, und einen niedrigschwelligen Weg, Neues prüfen zu lassen. Eine Positivliste ohne Antragsweg veraltet schnell und produziert wieder Shadow AI. Eine strukturierte Übersicht relevanter Kategorien und Anbieter kann dabei als Ausgangspunkt dienen, ersetzt aber die eigene Prüfung nicht — siehe das Tool-Verzeichnis.
Bei der Protokollierung ist zwischen zwei Ebenen zu trennen: technische Protokolle auf Systemebene (wer hat wann worauf zugegriffen) und fachliche Nachvollziehbarkeit (welche Entscheidung wurde KI-gestützt getroffen und von wem geprüft). Die erste Ebene liefert die IT, die zweite muss im Prozess verankert werden — meist als schlichter Vermerk im Fachsystem.
| Baustein | Zweck | Typischer Umfang |
|---|---|---|
| KI-Richtlinie | Verbindliche Regeln zu Datenklassen, zulässigen Werkzeugen, Prüfpflichten und Kennzeichnung | 2 bis 4 Seiten in verständlicher Sprache, mit Beispielen statt Prinzipien |
| Positivliste freigegebener Werkzeuge | Klärt ohne Rückfrage, was genutzt werden darf | Kurze Liste mit Zweck, zulässiger Datenklasse und Prüfdatum, plus Antragsweg für Neues |
| Use-Case-Register | Überblick über tatsächliche Anwendungsfälle; Grundlage jeder Risikoeinstufung | Tabelle mit Zweck, Daten, verantwortlichem Fachbereich, Werkzeug und Risikoeinschätzung |
| Rollenmodell | Ersetzt diffuse Zuständigkeit durch benannte Personen | Wenige benannte Rollen, keine neue Abteilung; Personalunion möglich |
| Schulung | Adressiert die Kompetenzanforderung aus Artikel 4 und senkt Fehlbedienung | Basismodul für alle, Vertiefung für Vielnutzer und Fachbereiche mit sensiblen Daten, dokumentierte Teilnahme |
| Prüf- und Freigabepflichten | Legt fest, welche Ergebnisse ein Mensch vor Verwendung kontrolliert | Kriterien nach Außenwirkung und Rechtsfolge, im jeweiligen Fachprozess verankert |
| Protokollierung | Nachvollziehbarkeit von Zugriffen und KI-gestützten Entscheidungen | Systemseitige Zugriffs- und Nutzungsprotokolle mit definierter Aufbewahrung, plus fachlicher Vermerk |
| Eskalations- und Meldeweg | Ein klarer Kanal für Zweifelsfälle, Fehler und Vorfälle | Benannte Adresse, zugesagte Reaktionszeit, kurze standardisierte Vorfalldokumentation |
Rollen und Zuständigkeiten
Der häufigste Konstruktionsfehler ist die Vollauslagerung an eine Funktion: Entweder "macht die IT" oder "macht der Datenschutz". Beides scheitert an derselben Stelle. Die IT kann Zugriffe, Netze und Protokolle steuern, aber nicht beurteilen, ob ein generierter Angebotstext fachlich vertretbar ist. Der Datenschutz kann die Zulässigkeit einer Verarbeitung prüfen, aber nicht das unternehmerische Restrisiko akzeptieren. Diese Entscheidung liegt bei der Geschäftsführung und beim Fachbereich, der den Prozess verantwortet.
Ein Rollenmodell für KI-Governance braucht deshalb keine neue Organisationseinheit, sondern benannte Zuständigkeiten in vorhandenen Strukturen. In kleineren Unternehmen können mehrere dieser Rollen in Personalunion liegen — entscheidend ist nur, dass sie benannt sind und die Person weiß, dass sie es ist.
Eine Rolle wird leicht zu spät einbezogen: die Beschäftigtenvertretung. Wo KI-Systeme Verhalten oder Leistung von Mitarbeitenden erfassen oder auswertbar machen können, sind mögliche Mitbestimmungsrechte zu prüfen — und zwar vor Einführung, nicht nach dem Rollout. Eine frühzeitig eingebundene Vertretung kann eine Einführung beschleunigen, weil Konflikte vorab geklärt werden und nicht erst im laufenden Betrieb auftauchen.
| Rolle | Verantwortung | Wer das typischerweise übernimmt |
|---|---|---|
| Gesamtverantwortung | Entscheidet über Freigaben, Ressourcen und Risikoakzeptanz | Geschäftsführung oder ein benanntes Mitglied der Leitung |
| Koordination KI | Führt Use-Case-Register und Positivliste, treibt Freigaben, erster Ansprechpartner | Eine Person mit Prozessverständnis, meist als Teilzeitanteil neben der Hauptrolle |
| IT und Informationssicherheit | Identitäten, Zugriffe, Netzwerk, Protokollierung, technische Durchsetzung der Regeln | Bestehende IT beziehungsweise IT-Dienstleister |
| Datenschutz | Rechtsgrundlage, Auftragsverarbeitung, Folgenabschätzung, Betroffenenrechte | Datenschutzbeauftragte Person, intern oder extern |
| Use-Case-Owner im Fachbereich | Kennt den Prozess, definiert Prüfpflicht, verantwortet Ergebnisqualität | Abteilungs- oder Teamleitung des jeweiligen Fachbereichs |
| Beschäftigtenvertretung | Prüfung möglicher Mitbestimmungsrechte bei Systemen, die Verhalten oder Leistung erfassen oder auswertbar machen | Vorhandenes Gremium, früh eingebunden |
| Externe Rechtsberatung | Auslegungsfragen, Vertragsprüfung, Einstufung kritischer Anwendungsfälle | Anlassbezogen, nicht dauerhaft |
Klein anfangen statt 40 Seiten schreiben
Umfangreiche Governance-Dokumente scheitern typischerweise an drei Punkten: Sie sind bei Fertigstellung teilweise veraltet, sie werden nicht gelesen, und sie beantworten die konkrete Frage einer Mitarbeiterin am Dienstagvormittag trotzdem nicht. Ein schlanker Rahmen, der gepflegt wird, schlägt ein vollständiges Regelwerk, das niemand kennt.
Eine Reihenfolge, die sich in der Praxis bewährt, beginnt mit Wissen statt mit Regeln. Wer zuerst schreibt und dann feststellt, dass ein Teil der Belegschaft längst anders arbeitet, muss zweimal ran. Der Punkt, an dem eine Richtlinie tatsächlich greift, ist nicht ihre Veröffentlichung, sondern der erste Fall, in dem jemand eine Frage stellt und binnen eines Tages eine klare Antwort bekommt. Wie eine solche Richtlinie aufgebaut ist und welche Formulierungen konkrete Fälle entscheiden, ist unter KI-Richtlinie dokumentiert.
Danach gilt Wartung statt Erweiterung. Ein fester Review-Turnus — realistisch quartalsweise — plus definierte Anlässe für eine Zwischenprüfung reichen: neues Werkzeug, neuer Anwendungsfall mit personenbezogenen Daten, Vorfall, geänderte Anbieterkonditionen, geänderte Rechtslage. Jede Version bekommt Datum und Verantwortliche, sonst weiß niemand, ob das Dokument im Intranet noch gilt.
Governance und technische Umsetzung entwickeln sich dabei parallel. Wer den Rahmen setzt, ohne den freigegebenen Weg technisch bereitzustellen, hat nur Regeln; wer die technische Basis baut, ohne Zuständigkeiten zu klären, bekommt ein System ohne Eigentümer. Die Verzahnung beider Stränge ist Thema der Übersicht zu Unternehmens-KI.
- Bestandsaufnahme ohne Sanktion: Welche Werkzeuge sind tatsächlich im Einsatz, für welche Aufgaben, mit welchen Daten?
- Zwei Seiten Regeln: Datenklassen, klare Ja-Nein-Beispiele, Prüfpflicht, Ansprechpartner
- Positivliste mit drei bis fünf Werkzeugen, die den Großteil der Anwendungsfälle abdecken
- Eine benannte Person plus Eskalationsadresse, sichtbar dort, wo Mitarbeitende suchen
- Basisschulung mit dokumentierter Teilnahme, zugeschnitten auf die tatsächlichen Anwendungsfälle
- Use-Case-Register aufsetzen und fortschreiben — Grundlage jeder späteren Risikoeinstufung
- Erst dann formalisieren, was sich bewährt hat, statt vorab alles zu regeln
Woran man erkennt, ob der Rahmen trägt
Governance lässt sich schwer über Vollständigkeit bewerten, aber gut über Verhalten. Ein tragender Rahmen erzeugt sichtbare Bewegung: Es kommen Anfragen, das Use-Case-Register wächst, Freigaben werden erteilt statt aufgeschoben, und Fehler werden gemeldet, statt still korrigiert. Ein Rahmen, zu dem keine Anfragen kommen, ist nicht automatisch ein Zeichen für Klarheit — er kann ebenso gut niemanden erreicht haben oder als Hindernis wahrgenommen werden.
Die aussagekräftigsten Signale sind qualitativ und ohne Werkzeugaufwand erhebbar. Wichtig ist dabei die Richtung der Kennzahl: Ein steigendes Register ist ein gutes Zeichen, weil es Sichtbarkeit misst, nicht Risiko. Und die Dauer von der Anfrage bis zur Entscheidung ist die relevanteste Zahl überhaupt — sie bestimmt, ob der offizielle Weg mit dem inoffiziellen konkurrieren kann.
Ebenso nützlich ist ein jährlicher Realitätsabgleich: eine kurze anonyme Abfrage, welche Werkzeuge tatsächlich genutzt werden, gegen die Positivliste gehalten. Die Differenz zwischen beidem ist das ehrlichste Governance-Kennzeichen, das ein Unternehmen bekommen kann.
- Zeit von der Werkzeuganfrage bis zur Entscheidung — in Tagen, nicht in Monaten
- Anzahl der erfassten Anwendungsfälle im Register und deren Entwicklung
- Anteil der Belegschaft mit dokumentierter Basisschulung
- Zahl gemeldeter Zweifelsfälle und Beinahe-Vorfälle (steigend ist zunächst ein gutes Zeichen)
- Differenz zwischen tatsächlich genutzten und freigegebenen Werkzeugen
- Alter der Richtlinie und Datum der letzten Prüfung der Anbieterkonditionen
Braucht unser Unternehmen jetzt einen formalen KI-Governance-Rahmen?
Passt, wenn
- KI-Werkzeuge werden nachweislich bereits genutzt, aber niemand kann sagen, von wem, wofür und mit welchen Daten
- Personenbezogene Daten aus Kunden-, Bewerber- oder Beschäftigtenkontext berühren KI-gestützte Prozesse
- Ein Anwendungsfall wirkt auf Entscheidungen über Personen — Auswahl, Bewertung, Zugang zu Leistungen
- KI-generierte Inhalte gehen nach außen: Angebote, Kundenkommunikation, Dokumentation, Veröffentlichungen
- Automatisierte Systeme sollen künftig eigenständig Aktionen auslösen, statt nur Vorschläge zu liefern
- Kunden, Auftraggeber oder Zertifizierungen fragen aktiv nach dem Umgang mit KI-Systemen
Passt nicht, wenn
- Es steht ein 40-seitiges Regelwerk zur Debatte, während weder eine Bestandsaufnahme noch ein freigegebenes Werkzeug existiert — dann zuerst diese beiden Schritte
- Der Rahmen soll erarbeitet werden, ohne dass eine Person Zeit dafür bekommt; ohne Zeitbudget entsteht ein Dokument ohne Wirkung
- Die Governance wird als Ersatz für eine ausstehende Entscheidung genutzt, ob und wofür KI überhaupt eingesetzt werden soll
- Ein Einzelunternehmen oder Kleinstteam ohne personenbezogene Verarbeitung — hier reichen dokumentierte Grundregeln für den eigenen Gebrauch
- Der Anlass ist ein einzelner Pilot mit drei Beteiligten und unkritischen Daten — Regeln für den Pilot genügen, der Gesamtrahmen folgt nach der Auswertung
- Externe Zertifizierung wird angestrebt, bevor überhaupt ein Anwendungsfall produktiv läuft
Häufige Fehler
- Governance als Verbotsliste anlegen Eine Regelung, die vor allem sagt, was nicht erlaubt ist, ohne einen guten erlaubten Weg zu benennen, verlagert die Nutzung tendenziell in private Accounts. Danach fehlen Protokolle, Verträge und jede Prüfmöglichkeit — die Risiken sind nicht kleiner, nur unsichtbar.
- Das Dokument mit dem Ergebnis verwechseln Ein umfangreiches Regelwerk ohne benannten Ansprechpartner, ohne Positivliste und ohne Antragsweg verändert das tägliche Verhalten nicht. Entscheidend ist, ob jemand innerhalb eines Tages eine verbindliche Antwort auf einen konkreten Fall bekommt.
- Alles an IT oder Datenschutz delegieren Beide Funktionen sind notwendig, aber keine von beiden kann die fachliche Qualität eines KI-gestützten Ergebnisses beurteilen oder das unternehmerische Restrisiko akzeptieren. Diese Verantwortung liegt beim Fachbereich und bei der Geschäftsführung und muss explizit zugewiesen werden.
- Werkzeuge auf Basis von Marketingaussagen freigeben Formulierungen wie "EU-Server" oder "keine Nutzung für Training" gehören in den Vertrag, nicht auf die Produktseite. Zur Freigabe gehört eine dokumentierte Vertragsprüfung mit Datum — und eine erneute Prüfung, wenn der Anbieter seine Konditionen ändert.
- Ohne Use-Case-Register regulieren Die Risikoeinstufung nach AI Act erfolgt bei KI-Systemen pro Anwendungsfall, nicht pro Werkzeug. Wer nicht weiß, welche Anwendungsfälle im Haus existieren, kann weder einstufen noch Prüfpflichten sinnvoll setzen — dasselbe Werkzeug kann harmlos und hochriskant zugleich eingesetzt werden.
- Schulung als einmaliges Pflichtvideo abhaken Die Anforderung aus Artikel 4 zielt auf tatsächliche Handlungsfähigkeit im jeweiligen Einsatzkontext, nicht auf einen Teilnahmeklick. Wirksam sind kurze, rollenspezifische Formate mit echten Beispielen aus dem eigenen Betrieb und regelmäßiger Auffrischung.
Häufige Fragen
Was ist KI-Governance?
KI-Governance ist der organisatorische Rahmen für den Einsatz von KI im Unternehmen: Er legt fest, welche Daten in welche Systeme dürfen, welche Werkzeuge freigegeben sind, wer entscheidet, welche Ergebnisse geprüft werden müssen und was im Zweifelsfall passiert. Typische Bestandteile sind eine Richtlinie, eine Positivliste von Werkzeugen, benannte Rollen, Schulung, Protokollierung und ein Eskalationsweg. Ziel ist nicht, Nutzung zu verhindern, sondern sie steuerbar und nachvollziehbar zu machen.
Braucht ein kleines Unternehmen KI-Governance?
Ja, aber in stark reduziertem Umfang. Für ein kleines Team ohne eigene Compliance-Funktion reichen in der Regel zwei Seiten verständlicher Regeln, eine Liste von drei bis fünf freigegebenen Werkzeugen und eine benannte Ansprechperson. Der Aufwand wächst erst dann deutlich, wenn KI in Prozesse mit Rechtsfolgen für Personen einzieht — etwa in Personalauswahl oder Bonitätsbewertung.
Was ist Shadow AI?
Shadow AI ist die Nutzung von KI-Werkzeugen außerhalb der freigegebenen und der IT bekannten Wege — über private Accounts, private Geräte, Browsererweiterungen oder Assistenzfunktionen, die in bestehende Software eingebaut wurden. Sie ist problematisch, weil keine Protokolle, keine Auftragsverarbeitungsverträge und keine Prüfpflichten greifen. Dahinter steht selten Regelverstoß aus Prinzip, sondern meist ein fehlender oder spürbar schlechterer freigegebener Alternativweg.
Hilft ein Verbot von ChatGPT im Unternehmen?
Nur begrenzt, und es hat einen unerwünschten Nebeneffekt. Da die Werkzeuge über private Geräte und Browser verfügbar bleiben, verschiebt ein pauschales Verbot die Nutzung eher in den unsichtbaren Bereich, als sie zu beenden. Wirksamer ist ein zentral bereitgestellter, gut funktionierender Zugang mit geklärten Vertragsbedingungen, kombiniert mit klaren Regeln zu Datenklassen. Wie ein Verbot arbeitsrechtlich wirksam ausgestaltet werden kann, ist im Einzelfall zu prüfen — dieser Text ist eine fachliche Einordnung, keine Rechtsberatung.
Was verlangt der EU AI Act von normalen Unternehmen?
Unternehmen, die KI-Systeme einkaufen und unter eigener Verantwortung einsetzen, sind Betreiber und nicht Anbieter; die Rolle ist dabei pro System zu bestimmen. Für Anwendungsfälle mit minimalem Risiko — Entwürfe, Zusammenfassungen, interne Suche — entstehen keine spezifischen Systempflichten, wohl aber die Kompetenzanforderung aus Artikel 4. Aufwendiger wird es bei Anwendungen in den als hochriskant eingestuften Bereichen wie Personalauswahl oder Kreditwürdigkeit, wo unter anderem menschliche Aufsicht, Protokollaufbewahrung und Information der Beschäftigten hinzukommen. Welche Stufe für einen konkreten Anwendungsfall gilt, ist im Einzelfall rechtlich zu prüfen — dieser Text ist eine fachliche Einordnung, keine Rechtsberatung.
Was besagt Artikel 4 des EU AI Act zur KI-Kompetenz?
Artikel 4 verpflichtet Anbieter und Betreiber, Maßnahmen zu ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und Personen, die in ihrem Auftrag mit KI-Systemen arbeiten, über ein ausreichendes Maß an KI-Kompetenz verfügen. Der Maßstab ist kontextabhängig und berücksichtigt technische Kenntnisse, Erfahrung, Ausbildung und Schulung sowie den Einsatzkontext und die Personengruppen, bei denen die Systeme eingesetzt werden. Eine bestimmte Zertifizierung schreibt die Verordnung nicht vor — der Nachweis läuft über dokumentierte Schulungsinhalte, Zielgruppen und Teilnahme. Was im Einzelfall ausreicht, ist eine Auslegungsfrage; dieser Text ordnet fachlich ein und ersetzt keine Rechtsberatung.
Ersetzt der EU AI Act die DSGVO?
Nein, beide gelten nebeneinander. Der AI Act regelt Produktsicherheit und Risiko von KI-Systemen, die DSGVO die Verarbeitung personenbezogener Daten. Ein Anwendungsfall kann datenschutzrechtlich zulässig und trotzdem als Hochrisikoanwendung einzustufen sein — und umgekehrt reicht eine niedrige AI-Act-Risikoklasse nicht aus, um eine fehlende Rechtsgrundlage zu ersetzen. Welche Anforderungen sich daraus für einen konkreten Fall ergeben, gehört in die rechtliche Einzelfallprüfung — hier steht eine fachliche Einordnung, keine Rechtsberatung.
Wer ist im Unternehmen für KI-Governance verantwortlich?
Die Gesamtverantwortung liegt bei der Geschäftsführung, weil dort Freigaben und Risikoakzeptanz entschieden werden. Operativ braucht es eine benannte Koordinationsrolle mit festem Zeitbudget, die Register und Freigabeliste führt, sowie Zulieferung von IT, Datenschutz und den Fachbereichen als Verantwortliche der einzelnen Anwendungsfälle. Eine neue Abteilung ist dafür in aller Regel nicht nötig, benannte Personen dagegen schon.
Wie lang sollte eine KI-Richtlinie sein?
Zwei bis vier Seiten reichen für viele Unternehmen aus und werden erfahrungsgemäß eher gelesen als ein umfangreiches Regelwerk — eine rechtliche Vorgabe zum Umfang gibt es nicht. Sie sollte konkrete Fälle entscheiden statt Prinzipien zu formulieren: welche Datenklassen in welche Werkzeuge dürfen, welche Ergebnisse vor Verwendung geprüft werden, wann KI-Beteiligung gekennzeichnet wird und an wen man sich bei Zweifeln wendet. Ergänzend gehören Versionsdatum, verantwortliche Person und ein fester Review-Turnus dazu.
Was gehört in ein KI-Use-Case-Register?
Für jeden Anwendungsfall: Zweck und Prozess, eingesetztes Werkzeug oder Modell, verarbeitete Datenkategorien, verantwortlicher Fachbereich, Art der menschlichen Prüfung und die Risikoeinschätzung. Das Register ist die Grundlage jeder Einstufung nach AI Act, weil die Risikoklasse eines KI-Systems am Verwendungszweck hängt und nicht am Werkzeug. Eine gepflegte Tabelle reicht dafür in kleineren Organisationen vollkommen aus.
Weiterlesen
Verwandte Themen
Geschrieben von
Christian Ohle
KI-Entwickler & Online-Marketer · seit 2005 im Web
Seit 2005 mit dem Web: Online-Marketing, Coding, lokale KI. Schreibt hier über Unternehmens-KI, Wissensmanagement, RAG, KI-Agenten und Automatisierung — alles selbst gebaut und getestet, inklusive der Setups, die nicht funktioniert haben.
christianohle.de ist ein persönliches Projekt — kein Beratungsangebot, keine Agentur und keine Akquise-Plattform. Mehr dazu.