Alle WhitepaperWhitepaper · Version 1.1

    KI läuft – aber wer verantwortet das?

    KI-Governance im Mittelstand: Verantwortung, Leitplanken und Compliance

    Für Geschäftsführer und Führungsteams mittelständischer Unternehmen (50–2.000 Mitarbeitende), die KI bereits einsetzen oder planen: KI-Governance ist keine Bürokratiefrage, sondern eine Managementaufgabe mit direkten Konsequenzen für Wettbewerbsfähigkeit, Haftung und Vertrauen.

    Malte Lohrberg & Ralf MetternichJanuar 202618 Min. LesezeitKI-Governance & Compliance
    86 %
    der KMU erkennen KI als relevant
    DMB/Salesforce KI-Index 2025
    43 %
    haben keine KI-Strategie
    DMB/Salesforce KI-Index 2025
    35 Mio. €
    maximales Bußgeld nach EU AI Act
    EU AI Act, Art. 99
    08/2026
    Hochrisiko-KI-Pflichten in Kraft
    EU AI Act, Stufenplan

    Executive Summary

    KI-Governance ist Managementaufgabe – nicht Bürokratie

    Kernthese

    In den meisten Mittelstandsunternehmen läuft KI – aber niemand hat formal entschieden, wer dafür verantwortlich ist. Diese systemische Lücke wird mit jedem Monat größer und exponiert Geschäftsführer rechtlich, operativ und strategisch. KI-Governance ist die Antwort darauf – pragmatisch, schlank, wirksam.

    01 · Problem

    KI ohne Verantwortung

    Ungegovernte KI erzeugt konkrete rechtliche, operative und strategische Risiken, die unsichtbar bleiben – bis sie sich materialisieren. Drei Risikodimensionen treffen den Mittelstand zuerst.

    RisikodimensionKonkrete Konsequenz
    Rechtliches RisikoPersönliche GF-Haftung bei Verstößen gegen EU AI Act und NIS2. Bußgelder bis 35 Mio. € oder 7 % des weltweiten Jahresumsatzes.
    Operationales RisikoKI-Outputs ohne Qualitätskontrolle. Fehlentscheidungen in Vertrieb, HR oder Compliance. Datenlecks durch unzureichende Zugangskontrollen.
    ReputationsrisikoVertrauen von Kunden, Partnern und Investoren wird durch unkontrollierten KI-Einsatz beschädigt – besonders kritisch in B2B-Lieferketten.

    Marktrealität

    86 % der KMU erkennen KI als relevant, 43 % haben keine KI-Strategie, nur 23 % setzen KI wirksam um (DMB/Salesforce KI-Index 2025). Die Schere zwischen Adoption und Governance klafft weit auseinander – wer sie jetzt schließt, sichert sich einen strukturellen Vorteil.

    02 · Regulatorik

    Was heute schon gilt

    Compliance ist keine Zukunftsaufgabe. Drei regulatorische Entwicklungen greifen heute bereits – mit direkten Konsequenzen für Geschäftsführer im Mittelstand.

    ZeitpunktAnforderung
    Seit 2. Februar 2025Art. 4 EU AI Act: Nachweis ausreichender KI-Kompetenz für alle KI-nutzenden Mitarbeitenden. Keine Übergangsfrist.
    Ab August 2026Hochrisiko-KI-Pflichten: Transparenz- und Dokumentationspflichten in HR, Kreditvergabe, sicherheitskritischen Prozessen.
    FortlaufendOffenlegungspflicht für Chatbots und automatisierte Kommunikation. Nutzer müssen wissen, dass sie mit KI interagieren.
    Seit Dezember 2025NIS2 in Deutschland vollständig wirksam – persönliche GF-Haftung bis ins Privatvermögen für betroffene Sektoren ab 50 MA / 10 Mio. € Umsatz.

    Compliance als Wettbewerbsvorteil

    KI-Compliance ist kein Bürokratiethema. Wer jetzt einen Governance-Rahmen aufbaut, schafft gleichzeitig die Strukturen für skalierbare KI-Projekte – und wird in Lieferketten und Due-Diligence-Prozessen bevorzugt.

    Lieferketten-Compliance

    NIS2- und AI-Act-konforme Unternehmen werden als Partner bevorzugt. B2B-Kunden fragen zunehmend nach Nachweisen.

    Investoren und Banken

    KI-Governance ist Teil von Due-Diligence-Prozessen. Ohne Rahmen gelten Unternehmen als risikobehafteter.

    Talente

    Qualifizierte Mitarbeitende bevorzugen Unternehmen, die KI strukturiert und verantwortungsvoll einsetzen.

    Auditfähigkeit

    Dokumentation ist vor dem Audit vorhanden – nicht erst nach dessen Ankündigung in Panik erzeugt.

    03 · Governance-Modell

    Vier Dimensionen, die zusammenspielen

    Ein wirksames KI-Governance-Modell ist kein Einmalereignis, sondern ein kontinuierlicher Steuerungskreis aus vier Dimensionen.

    Präventiv

    Leitplanken vor dem Einsatz

    Rollen und Verantwortlichkeiten, Freigabeprozesse für neue KI-Tools, Datenstandards und No-Go-Zonen, schriftliche Richtlinien.

    Proaktiv

    Risiken früh erkennen

    Regulatorische Entwicklungen beobachten, sensible Use Cases früh identifizieren, Risikopriorisierung, Frühwarnsystem.

    Detektiv

    Laufende Kontrolle

    Nutzungs- und Zugriffsmonitoring, Output-Reviews, Audit-Trails für KI-Entscheidungen, Abweichungsreporting an die GF.

    Reaktiv

    Vorfälle managen

    Eskalations- und Abschaltprozesse für KI-Fehlfunktionen, Meldewege an Behörden (EU AI Act, NIS2), Incident-Dokumentation und Lessons-Learned-Schleife.

    Ohne Governance

    • Jede Abteilung entscheidet selbst – Insellösungen
    • Compliance-Fragen stoppen Projekte mitten im Rollout
    • Audit-Anfragen lösen Panik aus
    • KI-Fehler werden intern kaum bemerkt

    Mit Governance

    • Klare Rollen – schnellere Freigaben
    • Compliance ist von Anfang an eingeplant
    • Dokumentation ist bereits vorhanden
    • Abweichungen werden früh erkannt und korrigiert

    04 · Umsetzung

    Fünf Schritte zur belastbaren KI-Governance

    KI-Governance muss nicht kompliziert sein. Fünf Schritte beschreiben einen pragmatischen Pfad, der für Unternehmen ab 50 Mitarbeitenden in wenigen Wochen umsetzbar ist.

    1. 01

      Bestandsaufnahme (Woche 1–2)

      Alle aktiven KI-Systeme identifizieren. Wer nutzt was? Welche Daten werden verarbeitet? Ergebnis: eine KI-Landkarte als Grundlage.

    2. 02

      Risikoklassifikation (Woche 3–4)

      Tools nach EU AI Act-Risikostufen klassifizieren: minimal, begrenzt, hoch. Governance-Maßnahmen nach Risikoniveau priorisieren.

    3. 03

      Rollen und Leitplanken (Woche 5–6)

      Entscheidungsbefugnisse definieren. Richtlinie mit Freigabeprozessen, No-Go-Zonen und Datenstandards. Interner KI-Koordinator.

    4. 04

      Schulung und Nachweis (Woche 7–8)

      Art. 4 AI Act verlangt nachweisbare KI-Kompetenz. Zielgruppenspezifische Trainings durchführen und dokumentieren.

    5. 05

      Monitoring (ab Monat 3)

      Zugangskontrollen, monatlicher Review-Termin für die GF, Eskalationswege für Vorfälle, Frühwarnsignale einbinden.

    05 · Anwendungsbereiche

    Use Cases und ihre Governance-Anforderungen (Kurzübersicht)

    Kurzübersicht: Verschiedene KI-Einsatzbereiche brauchen unterschiedliche Leitplanken. Vier Muster decken die Mehrheit der mittelständischen Anwendungsfälle ab. Vertiefung und Use-Case-spezifische Checklisten im Whitepaper „KI-Einführung im Mittelstand“.

    Generative KI im Wissenszugriff

    Klare Datenfreigaben für interne Assistenten. Offenlegungspflicht gegenüber Nutzern. Menschliche Freigabe für ausgehende Kommunikation.

    Dokumenten- und Vertragsprüfung

    Audit-Trail für KI-Outputs. Datenschutz bei externen Dokumenten. Klare Verantwortungsübergabe zwischen KI und Prüfer.

    KI in sensiblen Prozessen

    HR, Finanz, Compliance fallen häufig unter Hochrisiko-KI. Explizite Dokumentation, regelmäßige Audits, menschliche Endentscheidung zwingend.

    Automatisierung von Workflows

    Fehlereskalationswege definieren, Monitoring auf Ausnahmen, regelmäßige Überprüfung der Automatisierungslogik.

    Häufigstes Muster gescheiterter Projekte

    In rund der Hälfte der von Resilience Bakery analysierten Mittelstandsprojekte (n=18, 2023–2026) wiederholt sich dasselbe Bild: Tools wurden eingeführt, aber die Prozesse blieben unverändert. Daten waren vorhanden, aber Entscheidungswege nutzten sie nicht. Governance schließt genau diese Lücke – sie verbindet Tool, Prozess und Rollen zu einem belastbaren Steuerungssystem.

    06 · Fallstudie

    Maschinenbauer mit KI-Chaos

    Branche: Sondermaschinenbau · 220 Mitarbeitende · Projektzeitraum: 14 Wochen. Ausgangslage: zwölf parallele KI-Initiativen ohne übergreifende Struktur. Vorgehen: Bestandsaufnahme, Priorisierung, Governance-Design, operative Verankerung, Early-Warning-Dashboard. Methodik: anonymisierter Kundenbericht, Projektzeitraum Q3 2025, Messung nach 6 Monaten Betrieb gegen Baseline vor Projektstart.

    −67 %

    weniger aktive KI-Piloten

    Fokus statt Streuung. Vier priorisierte Use Cases mit klarer Verantwortung lösen zwölf konkurrierende Initiativen ab.

    100 %

    AI-Act-Compliance

    Alle KI-nutzenden Mitarbeitenden mit dokumentiertem Kompetenznachweis nach Art. 4 EU AI Act.

    4,5×

    höhere Nutzungsrate

    In den priorisierten Prozessen – durch klare Rollen, eingebettete Freigaben und sichtbares GF-Commitment.

    07 · Serie & Autoren

    Über diese Whitepaper-Serie

    Dieses Dokument ist Teil 2 der Resilience Bakery Whitepaper-Serie zu organisationaler Resilienz und KI im Mittelstand.

    Teil 1

    Organisationale Resilienz

    Sechs Erfolgsfaktoren und das Resilienz-Trilemma als Grundlage.

    Teil 2

    KI-Governance im Mittelstand

    Sie lesen gerade diesen Teil – Regulatorik, vier Governance-Dimensionen, 5-Schritte-Pfad.

    Teil 3

    Resilienz-Reifegradmodell

    EFQM und TEMP-Framework, fünf Reifegrade von reaktiv bis antizipativ.

    Teil 4

    KI-Readiness

    Sechs Readiness-Dimensionen und der Pfad zur Wirkung.

    Teil 5

    KI-Einführung im Mittelstand

    Vier Phasen, sieben Fallstricke, zwei Fallstudien.

    Autoren

    Malte Lohrberg & Ralf Metternich

    Resilience Bakery begleitet mittelständische Unternehmen bei organisationaler Resilienz und strukturierter KI-Einführung – mit Diagnostik, Beratung und Training. Kontakt: lohrberg@resilience-bakery.de · LinkedIn: linkedin.com/in/maltelohrberg

    Alle Whitepapers

    Übersicht aller Teile und Download als PDF: resilience-bakery.de/whitepaper

    08 · Fazit

    Verantwortung als strategischer Vorteil

    KI läuft. Die Frage ist nicht mehr, ob KI eingesetzt wird – sondern ob der Einsatz verantwortet wird. Jetzt strukturiert starten: KI-Governance-Standortbestimmung im Resilienz-Check in ca. 3 Minuten, klare Risikolandkarte, sofort umsetzbare Handlungsempfehlungen – auf Wunsch mit anschließendem Orientierungsgespräch (30 Minuten, unverbindlich). Kontakt: lohrberg@resilience-bakery.de.

    Weitere Whitepaper

    Whitepaper · Oktober 2025

    Hybride Organisationen

    Wie Unternehmen Führungsstrukturen, Prozesse und Kultur neu denken müssen, um im Zeitalter agentischer KI wettbewerbsfähig und resilient zu bleiben.

    Whitepaper lesen

    Whitepaper · Februar 2026

    KI-Wirkung statt KI-Aktionismus

    86 % der KMU erkennen KI als relevant, nur 23 % setzen sie wirksam um. Diese Lücke hat einen Namen: das Umsetzungsproblem. Es ist kein Technologieproblem – es ist ein Organisationsproblem.

    Whitepaper lesen

    Whitepaper · März 2026

    Was ist organisationale Resilienz?

    Für Geschäftsführer und Führungsteams mittelständischer Unternehmen (50–2.000 Mitarbeitende): Organisationale Resilienz ist keine Krisenfähigkeit, sondern die strategische Kernkompetenz des 21. Jahrhunderts. Sechs Dimensionen entscheiden darüber, ob Unternehmen Störungen überstehen – oder sie nutzen.

    Whitepaper lesen

    Whitepaper · März 2026

    Resilienz-Reifegradmodell

    Für Geschäftsführer und Führungsteams mittelständischer Unternehmen (50–2.000 Mitarbeitende): Fünf Reifegrade von reaktiv bis antizipativ – mit klaren Kriterien für jede Stufe. Das Reifegradmodell macht Stärken, Schwächen und den nächsten Entwicklungsschritt sichtbar.

    Whitepaper lesen

    Whitepaper · März 2026

    KI-Readiness: Bin ich bereit?

    Für Geschäftsführer und Führungsteams mittelständischer Unternehmen (50–2.000 Mitarbeitende), die KI einführen oder skalieren wollen: KI-Readiness ist kein technischer Zustand. Sie ist ein organisationaler – und entscheidet darüber, ob KI-Investitionen Wirkung entfalten oder verpuffen. Technische Infrastruktur macht nur 20 % aus.

    Whitepaper lesen

    Whitepaper · April 2026

    KI-Einführung im Mittelstand

    Für Geschäftsführer und Projektverantwortliche mittelständischer Unternehmen (50–2.000 Mitarbeitende): Sieben von zehn KI-Projekten scheitern – nicht an der Technologie, sondern an der Einführung. Vier Phasen, klare Use-Case-Priorisierung und Führungseinbindung machen den Unterschied.

    Whitepaper lesen

    Whitepaper · April 2026

    Führung in hybriden Organisationen

    Die größte Veränderung durch KI betrifft nicht die Technologie. Sie betrifft Führung. Drei neue Rollen, fünf Kernkompetenzen und vier Spannungsfelder definieren Führung in hybriden Organisationen.

    Whitepaper lesen

    Whitepaper · Juli 2026

    Vertrauen in Resilienz ist nicht gleich nachgewiesene Resilienzfähigkeit

    Wie Unternehmen valide, KI-gestützte Resilienz aufbauen – statt sich auf gefühlte Sicherheit zu verlassen.

    Whitepaper lesen

    Whitepaper · Juli 2026

    EU AI Act: Was der Mittelstand jetzt wirklich wissen muss

    Wie Unternehmen zwischen konkretem Handlungsdruck und einer verschobenen Hochrisiko-Frist navigieren – und Compliance zum Teil organisationaler Resilienz statt zur Bürokratiepflicht machen.

    Whitepaper lesen