KI-Governance im Unternehmen: Was die Geschichte von OpenAI lehrt

Claus Fesel
9. Aug.
5 Min. Lesezeit

2015 gründeten Sam Altman und Elon Musk ein Unternehmen mit einem erklärten Ziel: eine künstliche Intelligenz zu entwickeln, die der ganzen Menschheit nutzt – nicht nur einem Konzern. Als Non-Profit, ausdrücklich ohne Renditedruck, mit dem Versprechen, die mächtigste Technologie ihrer Zeit sicher und im Interesse aller zu entwickeln. Zehn Jahre später steht mit OpenAI eines der wertvollsten Technologieunternehmen der Welt da, mit kommerzieller Ausrichtung, milliardenschweren Investoren und einer Produktlogik, die mit der ursprünglichen Idee wenig gemein hat. Wer sich für KI-Governance im Unternehmen interessiert, findet in dieser Entwicklung mehr als eine spannende Silicon-Valley-Geschichte. Er findet ein Lehrstück darüber, warum man die Kontrolle über den eigenen KI-Einsatz nie vollständig an einen Anbieter delegieren sollte, so vertrauenswürdig dessen Selbstbeschreibung auch klingen mag.

Den Anstoß für diesen Text hat ein Podcast gegeben: Der Deutschlandfunk hat mit „Die OpenAI Story" die Entstehungsgeschichte des Unternehmens sauber chronologisch aufgearbeitet – von der idealistischen Gründung über den ChatGPT-Launch im November 2022 bis zur kurzzeitigen Entlassung und Wiedereinsetzung von Sam Altman im November 2023. Wer die Nachrichtenlage der letzten Jahre verfolgt hat, kennt die einzelnen Stationen bereits in Fragmenten. Der eigentliche Erkenntnisgewinn liegt in der Einordnung: Erst im zeitlichen Zusammenhang wird sichtbar, wie konsequent sich ein Unternehmen von seiner ursprünglichen Mission entfernen kann, ohne dass ein einzelner Moment als klarer Bruch erkennbar wäre. Für Unternehmen, die selbst KI-Systeme einsetzen oder deren Einsatz gerade erst regeln, lohnt sich genau dieser Blick auf die Mechanik des Wandels – nicht als Medienkonsum, sondern als Warnsignal.

Vom Non-Profit zum Tech-Imperium: eine Lehre in kleinen Schritten

Genau das ist der Punkt, der für Entscheiderinnen und Entscheider im Mittelstand relevant wird. OpenAI hat seine Ausrichtung nicht in einem einzigen dramatischen Schritt verändert. Es war eine Kette einzeln nachvollziehbarer Entscheidungen: der Aufbau einer gewinnorientierten Tochtergesellschaft, um Kapital für Rechenleistung zu beschaffen, die Priorisierung von Produktgeschwindigkeit gegenüber Sicherheitsbedenken, der Umbau der Unternehmensstruktur unter dem Druck von Wettbewerb und Investoren. Jede einzelne Entscheidung ließ sich für sich genommen gut begründen – Kapitalbedarf, Wettbewerbsdruck durch Google und andere Anbieter, die Notwendigkeit, Talente zu halten. In der Summe ergibt sich ein Unternehmen, das mit seinem Gründungsversprechen kaum noch etwas zu tun hat.

Wer KI-Systeme in seinem Unternehmen einsetzt, verlässt sich auf die Governance eines Anbieters, dessen eigene Ausrichtung sich in wenigen Jahren fundamental verschieben kann.

Das ist keine Kritik an einem bestimmten Unternehmen, sondern eine strukturelle Beobachtung: Kommerzielle KI-Anbieter stehen unter Wettbewerbs- und Kapitaldruck. Ihre Governance-Versprechen von heute sind keine Garantie für morgen. Genau deshalb kann Governance nicht allein beim Anbieter liegen – sie muss im eigenen Unternehmen verankert sein.

Der Kontrollverlust im Kleinen: was das OpenAI-Board-Wochenende zeigt

Ein Detail aus der Geschichte verdient besondere Aufmerksamkeit, weil es das Governance-Problem im Kleinen sichtbar macht: das Wochenende im November 2023, an dem der Aufsichtsrat von OpenAI Sam Altman entließ – und ihn binnen weniger Tage wieder einsetzen musste. Formal hatte das Board genau die Kontrollrechte, die eine funktionierende Governance-Struktur vorsieht. Es konnte die Geschäftsführung absetzen. Und trotzdem entschied am Ende nicht das Board über den Ausgang, sondern der Druck von Mitarbeitenden, die mit Kündigung drohten, und von Investoren, die ihr Kapital in Gefahr sahen.

Die Lehre daraus lässt sich nicht eins zu eins auf ein mittelständisches Unternehmen übertragen – die Machtverhältnisse sind andere. Aber das Grundmuster ist übertragbar: Formale Kontrollmechanismen sind wirkungslos, wenn die tatsächlichen Anreize und Abhängigkeiten dagegenstehen. Eine KI-Richtlinie im Intranet ist keine Governance, wenn niemand sie im Tagesgeschäft durchsetzt, weil der Termindruck im Vertrieb oder in der Produktion größer ist als die Bereitschaft, eine Freigabeschleife einzuhalten.

Drei Lektionen für KI-Governance im Unternehmen

Aus der Entwicklungsgeschichte von OpenAI lassen sich drei praktische Konsequenzen für den eigenen KI-Einsatz ableiten:

Vertrauen ersetzt keine Prüfung. Die Selbstbeschreibung eines Anbieters ("wir sind die Guten") ist Marketing, keine Governance-Grundlage. Unternehmen sollten eigene Kriterien für Datenschutz, Nachvollziehbarkeit und Haftung definieren – unabhängig davon, was der Anbieter verspricht.
Abhängigkeit ist ein Risiko, kein Zufall. Wer sich strategisch auf ein einzelnes KI-System verlässt, übernimmt automatisch dessen Risiken: Preisänderungen, Nutzungsbedingungen, strategische Kurswechsel. Eine bewusste Governance-Strategie plant diese Abhängigkeit von Anfang an ein, statt sie zu ignorieren.
Kontrolle braucht Struktur, nicht nur gute Absicht. Ein Gremium oder eine Richtlinie allein schützt nicht vor Fehlentwicklungen, wenn die tatsächlichen Anreize im Tagesgeschäft dagegen wirken. Governance funktioniert nur, wenn sie mit Verantwortlichkeiten, Zeitbudget und Konsequenzen hinterlegt ist – nicht als Absichtserklärung, sondern als gelebter Prozess.

Diese drei Punkte lassen sich in überschaubaren Unternehmen mit begrenzten Ressourcen durchaus mit vertretbarem Aufwand umsetzen. Es braucht keine eigene Compliance-Abteilung – aber es braucht klare Antworten auf einfache Fragen: Wer im Unternehmen darf über den Einsatz neuer KI-Tools entscheiden? Wie oft werden bestehende Freigaben überprüft? Und wer wird informiert, wenn ein Anbieter seine Nutzungsbedingungen, sein Preismodell oder seine Eigentümerstruktur ändert?

Warum Governance nicht dem Anbieter überlassen werden darf

Für kleine und mittlere Unternehmen im DACH-Raum bedeutet das konkret: KI-Governance ist keine Aufgabe, die mit der Auswahl eines seriösen Anbieters erledigt ist. Sie ist eine fortlaufende interne Führungsaufgabe – vergleichbar mit Informationssicherheit oder Compliance. Wer KI-Systeme im Tagesgeschäft einsetzt, sollte klären: Welche Entscheidungen dürfen KI-gestützt getroffen werden, welche nicht? Wer trägt die Verantwortung, wenn ein System falsch liegt? Wie reagiert die Organisation, wenn sich die Geschäftsbedingungen eines Anbieters über Nacht ändern?

Diese Fragen lassen sich nicht mit einer einmaligen Grundsatzentscheidung beantworten. Sie brauchen Strukturen, die im Unternehmen selbst verankert sind – und die regelmäßig überprüft werden, so wie sich auch die Anbieter selbst laufend verändern.

Praktisch heißt das für ein mittelständisches Unternehmen häufig: ein kleines, funktionsübergreifendes Gremium, das KI-Einsatz freigibt und regelmäßig überprüft; eine einfache Eskalationsroute, wenn Mitarbeitende Bedenken zu einem eingesetzten System haben; und ein fester Rhythmus, in dem die Geschäftsleitung sich mit den wichtigsten Entwicklungen bei den eigenen KI-Anbietern befasst – nicht erst dann, wenn ein Vorfall die interne Aufmerksamkeit erzwingt. Wichtig ist dabei weniger die Perfektion der Struktur als die Verbindlichkeit: Eine einfache Regel, die im Alltag tatsächlich befolgt wird, schützt mehr als ein umfassendes Regelwerk, das in der Schublade liegt.

Fazit: Geschichte als Frühwarnsystem

Die Geschichte von OpenAI ist auf den ersten Blick eine Erzählung über ein einzelnes Unternehmen. Auf den zweiten Blick ist sie ein Muster, das sich bei praktisch jedem schnell wachsenden Technologieanbieter wiederholen kann: große Visionen am Anfang, wachsender Druck durch Kapital und Wettbewerb, schleichende Verschiebung der Prioritäten. Dieses Muster ist nicht auf einen einzelnen Konzern beschränkt – es betrifft die gesamte Anbieterlandschaft, mit der mittelständische Unternehmen heute arbeiten, von großen internationalen Plattformen bis zu kleineren spezialisierten KI-Dienstleistern. Wer diese Dynamik kennt, verlässt sich weniger blind auf einzelne Anbieterversprechen und baut stattdessen eigene, tragfähige Strukturen für den KI-Einsatz auf – unabhängig davon, welcher Anbieter gerade als vertrauenswürdig gilt.

Genau diese Frage – wie eine KI-Governance aussieht, die tatsächlich trägt – steht im Zentrum beim gfo OrgSpace am 12. November in Berlin. Mein Beitrag ist ein Workshop „Die KI-Governance, die wir brauchen". Mit der LEGO® Serious Play®-Methode erarbeiten wir dort gemeinsam, welche Governance-Strukturen für die eigene Organisation tatsächlich passen – jenseits von Checklisten und Anbieterversprechen.

Häufig gestellte Fragen

Was bedeutet KI-Governance im Unternehmen konkret? KI-Governance umfasst alle internen Regeln, Zuständigkeiten und Kontrollmechanismen, die festlegen, wie ein Unternehmen KI-Systeme einsetzt, überwacht und verantwortet – unabhängig davon, welche Governance-Versprechen der jeweilige Anbieter macht.

Warum reicht es nicht, einem vertrauenswürdigen KI-Anbieter zu vertrauen? Weil sich die Ausrichtung von Anbietern unter Wettbewerbs- und Kapitaldruck verändern kann, wie die Entwicklung von OpenAI zeigt. Governance-Versprechen von heute sind keine verlässliche Grundlage für die Zukunft.

Wie fängt ein Mittelstandsunternehmen mit KI-Governance an? Am Anfang steht die Klärung, welche Entscheidungen KI-gestützt getroffen werden dürfen, wer dafür verantwortlich ist und wie das Unternehmen auf Änderungen bei Anbietern reagiert. Methoden wie LEGO® Serious Play® helfen, diese Strukturen im Team greifbar zu erarbeiten statt sie nur auf dem Papier festzuhalten.