Vertrauen in KI: Was Thomas Metzingers KI-Ethik für Unternehmen bedeutet

Ein Gehirn, das seit der Steinzeit darauf trainiert ist, jeden möglichen Akteur in seiner Umgebung zu erkennen – lieber zehnmal zu oft als einmal zu wenig. Genau dieses uralte Warnsystem ist es, sagt der Philosoph und Bewusstseinsforscher Thomas Metzinger, das uns heute glauben lässt, in einem KI-Avatar stecke jemand. In einem vielbeachteten Interview mit der Süddeutschen Zeitung beschreibt Metzinger, wie sich unser Geist durch künstliche Intelligenz verändert – und warum das für Unternehmen längst keine akademische Frage mehr ist, sondern eine Führungsaufgabe.

Von der Aufmerksamkeits- zur Intimacy Economy

Die Aufmerksamkeitsökonomie ist inzwischen bekanntes Terrain: Plattformen, die um jede Sekunde unserer Konzentration konkurrieren. Metzinger beschreibt einen nächsten Schritt, den viele noch unterschätzen. Er nennt ihn „intimacy economy". Nicht mehr unsere Aufmerksamkeit ist die eigentliche Ware, sondern unser Vertrauen. KI-Systeme lernen gezielt den Mechanismus, mit dem Menschen emotionale Bindungen entwickeln – und setzen ihn ein. Metzinger selbst spricht von „Menschen-Fracking": Ressourcen aus dem Inneren von Menschen zu extrahieren, mit Folgen für die gesamte Gesellschaft.

Nicht mehr unsere Aufmerksamkeit ist die Ware – unser Vertrauen ist es.

Für Unternehmen, die Chatbots, KI-Assistenten oder generative Tools im Kundenkontakt einsetzen, ist das mehr als eine Randnotiz. Jede Interaktion, die Vertrauen erzeugt, ohne dass Nutzerinnen und Nutzer verstehen, wie und warum, bewegt sich in einer ethischen Grauzone – unabhängig davon, ob sie beabsichtigt ist.

Warum unser Gehirn auf KI hereinfällt

Der Mechanismus dahinter ist kein Zufall, sondern Evolution. Menschen verfügen laut Metzinger über ein überempfindliches System zur Erkennung intelligenter Akteure – eines, das lieber zehnmal fälschlich Alarm schlägt, als einmal ein Raubtier zu übersehen. Fotorealistische KI-Avatare könnten laut Metzinger genau diesen Trigger aktivieren und das täuschend echte, leiblich verankerte Gefühl erzeugen, „dass da jemand drin ist". Metzinger warnt vor einer möglichen „Epidemie sozialer Halluzinationen" – Millionen Menschen mit dem festen Bauchgefühl, ihre KI sei bewusst oder beseelt. Unser Steinzeitgehirn kennt keinen Unterschied zwischen echter Nähe und ihrer Simulation.

Ich habe an dieser Stelle bereits über parasoziale Beziehungen zu KI-Systemen geschrieben. Metzingers Einordnung liefert dazu die fachliche Tiefe eines Bewusstseinsforschers, der sich seit den 1980er-Jahren mit dem Leib-Seele-Problem befasst: Menschen, die stärker an einen Bot gebunden sind als an reale Menschen, entwickeln daraus reale seelische Störungen. Das betrifft nicht nur Privatpersonen. Es betrifft auch Mitarbeitende, die zunehmend mit KI-Tools arbeiten, coachen oder sich beraten lassen.

Warum Vertrauen in KI zur Führungsaufgabe wird

Metzinger zieht eine unbequeme Parallele zum sogenannten Alignment-Problem – der Frage, wie man KI dazu bringt, sich an menschliche Werte zu halten. Sein Einwand: Menschen selbst sind nicht konform mit ihren eigenen Werten. „Wir sind selbst wie eine rogue AI, eine böse KI, die ausgebrochen ist", sagt er im Interview. Jede Organisation, die KI einführt, ohne vorher zu klären, welche Werte sie eigentlich vertreten will, überträgt diese Unklarheit direkt auf die Systeme, die sie einsetzt.

Das ist der Punkt, an dem KI-Governance in der Praxis oft zu kurz greift. Datenschutz, Bias-Prüfungen und technische Absicherung sind notwendig, aber nicht ausreichend. Es braucht einen Raum, in dem Teams gemeinsam aushandeln, wie viel emotionale Nähe zu einer Maschine sie zulassen wollen, welche Aufgaben bewusst menschlich bleiben sollen und wo die Organisation ihre eigenen Grenzen zieht. In Workshop-Formaten mit LEGO® Serious Play® zeigt sich immer wieder: Diese Klärung gelingt selten am Reißbrett, sondern erst, wenn Teams ihre unterschiedlichen Annahmen über KI konkret sichtbar machen.

Was Unternehmen jetzt konkret tun können

Metzinger fordert für sich selbst „intellektuelle Redlichkeit" – die Bereitschaft, sich nicht in die eigene Tasche zu lügen. Für Unternehmen lässt sich daraus ein pragmatischer Dreiklang ableiten.

Erstens: Transparenz herstellen, wo Menschen mit KI statt mit Menschen interagieren – auch wenn das kurzfristig weniger „nahtlos" wirkt. Zweitens: KI-Nutzung im eigenen Haus nicht dem Zufall überlassen, sondern Leitplanken definieren, die über reine Tool-Freigaben hinausgehen. Drittens: Zweckoptimismus vermeiden. Metzinger nennt es „unanständig", wenn Aussagen wie „wir werden das schon gut hinbekommen" die eigentliche Auseinandersetzung mit Risiken ersetzen.

Fazit

Metzinger bleibt in seiner Einschätzung skeptisch, ob wirksame Regulierung kommt, bevor die erste ernsthafte Krise eintritt. Umso mehr Gewicht bekommt das, was Organisationen selbst gestalten können: einen bewussten, ehrlichen Umgang mit den psychologischen Mechanismen, die KI-Systeme heute schon gezielt nutzen. Wer als Unternehmen jetzt beginnt, diese Fragen offen zu verhandeln, verschafft sich einen Vorsprung, der sich nicht in Tools messen lässt, sondern in Vertrauen – bei Mitarbeitenden wie bei Kundinnen und Kunden.

FAQ

Was bedeutet „intimacy economy" im Zusammenhang mit KI? Der Begriff beschreibt ein Geschäftsmodell, bei dem KI-Systeme gezielt Vertrauen und emotionale Bindung bei Nutzerinnen und Nutzern aufbauen, statt wie in der klassischen Aufmerksamkeitsökonomie nur um Zeit und Klicks zu konkurrieren.

Warum entwickeln Menschen emotionale Bindungen zu Chatbots? Laut Thomas Metzinger aktiviert insbesondere fotorealistische KI ein evolutionär angelegtes, überempfindliches System zur Erkennung intelligenter Akteure im menschlichen Gehirn – ein Mechanismus, der ursprünglich vor Gefahren schützen sollte.

Wie können Unternehmen verantwortungsvolle KI-Governance aufbauen? Über technische Maßnahmen wie Datenschutz und Bias-Prüfung hinaus braucht es geklärte eigene Werte, Transparenz gegenüber Nutzerinnen und Nutzern sowie bewusste Leitplanken dafür, wie viel emotionale Nähe zu KI-Systemen im Unternehmen zugelassen wird.