ki zwischen weltuntergang und verantwortung

KI zwischen Weltuntergang und Verantwortung

Warum du diesen Text lesen solltest

Wer sich mit Künstlicher Intelligenz beschäftigt, wird schnell auf die großen Fragen angesprochen: Werden wir Menschen irgendwann überflüssig? Was passiert mit unserer Arbeit? Wird KI neue und bessere Jobs schaffen? Kann sie Krebs besiegen oder den Klimawandel lösen? Und was, wenn am Ende alles außer Kontrolle gerät?

Ich werde das regelmäßig gefragt. Auch in Kundengesprächen tauchen diese Fragen immer wieder auf - manchmal direkt, manchmal eher im Hintergrund, wenn es eigentlich um einen konkreten KI-Anwendungsfall geht. Das zeigt, wie stark die lauten Zukunftserzählungen verfangen. Und es zeigt, dass viele Menschen nicht nur Informationen suchen, sondern Orientierung und Antworten auf sehr grundlegende Ängste.

Genau darum geht es in diesem Beitrag. Ich möchte die großen Fragen nicht kleinreden und auch keine einfache Antwort auf die Zukunft der KI behaupten. Ich möchte zeigen, warum es sich lohnt, den Blick aus der manchmal sehr lauten Debatte zurück in die Gegenwart zu holen - dorthin, wo Unternehmen, Teams und Kunden heute bereits Entscheidungen treffen müssen.

Meine These ist: Wer KI verantwortungsvoll gestalten will, muss nicht auf alle Zukunftsszenarien eine Antwort haben. Aber er muss heute klären, wie Chancen genutzt, Risiken begrenzt und Menschen in diesem Prozess mitgenommen werden. Die Antworten darauf finden wir in der Praxis erstaunlich regelmäßig. Sie heißen: KI-Governance, klare Verantwortung und nachvollziehbare Regeln.

Zwischen Apokalypse und Heilsversprechen

Wenn heute über Künstliche Intelligenz gesprochen wird, klingt es oft, als gäbe es nur zwei mögliche Zukunftsbilder.

Auf der einen Seite stehen die apokalyptischen Szenarien: AGI, Kontrollverlust, die Abschaffung menschlicher Arbeit oder sogar das Ende der Menschheit. Diese Stimmen sind laut. Sie warnen vor einer Technologie, die sich verselbstständigen und dem Menschen irgendwann überlegen sein könnte.

Auf der anderen Seite stehen die Heilsversprechen. KI soll neue und bessere Jobs schaffen, Produktivität und Wohlstand steigern und bei existenziellen Fragen helfen - etwa bei der Bekämpfung von Krebs oder des Klimawandels. Auch dieses Bild ist mächtig: KI als große Lösung für Probleme, an denen Menschen bisher gescheitert sind.

Beide Erzählungen haben ihre Berechtigung als Gegenstand gesellschaftlicher Debatten. Beide können auf reale Entwicklungen oder Risiken verweisen. Aber beide haben auch eine Schwäche: Sie ziehen den Blick sehr weit in die Zukunft. Dadurch geraten die Fragen aus dem Blick, die heute schon entschieden werden müssen.

Mich interessiert deshalb weniger, welche dieser großen Erzählungen am Ende recht behält. Mich interessiert die Frage, was wir im Hier und Jetzt tun können: Wie setzen wir KI so ein, dass ihre Chancen bei Menschen und Organisationen ankommen - und dass wir die Risiken nicht einfach mitlaufen lassen?

Es gibt auch die Stimmen, die zur Gegenwart zurückführen

Diese Perspektive ist nicht neu und auch nicht allein meine. In der Debatte gibt es Stimmen, die sich dem Entweder-oder aus Weltuntergang und Heilsversprechen entziehen. Zwei davon haben mich zuletzt besonders beschäftigt.

Das Interview mit dem Oxford-Ökonomen Maximilian Kasy in der Süddeutschen Zeitung war für mich ein wichtiger Anstoß. Unter der Überschrift "Eine Frage der Kontrolle" spricht Kasy über richtige und falsche Furcht vor Künstlicher Intelligenz. Seine Perspektive ist meinungsstark und unbequem: KI ist keine eigenständige Naturgewalt, sondern ein Instrument, das in gesellschaftliche, wirtschaftliche und politische Machtverhältnisse eingebettet ist.

Damit verschiebt sich die entscheidende Frage. Nicht nur: Was könnte KI irgendwann können? Sondern auch: Wer bestimmt, was optimiert wird? Wer hat Zugriff auf Daten und Systeme? Wer profitiert? Wer trägt das Risiko, wenn ein Modell falsch liegt? Und welche Entscheidungen sollten ausdrücklich menschlich bleiben?

Die zweite Stimme ist Rainer Mühlhoff. Vor etwa einem Dreivierteljahr habe ich sein Buch "Künstliche Intelligenz und der neue Faschismus" gelesen. Der Titel ist zugegeben wild. Er ist zugespitzt, politisch und nicht dazu geeignet, eine Debatte gemütlich zu machen.

Mühlhoff ist Philosoph und Mathematiker und Professor für Ethik und kritische Theorien der Künstlichen Intelligenz an der Universität Osnabrück. In seinem Buch beschäftigt er sich mit dem Zusammenspiel von Tech-Industrie, KI-Ideologien und autoritären politischen Tendenzen. Was bei mir besonders hängen geblieben ist, ist aber nicht nur die Schärfe des Faschismusbegriffs. Es ist seine Kritik daran, wie über KI gesprochen wird.

Aus meiner Lektüre nehme ich eine zentrale Frage mit: Lenken spektakuläre Erzählungen über Erlösung, Auslöschung oder eine ferne Superintelligenz den Blick von den Schäden ab, die heute bereits entstehen? Mühlhoff verweist auf gegenwärtige Risiken wie soziale Ungleichheit, Manipulierbarkeit, Ausbeutung, den Verlust von Privatsphäre, die Erosion demokratischer Öffentlichkeit und die Konzentration von Macht und Kapital.

Kasy und Mühlhoff argumentieren nicht identisch. Aber beide holen die Debatte aus einer abstrakten Zukunft zurück. Sie erinnern daran, dass KI nicht nur eine technische Entwicklung ist, sondern eine Frage von Macht, Interessen, Verteilung und Verantwortung. Und sie machen deutlich: Die Zukunft fällt nicht einfach über uns her. Sie entsteht aus Entscheidungen, die bereits heute getroffen werden.

Zum Interview mit Maximilian Kasy in der Süddeutschen Zeitung | Zum Buch von Rainer Mühlhoff bei Reclam

Die leise Antwort heißt Governance

Wenn man diese beiden Perspektiven ernst nimmt, folgt daraus für mich weder ein reflexhaftes "Wir müssen alles stoppen" noch ein unkritisches "Wir müssen einfach schneller werden". Es folgt eine viel unspektakulärere Aufgabe: Wir müssen im eigenen Unternehmen, im eigenen Team und im eigenen Umfeld klären, wie wir mit KI umgehen wollen.

Genau das ist die tägliche Arbeit von KI-Governance.

In einer Risikobetrachtung beginnen wir nicht bei der Frage, ob ein System in ferner Zukunft die Kontrolle über die Menschheit übernimmt. Wir beginnen bei den Dingen, die heute schiefgehen können: Werden vertrauliche Daten in ein nicht freigegebenes Tool eingegeben? Werden KI-Ergebnisse ungeprüft übernommen? Ist eine Entscheidung nachvollziehbar? Werden Menschen diskriminiert? Sind Zuständigkeiten geklärt? Gibt es Schutz vor Manipulation, Missbrauch und Cyberangriffen?

Das klingt weniger spektakulär als die Apokalypse und weniger visionär als das Versprechen einer besseren Welt. Aber genau darin liegt seine Stärke. Governance ist nicht die lauteste Stimme in der KI-Debatte. Sie schreit nicht. Sie arbeitet praktisch und angewandt - und kann dabei auch konkreten Return on Investment ermöglichen: durch bessere Prozesse, weniger Fehler, weniger Abstimmungsaufwand und eine höhere Akzeptanz. Dieser Mehrwert ist im Alltag sichtbar und, je nach Anwendungsfall, auch messbar.

Und sie beantwortet damit mehr als nur juristische oder technische Fragen. Mitarbeitende, Teams und Kunden tragen die großen Debatten schließlich selbst mit sich herum. Sie fragen sich, ob ihre Arbeit sicher ist, ob ihre Daten geschützt sind, ob Entscheidungen fair bleiben und ob KI ihnen Chancen eröffnet oder ihre Rolle entwertet. Einige dieser Ängste sind diffus. Andere sind durch reale Vorfälle und bekannte Fehlerrisiken gut begründet.

Eine Organisation kann diese Fragen nicht mit einem Zukunftsmanifest beantworten. Sie kann aber konkrete Orientierung geben: Welche Tools sind freigegeben? Welche Daten dürfen verarbeitet werden? Wo bleibt der Mensch in der Verantwortung? Wie werden Ergebnisse geprüft? An wen kann man sich wenden, wenn etwas falsch läuft? Und wie wird aus einem Fehler ein gemeinsames Learning?

Das ist keine Ablenkung von den großen Fragen. Es ist die konkrete Vorarbeit dafür, dass KI überhaupt eine verantwortbare Zukunft haben kann. Wer aktuelle Risiken nicht beherrscht, wird abstrakte Zukunftsrisiken nicht glaubwürdig managen.

Auch die Datenlage spricht nicht dafür, Vertrauen einfach vorauszusetzen. Eine globale Studie der University of Melbourne und KPMG mit mehr als 48.000 Befragten in 47 Ländern kam 2025 zu einem widersprüchlichen Ergebnis: KI wird zunehmend genutzt, aber das Vertrauen bleibt fragil. 66 Prozent gaben an, KI bereits regelmäßig und bewusst einzusetzen, gleichzeitig waren weniger als die Hälfte bereit, KI zu vertrauen. 57 Prozent der Beschäftigten sagten außerdem, dass sie ihre KI-Nutzung verbergen oder KI-generierte Arbeit als ihre eigene ausgeben. Nur 40 Prozent berichteten von einer klaren Regelung oder Orientierung ihres Arbeitgebers zum Einsatz generativer KI. KPMG / University of Melbourne: Trust, attitudes and use of AI, 2025

Das ist ein Warnsignal: Nutzung ohne Orientierung führt schnell zu Schattennutzung, Unsicherheit und Verantwortungsdiffusion. Governance schafft hier keine absolute Sicherheit. Aber sie schafft einen Rahmen, in dem Menschen Risiken benennen, Entscheidungen nachvollziehen und KI trotzdem sinnvoll nutzen können.

Die KI-Perspektive ist wichtig - aber nicht die ganze Welt

Dabei ist mir bewusst, dass auch diese Sicht fokussiert und privilegiert ist. Wer sich beruflich mit KI beschäftigt, kann leicht den Eindruck bekommen, KI sei der Schlüssel zu jeder gesellschaftlichen Frage. Das ist sie nicht. Kriege, Klimakrise, soziale Ungleichheit, Migration, geopolitische Konflikte und demokratische Erosion verschwinden nicht, nur weil wir über KI-Governance sprechen. Und nicht jede Krise der Gegenwart lässt sich in ein KI-Risikomodell übersetzen.

KI-Governance ist also kein Ersatz für politische, soziale oder ökologische Verantwortung. Sie ist ein konkreter Beitrag an einer Stelle, an der sich viele dieser Fragen bündeln: bei Arbeit und Verteilung, bei Zugang zu Wissen, bei Privatsphäre, bei öffentlicher Meinungsbildung und bei der Konzentration technischer und wirtschaftlicher Macht.

Diese Begrenzung macht die Aufgabe nicht kleiner. Sie macht sie ehrlicher. Wir müssen nicht behaupten, mit KI-Governance die Zukunft insgesamt zu retten. Aber wir können im eigenen Unternehmen und im eigenen Umfeld dafür sorgen, dass KI nicht unbemerkt Ungleichheit verstärkt, Verantwortung verschleiert oder demokratische Kontrolle unterläuft.

Vertrauen entsteht nicht durch Beruhigung

In Gesprächen mit Kundinnen und Kunden erleben wir immer wieder: Vertrauen entsteht nicht dadurch, dass man Risiken kleinredet. Es entsteht, wenn Risiken sichtbar gemacht und bearbeitbar werden.

Ein Unternehmen muss nicht versprechen, dass seine KI fehlerfrei arbeitet. Das wäre ohnehin unglaubwürdig. Es muss zeigen können, welche Systeme eingesetzt werden, welche Daten verarbeitet werden, wofür die Systeme genutzt werden und an welcher Stelle Menschen kontrollieren, korrigieren oder eine Entscheidung stoppen können.

Das ist auch der Kern unseres eigenen Ansatzes bei DECAID. Unsere KI-Richtlinie versteht Governance nicht als Verbotskatalog, der Innovation möglichst früh beendet. Sie soll einen Handlungsrahmen schaffen: mit geprüften Tools, klaren Rollen, Transparenz, Datenschutz, Risikomanagement und einem verbindlichen Human-in-the-loop.

Dabei ist ein wichtiger Unterschied entscheidend: Kontrolle bedeutet nicht, jede Nutzung zentral zu genehmigen. Kontrolle bedeutet, Verantwortlichkeiten und Grenzen so klar zu machen, dass Menschen innerhalb eines sicheren Rahmens eigenständig handeln können.

Das wirkt zunächst unspektakulär. In der Praxis ist es aber ein großer Unterschied. Wer weiß, welches Tool für welche Daten zugelassen ist, welche Ergebnisse überprüft werden müssen und an wen man sich bei Unsicherheit wenden kann, arbeitet eher mit KI. Wer nur hört, dass KI irgendwie gefährlich ist, arbeitet entweder gar nicht damit - oder heimlich.

Adoption ist auch eine Governance-Frage

Über KI-Adoption wird oft gesprochen, als ginge es vor allem um Schulungen und die Auswahl des richtigen Tools. Beides ist wichtig. Es reicht aber nicht.

Menschen übernehmen neue Technologien dann in ihren Arbeitsalltag, wenn drei Dinge zusammenkommen:

• Sie erkennen einen konkreten Nutzen. KI muss ein echtes Problem lösen.

• Sie verstehen die Grenzen. Mitarbeitende müssen wissen, wann ein Ergebnis plausibel klingt, aber trotzdem falsch sein kann.

• Sie fühlen sich verantwortlich und geschützt. Es muss klar sein, wer prüft, wer entscheidet und was bei einem Fehler passiert.

Genau deshalb ist KI-Governance kein Gegenspieler der Adoption. Gute Governance ist eine Voraussetzung dafür, dass Adoption nachhaltig gelingt.

Das zeigt sich auch in unserer Arbeit mit Kunden. Wenn Organisationen nicht nur ein Tool ausrollen, sondern gleichzeitig Regeln, Rollen und Lernschleifen etablieren, verändert sich die Stimmung. Aus diffusem Misstrauen werden konkrete Fragen. Aus konkreten Fragen entstehen Standards. Und aus Standards kann Vertrauen entstehen.

Vertrauen heißt dabei nicht, jedes KI-Ergebnis ungeprüft zu akzeptieren. Im Gegenteil: Vertrauenswürdige Nutzung setzt voraus, dass Menschen kritisch bleiben. Vertrauen entsteht in diesem Zusammenhang durch nachvollziehbare Verfahren, nicht durch blinden Glauben.

Fazit: vom Zukunftsstreit zur Gegenwartsaufgabe

Die großen Debatten über KI werden nicht verschwinden. Das ist auch gut so. Eine demokratische Gesellschaft muss darüber streiten, welche Technologien sie zulässt, welche Ziele sie verfolgt und welche Formen von Macht sie begrenzt.

Aber dieser Streit darf nicht dazu führen, dass Unternehmen im Hier und Jetzt handlungsunfähig werden. Wer nur auf die schlimmsten Szenarien starrt, übersieht die Chancen. Wer nur auf Produktivität und Wachstum blickt, unterschätzt die Risiken.

Die verantwortliche Mitte ist nicht vorsichtiges Abwarten. Sie ist aktives Gestalten.

Für mich bedeutet das: KI nutzen, wo sie Menschen unterstützt. Grenzen setzen, wo sie Menschen schadet oder Entscheidungen undurchsichtig macht. Ergebnisse prüfen. Verantwortung nicht an ein Modell delegieren. Und Vertrauen nicht behaupten, sondern durch nachvollziehbare Praxis verdienen.

Vielleicht ist das die nüchternste Antwort auf die Weltuntergangsfantasien rund um KI: Wir müssen nicht heute die gesamte Zukunft lösen. Wir müssen heute bessere Bedingungen schaffen, unter denen Menschen und Organisationen mit KI sinnvoll, sicher und selbstbestimmt arbeiten können.

Das ist weniger spektakulär als die Apokalypse. Aber sehr wahrscheinlich produktiver.

Bei diesem Artikel hatte ich digitale Unterstützung: KI hat beim Research und beim Formulieren geholfen, die Endredaktion und inhaltliche Verantwortung liegen bei mir als Autor.

Quellen

• Maximilian Kasy im Interview mit der Süddeutschen Zeitung: "Wir automatisieren uns gegenseitig weg"

• Rainer Mühlhoff: "Künstliche Intelligenz und der neue Faschismus" - Reclam

• University of Melbourne / KPMG: Trust, attitudes and use of artificial intelligence - A global study 2025

• Europäische Kommission: AI Act

• DECAID KI-Richtlinie, Stand August 2026