Was KI mit uns macht: Warum wir verlernen, was wir abgeben

KI verändert bereits heute, was wir selbst noch können. Mehrere Studien der letzten Jahre zeigen drei Effekte, die sich gegenseitig verstärken. Wer eine Tätigkeit dauerhaft an eine Maschine abgibt, verlernt sie. Wer Antworten fertig serviert bekommt, hört auf, sie zu prüfen. Und wer glaubt, die kreative Arbeit habe bereits die KI erledigt, bringt weniger Eigenes ein.

Keiner dieser Effekte ist eine Erfindung der KI-Ära. Die Luftfahrt kennt das Problem seit Jahrzehnten, die Forschung zum automatisierten Fahren ebenfalls. Neu ist das Tempo. Frühere Automatisierungswellen haben sich über Generationen ausgebreitet, KI erreicht innerhalb von zwei, drei Jahren die Mehrheit der Unternehmen und dort landet sie auf praktisch jedem Schreibtisch, längst nicht mehr nur bei ein paar Spezialisten.

Für Unternehmen ist das mehr als eine philosophische Frage. In fast jeder KI-Richtlinie, die ich in der Beratung zu sehen bekomme, steht sinngemäß derselbe Satz: Am Ende ist der Mensch verantwortlich. Die KI-Verordnung der EU denkt genauso und verlangt seit Februar 2025 in Artikel 4, dass Unternehmen für ausreichende KI-Kompetenz ihrer Beschäftigten sorgen. Übersetzt heißt das: Wer KI einsetzt, muss dafür sorgen, dass die Menschen, die damit arbeiten, die Ergebnisse auch beurteilen können. Genau diese Fähigkeit steht auf dem Spiel, wenn wir nicht bewusst gegensteuern.

Je zuverlässiger eine Maschine arbeitet, desto seltener greift der Mensch ein und desto schlechter ist er, wenn es doch einmal auf ihn ankommt. Die britische Psychologin Lisanne Bainbridge hat dieses Phänomen 1983 als „Ironie der Automatisierung“ beschrieben. Wie real es ist, zeigt ein Flug über dem Atlantik.

Am 1. Juni 2009 ist Air France 447 mit 228 Menschen an Bord von Rio de Janeiro nach Paris unterwegs. In einem Gewittergebiet vereisen die Staudrucksonden, der Bordcomputer bekommt keine verlässlichen Geschwindigkeitsdaten mehr, und der Autopilot tut genau das, wofür er gebaut ist: Er schaltet sich ab. Das Flugzeug ist zu diesem Zeitpunkt voll flugfähig, Höhe und Geschwindigkeit sind normal. Es fehlt lediglich eine verlässliche Geschwindigkeitsanzeige. Gut vier Minuten später schlägt die Maschine im Atlantik auf, niemand überlebt. Die französische Untersuchungsbehörde BEA hat in ihrem Abschlussbericht festgehalten, dass die Crew die Situation nicht mehr richtig einordnen konnte. Die Piloten zogen die Nase des Flugzeugs immer weiter nach oben, bis die Strömung abriss. Drei erfahrene Piloten, viele tausend Flugstunden, aber kaum Praxis im manuellen Fliegen in Reiseflughöhe. Diese Phase übernimmt im Alltag der Autopilot.

Man könnte das für einen tragischen Einzelfall halten. Zwei neuere Studien sprechen dagegen. Die erste stammt von DEKRA und der TU Dresden. Im Verkehrssicherheitsreport 2024 beschreiben sie eine Versuchsreihe auf dem Lausitzring: 49 Personen fuhren in einem hochautomatisierten Fahrzeug der Stufe 3, in der Fahrer sich vom Verkehr abwenden und etwa lesen dürfen. Während der Fahrt bauten die Forscher sogenannte stille Fehler ein, also Systemausfälle ohne Warnton und ohne Aufforderung zur Übernahme. Das Fahrzeug driftete zum Beispiel langsam auf die Gegenfahrbahn. 40 der 49 Probanden reagierten zu spät oder gar nicht.

Die zweite Studie kommt aus der Medizin und ist aus meiner Sicht die beunruhigendste. In vier polnischen Kliniken arbeiteten 19 sehr erfahrene Gastroenterologen, von denen jeder bereits mehr als 2.000 Darmspiegelungen durchgeführt hatte. Nach Einführung eines KI-Assistenten, der bei der Suche nach Adenomen (Krebsvorstufen im Darm) hilft, fanden weiterhin Untersuchungen ohne KI statt. Genau diese werteten die Forscher aus. Das Ergebnis, veröffentlicht 2025 in The Lancet Gastroenterology & Hepatology: Die Erkennungsrate ohne KI sank innerhalb von drei Monaten von 28,4 auf 22,4 Prozent. Relativ betrachtet ist das ein Rückgang um ein Fünftel, bei Ärzten mit jahrelanger Erfahrung. Die Studie ist eine Beobachtungsstudie, andere Einflüsse lassen sich nicht vollständig ausschließen. Trotzdem ist das Muster auffällig: Der Verlust zeigte sich nicht, während die Ärzte mit KI arbeiteten, sondern in dem Moment, in dem sie wieder allein waren.

Was heißt das für dich und dein Unternehmen? Was man nicht mehr tut, kann man irgendwann nicht mehr. Wenn du Aufgaben an KI abgibst, die im Ernstfall wieder bei dir landen, musst du sie weiter üben. Die Luftfahrt hat nach AF447 genau daraus Konsequenzen gezogen und das manuelle Fliegen sowie das Training für solche Ausnahmesituationen deutlich stärker in die Ausbildung geholt, obwohl der Autopilot seit Jahrzehnten zuverlässig arbeitet.

Wir prüfen KI-Ergebnisse deutlich seltener, als wir ihnen vertrauen. Das zeigt sich am klarsten, wenn man Recherche heute mit Recherche vor fünfzehn Jahren vergleicht.

Wer 2010 etwas bei Google gesucht hat, bekam eine Liste mit Links. Du musstest selbst entscheiden, welcher Treffer passt, wer hinter der Seite steht, ob die Quelle seriös ist. Du hast gescrollt, geklickt, gelesen, verglichen. Das war mühsam, aber es war der wertvollste Teil der Suche, denn du warst der Mensch, der prüft. Google hat dir Quellen geliefert, die Antwort musstest du dir selbst zusammensetzen. Hundertmal am Tag hast du verifiziert, ohne dass es jemand so genannt hätte.

Heute stellst du einem Chatbot eine Frage und bekommst eine einzige, freundlich formulierte Antwort. Sie liest sich flüssig, klingt plausibel und lässt keinen Zweifel zu. Manchmal gibt es Quellenangaben, manchmal nicht. Den Prüfschritt von früher braucht die Oberfläche nicht mehr, also ist er weg. Anders als im Cockpit oder im automatisierten Auto schaltet sich hier auch kein Autopilot ab. Nichts piept, nichts blinkt. Die Kontrolle durch den Menschen ist schlicht nicht mehr vorgesehen.

Wie groß diese Lücke ist, hat die Universität Melbourne gemeinsam mit KPMG untersucht. Für die Studie „Trust, attitudes and use of Artificial Intelligence“ wurden zwischen November 2024 und Januar 2025 mehr als 48.000 Menschen in 47 Ländern befragt. Nur 46 Prozent sind bereit, KI-Systemen zu vertrauen. Gleichzeitig verlassen sich 66 Prozent der Beschäftigten, die KI im Job nutzen, auf deren Ergebnisse, ohne sie auf Richtigkeit zu prüfen. 56 Prozent geben an, dass ihnen dadurch schon Fehler in der Arbeit passiert sind.

Lass diese Zahlen kurz wirken. Die Mehrheit vertraut der KI nicht, aber die Mehrheit prüft trotzdem nicht. Das klingt widersprüchlich, ist aber zutiefst menschlich. Misstrauen fühlt sich nicht gut an und kostet Energie. Wer jedem Ergebnis misstraut, müsste ständig kontrollieren, und das will niemand. Also vermeiden wir das Misstrauen und nehmen die Fehler in Kauf.

Die Konsequenz für den Arbeitsalltag: Bau dich selbst wieder in den Loop ein. Das heißt nicht, auf KI zu verzichten. Es heißt, Gegenmeinungen einzuholen, bevor ein Ergebnis weitergeht. Das kann eine Kollegin sein, die draufschaut, oder eine zweite KI, der du dieselbe Frage stellst, um die Antworten abzugleichen. Bei allem, was nach außen geht oder Entscheidungen trägt, gehört eine Prüfung an Primärquellen dazu.

Wenn Menschen glauben, die kreative Arbeit habe bereits eine KI erledigt, sinkt ihre Bereitschaft, selbst etwas beizutragen. Das zeigt ein Experiment von Forschenden der Universität Groningen, das im Sommer 2026 über die Brookings Institution vorgestellt wurde.

Rund 3.600 Menschen aus den USA und den Niederlanden bekamen dieselben drei Slogans. Der einen Hälfte sagte man, ein Marketing-Profi habe sie geschrieben, der anderen Hälfte, sie stammten aus einer KI-Software. Am Ende konnten alle freiwillig einen eigenen Slogan vorschlagen. In der KI-Gruppe war die Bereitschaft dazu um 13 Prozentpunkte niedriger. Die Teilnehmenden empfanden die Aufgabe außerdem als weniger sinnvoll, und das obwohl sie die als KI gekennzeichneten Slogans sogar schlechter bewerteten. Die Autoren weisen selbst darauf hin, dass es sich um eine kurze Aufgabe handelte und nicht um einen echten Arbeitsprozess. Kleine Effekte können sich aber summieren, wenn man täglich mit KI-Ergebnissen arbeitet.

Übertragen auf den Berufsalltag ergibt sich ein Bild, das mir ehrlich gesagt nicht aus dem Kopf geht. Stell dir einen Ingenieur vor. Er hat den Beruf gewählt, weil er verstehen will, warum etwas funktioniert, und weil er Probleme lösen will, die vorher niemand gelöst hat. In naher Zukunft schreibt ein KI-Agent über Nacht Testfälle, lässt sie laufen, passt Parameter an und legt morgens einen zwölfseitigen Bericht vor. Alles steht auf Grün. Der Ingenieur sitzt mit seinem Kaffee davor, vor sich 400 Testfälle, die er nicht geschrieben hat, zwei Kalibrierungen, die er nicht gerechnet hat, und einen Bericht, den er nicht verfasst hat. Weil in den Vorgaben steht, dass am Ende der Mensch verantwortlich ist, bleibt ihm ein Button: Freigeben.

Die Technik hat seinen Job nicht abgeschafft. Sie hat verändert, was von seiner Arbeit übrig bleibt. Früher hat er Dinge gebaut und zum Laufen gebracht, heute setzt er Häkchen. Ob sich das noch nach Arbeit anfühlt, ist eine berechtigte Frage.

Mein Rat an dieser Stelle ist deshalb auch ein persönlicher: Wenn es irgendwie geht, behalte die Teile deiner Arbeit, die dir Freude machen. Nicht alles, was sich automatisieren lässt, sollte auch automatisiert werden.

Unternehmen sollten den KI-Einsatz so gestalten, dass Menschen fachlich eingreifen können, wenn es darauf ankommt. Das gelingt nur mit Absicht. Der Einzelne kann für sich einiges tun, aber die Rahmenbedingungen setzt die Organisation. Drei Impulse aus meiner Beratungspraxis:

Der erste Impuls lautet, Kompetenz aufzubauen. Seit Februar 2025 ist das Pflicht nach Artikel 4 der KI-Verordnung. Wegducken hilft nicht. Dein Team muss wissen, was KI heute leisten kann und wo ihre Grenzen liegen. Nur dann kann es mitentscheiden, welche Aufgaben die KI übernimmt und wo es genauer hinschauen muss. Eine Pflichtschulung einmal im Jahr reicht dafür nicht, wenn sich die Werkzeuge alle paar Monate verändern.

Der zweite Impuls: Legt gemeinsam fest, was automatisiert wird, was geprüft wird und was ihr bewusst selbst macht. Nicht jede Aufgabe braucht dieselbe Kontrolle. Eine Zusammenfassung für den internen Gebrauch ist etwas anderes als ein Vertragsentwurf, eine Kundenauskunft oder eine Entscheidung über Menschen. Wo KI Ergebnisse liefert, die weitergehen, braucht es eine klare Zuständigkeit für die Prüfung und eine realistische Zeit dafür. Für Hochrisiko-Systeme schreibt die KI-Verordnung eine wirksame menschliche Aufsicht ausdrücklich vor. Der Gedanke dahinter lohnt sich aber auch für jeden Chatbot im Büro.

Der dritte Impuls: Übt, was ihr abgebt. Die Luftfahrt hat nach AF447 das manuelle Fliegen bewusst wieder in den Alltag geholt, obwohl der Autopilot zuverlässig arbeitet. Übertragen heißt das: Kernkompetenzen, die im Ernstfall gebraucht werden, dürfen nicht vollständig an Werkzeuge wandern. Lass Berichte gelegentlich ohne KI schreiben, Analysen von Hand nachrechnen, Rechercheergebnisse an Primärquellen prüfen. Das kostet Zeit. Ich halte sie für gut investiert.

Die Studien aus Cockpit, Auto, Klinik und Büro zeigen dasselbe Muster. Wer Tätigkeiten dauerhaft abgibt, verliert die Fähigkeit, sie im Ernstfall selbst zu erledigen. Wer fertige Antworten bekommt, hört auf zu prüfen, auch wenn er der Technik nicht traut. Und wer glaubt, die KI habe die kreative Arbeit schon getan, bringt weniger Eigenes ein. Deshalb halte ich die Frage, was KI 2030 können wird, für die weniger wichtige. Wichtiger ist, welche Rolle wir Menschen in hochautomatisierten Abläufen spielen wollen und wie wir unser Wissen dafür erhalten. Diese Antwort können Beschäftigte nicht allein geben. Sie ist eine Führungsaufgabe.

Wenn du KI-Kompetenz in deinem Unternehmen strukturiert aufbauen und die Anforderungen aus Artikel 4 der KI-Verordnung erfüllen willst, findest du in der NOVICADEMY passende Schulungen für deine Mitarbeitenden. Und wenn du Unterstützung dabei brauchst, Zuständigkeiten, Prüfschritte und Regeln für den KI-Einsatz festzulegen, melde dich gern bei mir.