Künstliche Intelligenz
Wo die Maschine entlastet und wo sie das Urteilen verschiebt.
KI verändert vor allem, wie Menschen urteilen.
Weil ihre Antworten plausibel, schnell und souverän wirken, sinkt die Fehlerüberwachung, ohne dass es auffällt. In einer Befragung von 319 Wissensarbeitenden wurde das kritische Prüfen mit KI insgesamt als weniger aufwendig wahrgenommen als ohne, das Werkzeug übernimmt still einen Teil der Denkarbeit. Das eigentliche Risiko liegt nicht im Modell, sondern in der Interaktion.
Ich helfe Führungskräften und Unternehmen, diese Verschiebung zu verstehen und Entscheidungsabläufe zu bauen, die auch mit KI funktionieren.
Wo Urteilsqualität im KI-Kontext verloren geht
Automatisierungs-Vertrauen
Maschinelle Ausgaben wirken objektiver als menschliche Einschätzungen (Logg, Minson & Moore, 2019) und werden seltener aktiv hinterfragt (Automation Bias).
Der Effekt trifft auch erfahrene Fachleute, die um die Fehleranfälligkeit wissen (Parasuraman & Manzey, 2010). Das Wissen allein schützt nicht.
Verantwortungsdiffusion
Wirkt eine Entscheidung technisch vermittelt, fällt es leichter, Verantwortung auf das System zu verschieben.
Fehlt die Klarheit, wer was auf welcher Grundlage prüft, übernimmt die Prüfung niemand, weil alle annehmen, jemand anderes tue es.
Kognitives Abladen
Wer Denkschritte an ein Werkzeug abgibt, entlastet sich im Moment und verändert langfristig, was er selbst noch übt (Cognitive Offloading).
Studien zu Suchmaschinen legen nahe, dass Menschen sich eher merken, wo eine Information steht, als die Information selbst (Sparrow, Liu & Wegner, 2011). Mit KI verschiebt sich dasselbe Muster vom Erinnern auf das Denken.
Wer Analyse, Formulierung und Prüfung routinemäßig auslagert, dem fehlt die Übung genau dann, wenn das Werkzeug nicht zugänglich ist. Entlastung ist der Zweck jedes Werkzeugs, unbemerkte Entwöhnung sein Preis.
Die Illusion des Verstehens
KI-Antworten klingen glatt und plausibel. Das erzeugt das Gefühl, den Inhalt verstanden zu haben, auch wenn keine Prüfung stattgefunden hat (Illusion of Explanatory Depth).
Wer nicht aktiv prüft, ob eine Antwort fachlich trägt, prüft unbewusst nur, ob sie sich stimmig anfühlt. Das sind zwei verschiedene Fragen mit oft verschiedenen Antworten.
Modellgrenzen
Was ein Modell kann, hängt von den Tests ab, mit denen es geprüft wurde. Jede neue Einführung bringt neue Unsicherheit darüber, wo die Grenzen wirklich liegen, besonders in fachspezifischen Kontexten mit hohem Einsatz. Und weil KI-Fehler oft systematisch statt zufällig sind, addieren sie sich über viele Entscheidungen, bevor sie sichtbar werden.
-
Goddard, K., Roudsari, A., & Wyatt, J. C. (2012). Automation bias: A systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1), 121–127.https://doi.org/10.1136/amiajnl-2011-000089
Ikeda, S. (2024). Inconsistent advice by ChatGPT influences decision making in various areas. Scientific Reports, 14, Article 15876. https://doi.org/10.1038/s41598-024-66821-4
Kosmyna, N., Hauptmann, E., Yuan, Y. T., Situ, J., Liao, X.-H., Beresnitzky, A. V., Braunstein, I., & Maes, P. (2025). Your brain on ChatGPT: Accumulation of cognitive debt when using an AI assistant for essay writing task(arXiv:2506.08872). arXiv. https://doi.org/10.48550/arXiv.2506.08872
Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The impact of generative AI on critical thinking: Self-reported reductions in cognitive effort and confidence effects from a survey of knowledge workers. In Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems (pp. 1–22). ACM.https://doi.org/10.1145/3706598.3713778
Logg, J. M., Minson, J. A., & Moore, D. A. (2019). Algorithm appreciation: People prefer algorithmic to human judgment. Organizational Behavior and Human Decision Processes, 151, 90–103.https://doi.org/10.1016/j.obhdp.2018.12.005
Messeri, L., & Crockett, M. J. (2024). Artificial intelligence and illusions of understanding in scientific research. Nature, 627, 49–58. https://doi.org/10.1038/s41586-024-07146-0
Parasuraman, R., & Manzey, D. H. (2010). Complacency and bias in human use of automation: An attentional integration. Human Factors, 52(3), 381–410. https://doi.org/10.1177/0018720810376055
Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253. https://doi.org/10.1518/001872097778543886
Risko, E. F., & Gilbert, S. J. (2016). Cognitive offloading. Trends in Cognitive Sciences, 20(9), 676–688.https://doi.org/10.1016/j.tics.2016.07.002
Sparrow, B., Liu, J., & Wegner, D. M. (2011). Google effects on memory: Cognitive consequences of having information at our fingertips. Science, 333(6043), 776–778. https://doi.org/10.1126/science.1207745
Rozenblit, L., & Keil, F. (2002). The misunderstood limits of folk science: An illusion of explanatory depth. Cognitive Science, 26(5), 521–562. https://doi.org/10.1207/s15516709cog2605_1
Shojaee, P., Mirzadeh, I., Alizadeh, K., Horton, M., Bengio, S., & Farajtabar, M. (2025). The illusion of thinking: Understanding the strengths and limitations of reasoning models via the lens of problem complexity(arXiv:2506.06941). arXiv. https://doi.org/10.48550/arXiv.2506.06941
Englich, B., & Mussweiler, T. (2001). Sentencing under uncertainty: Anchoring effects in the courtroom. Journal of Applied Social Psychology, 31(7), 1535–1551. https://doi.org/10.1111/j.1559-1816.2001.tb02687.x
Englich, B., Mussweiler, T., & Strack, F. (2005). The last word in court—A hidden disadvantage for the defense. Law and Human Behavior, 29(6), 705–722. https://doi.org/10.1007/s10979-005-8380-7
Englich, B., Mussweiler, T., & Strack, F. (2006). Playing dice with criminal sentences: The influence of irrelevant anchors on experts' judicial decision making. Personality and Social Psychology Bulletin, 32(2), 188–200.https://doi.org/10.1177/0146167205282152
Goodman-Delahunty, J., Granhag, P. A., Hartwig, M., & Loftus, E. F. (2010). Insightful or wishful: Lawyers' ability to predict case outcomes. Psychology, Public Policy, and Law, 16(2), 133–157. https://doi.org/10.1037/a0019060
Guthrie, C., Rachlinski, J. J., & Wistrich, A. J. (2001). Inside the judicial mind. Cornell Law Review, 86(4), 777–830.
Guthrie, C., Rachlinski, J. J., & Wistrich, A. J. (2007). Blinking on the bench: How judges decide cases. Cornell Law Review, 93(1), 1–44.
Kahneman, D., Sibony, O., & Sunstein, C. R. (2021). Noise: A flaw in human judgment. Little, Brown Spark.
Kassin, S. M., Dror, I. E., & Kukucka, J. (2013). The forensic confirmation bias: Problems, perspectives, and proposed solutions. Journal of Applied Research in Memory and Cognition, 2(1), 42–52.https://doi.org/10.1016/j.jarmac.2013.01.001
Malegiannaki, A.-C., Chatzopoulos, A., & Tsagkaridis, K. (2025). Assessing judges' use and awareness of cognitive heuristic decision-making. Frontiers in Cognition, 4, Article 1421488. https://doi.org/10.3389/fcogn.2025.1421488
Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises. Review of General Psychology, 2(2), 175–220. https://doi.org/10.1037/1089-2680.2.2.175
Oeberst, A., & Goeckenjan, I. (2016). When being wise after the event results in injustice: Evidence for hindsight bias in judges' negligence assessments. Psychology, Public Policy, and Law, 22(3), 271–279.https://doi.org/10.1037/law0000091
Olaborede, A., & Meintjes-van der Walt, L. (2020). Cognitive bias affecting decision-making in the legal process. Obiter, 41(4), 806–830. https://doi.org/10.17159/obiter.v41i4.10489
Peer, E., & Gamliel, E. (2013). Heuristics and biases in judicial decisions. Court Review, 49, 114–118.
Teichman, D., Zamir, E., & Ritov, I. (2023). Biases in legal decision-making: Comparing prosecutors, defense attorneys, law students, and laypersons. Journal of Empirical Legal Studies, 20(4), 852–894.https://doi.org/10.1111/jels.12365
Tversky, A., & Kahneman, D. (1974). Judgment under uncertainty: Heuristics and biases. Science, 185(4157), 1124–1131. https://doi.org/10.1126/science.185.4157.1124
U.S. Sentencing Commission. (2019). Intra-city differences in federal sentencing practices: Federal district judges in 30 cities, 2005–2017. https://www.ussc.gov/research/research-publications/2019/20190108_Intra-City-Report.pdf
Wistrich, A. J., & Rachlinski, J. J. (2017). Implicit bias in judicial decision making: How it affects judgment and what judges can do about it [Working Paper]. SSRN. https://doi.org/10.2139/ssrn.2934295
Reflektierten Umgang mit KI entwickeln
Im Workshop arbeitet ihr daran, KI-Ergebnisse bewusst zu prüfen und das eigene Denken sinnvoll einzubinden.
Wenn ihr gemeinsame Regeln für den Arbeitsalltag braucht, können wir in einem Beratungsprojekt festlegen, wofür ihr KI nutzt, wer prüft und wo Entscheidungen bei Menschen bleiben. Mein Schwerpunkt liegt auf Nutzung und Zusammenarbeit, nicht auf technischer Einrichtung oder rechtlicher Prüfung.
Für wen
Für Geschäftsleitungen, die KI-Nutzung als Urteils- und Governance-Frage verstehen wollen,
für Teams, die strukturierte Prüfstandards brauchen,
und für Unternehmen, die Verantwortlichkeiten rund um KI-gestützte Entscheidungen klären wollen, bevor Fehler passieren.
Ich antworte in der Regel innerhalb von zwei Werktagen.
