Künstliche Intelligenz
Wo die Maschine entlastet und wo sie das Urteilen verschiebt.
KI verändert vor allem, wie Menschen urteilen.
Weil ihre Antworten plausibel, schnell und souverän wirken, sinkt die Fehlerüberwachung, ohne dass es auffällt. In einer Befragung von 319 Wissensarbeitenden wurde das kritische Prüfen mit KI insgesamt als weniger aufwendig wahrgenommen als ohne, das Werkzeug übernimmt still einen Teil der Denkarbeit (Lee et al., 2025). Das eigentliche Risiko liegt nicht im Modell, sondern in der Interaktion.
Ich helfe Führungskräften und Unternehmen, diese Verschiebung zu verstehen und Entscheidungsabläufe zu bauen, die auch mit KI funktionieren.
Wo Urteilsqualität im KI-Kontext verloren geht
Automatisierungs-Vertrauen
Maschinelle Ausgaben wirken objektiver als menschliche Einschätzungen (Logg, Minson & Moore, 2019) und werden seltener aktiv hinterfragt (Automation Bias).
Der Effekt trifft auch erfahrene Fachleute, die um die Fehleranfälligkeit wissen (Parasuraman & Manzey, 2010). Das Wissen allein schützt nicht.
Verantwortungsdiffusion
Wirkt eine Entscheidung technisch vermittelt, fällt es leichter, Verantwortung auf das System zu verschieben.
Fehlt die Klarheit, wer was auf welcher Grundlage prüft, übernimmt die Prüfung niemand, weil alle annehmen, jemand anderes tue es.
Kognitives Abladen
Wer Denkschritte an ein Werkzeug abgibt, entlastet sich im Moment und verändert langfristig, was er selbst noch übt (Cognitive Offloading).
Studien zu Suchmaschinen legen nahe, dass Menschen sich eher merken, wo eine Information steht, als die Information selbst (Sparrow, Liu & Wegner, 2011). Mit KI verschiebt sich dasselbe Muster vom Erinnern auf das Denken.
Wer Analyse, Formulierung und Prüfung routinemäßig auslagert, dem fehlt die Übung genau dann, wenn das Werkzeug nicht zugänglich ist. Entlastung ist der Zweck jedes Werkzeugs, unbemerkte Entwöhnung sein Preis.
Die Illusion des Verstehens
KI-Antworten klingen glatt und plausibel. Das erzeugt das Gefühl, den Inhalt verstanden zu haben, auch wenn keine Prüfung stattgefunden hat (Illusion of Explanatory Depth).
Wer nicht aktiv prüft, ob eine Antwort fachlich trägt, prüft unbewusst nur, ob sie sich stimmig anfühlt. Das sind zwei verschiedene Fragen mit oft verschiedenen Antworten.
Modellgrenzen
Was ein Modell kann, hängt von den Tests ab, mit denen es geprüft wurde. Jede neue Einführung bringt neue Unsicherheit darüber, wo die Grenzen wirklich liegen, besonders in fachspezifischen Kontexten mit hohem Einsatz. Und weil KI-Fehler oft systematisch statt zufällig sind, addieren sie sich über viele Entscheidungen, bevor sie sichtbar werden.
-
Goddard, K., Roudsari, A., & Wyatt, J. C. (2012). Automation bias: A systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1), 121–127.https://doi.org/10.1136/amiajnl-2011-000089
Ikeda, S. (2024). Inconsistent advice by ChatGPT influences decision making in various areas. Scientific Reports, 14, Article 15876. https://doi.org/10.1038/s41598-024-66821-4
Kosmyna, N., Hauptmann, E., Yuan, Y. T., Situ, J., Liao, X.-H., Beresnitzky, A. V., Braunstein, I., & Maes, P. (2025). Your brain on ChatGPT: Accumulation of cognitive debt when using an AI assistant for essay writing task(arXiv:2506.08872). arXiv. https://doi.org/10.48550/arXiv.2506.08872
Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The impact of generative AI on critical thinking: Self-reported reductions in cognitive effort and confidence effects from a survey of knowledge workers. In Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems (pp. 1–22). ACM.https://doi.org/10.1145/3706598.3713778
Logg, J. M., Minson, J. A., & Moore, D. A. (2019). Algorithm appreciation: People prefer algorithmic to human judgment. Organizational Behavior and Human Decision Processes, 151, 90–103.https://doi.org/10.1016/j.obhdp.2018.12.005
Messeri, L., & Crockett, M. J. (2024). Artificial intelligence and illusions of understanding in scientific research. Nature, 627, 49–58. https://doi.org/10.1038/s41586-024-07146-0
Parasuraman, R., & Manzey, D. H. (2010). Complacency and bias in human use of automation: An attentional integration. Human Factors, 52(3), 381–410. https://doi.org/10.1177/0018720810376055
Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253. https://doi.org/10.1518/001872097778543886
Risko, E. F., & Gilbert, S. J. (2016). Cognitive offloading. Trends in Cognitive Sciences, 20(9), 676–688.https://doi.org/10.1016/j.tics.2016.07.002
Sparrow, B., Liu, J., & Wegner, D. M. (2011). Google effects on memory: Cognitive consequences of having information at our fingertips. Science, 333(6043), 776–778. https://doi.org/10.1126/science.1207745
Rozenblit, L., & Keil, F. (2002). The misunderstood limits of folk science: An illusion of explanatory depth. Cognitive Science, 26(5), 521–562. https://doi.org/10.1207/s15516709cog2605_1
Shojaee, P., Mirzadeh, I., Alizadeh, K., Horton, M., Bengio, S., & Farajtabar, M. (2025). The illusion of thinking: Understanding the strengths and limitations of reasoning models via the lens of problem complexity(arXiv:2506.06941). arXiv. https://doi.org/10.48550/arXiv.2506.06941
Englich, B., & Mussweiler, T. (2001). Sentencing under uncertainty: Anchoring effects in the courtroom. Journal of Applied Social Psychology, 31(7), 1535–1551. https://doi.org/10.1111/j.1559-1816.2001.tb02687.x
Englich, B., Mussweiler, T., & Strack, F. (2005). The last word in court—A hidden disadvantage for the defense. Law and Human Behavior, 29(6), 705–722. https://doi.org/10.1007/s10979-005-8380-7
Englich, B., Mussweiler, T., & Strack, F. (2006). Playing dice with criminal sentences: The influence of irrelevant anchors on experts' judicial decision making. Personality and Social Psychology Bulletin, 32(2), 188–200.https://doi.org/10.1177/0146167205282152
Goodman-Delahunty, J., Granhag, P. A., Hartwig, M., & Loftus, E. F. (2010). Insightful or wishful: Lawyers' ability to predict case outcomes. Psychology, Public Policy, and Law, 16(2), 133–157. https://doi.org/10.1037/a0019060
Guthrie, C., Rachlinski, J. J., & Wistrich, A. J. (2001). Inside the judicial mind. Cornell Law Review, 86(4), 777–830.
Guthrie, C., Rachlinski, J. J., & Wistrich, A. J. (2007). Blinking on the bench: How judges decide cases. Cornell Law Review, 93(1), 1–44.
Kahneman, D., Sibony, O., & Sunstein, C. R. (2021). Noise: A flaw in human judgment. Little, Brown Spark.
Kassin, S. M., Dror, I. E., & Kukucka, J. (2013). The forensic confirmation bias: Problems, perspectives, and proposed solutions. Journal of Applied Research in Memory and Cognition, 2(1), 42–52.https://doi.org/10.1016/j.jarmac.2013.01.001
Malegiannaki, A.-C., Chatzopoulos, A., & Tsagkaridis, K. (2025). Assessing judges' use and awareness of cognitive heuristic decision-making. Frontiers in Cognition, 4, Article 1421488. https://doi.org/10.3389/fcogn.2025.1421488
Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises. Review of General Psychology, 2(2), 175–220. https://doi.org/10.1037/1089-2680.2.2.175
Oeberst, A., & Goeckenjan, I. (2016). When being wise after the event results in injustice: Evidence for hindsight bias in judges' negligence assessments. Psychology, Public Policy, and Law, 22(3), 271–279.https://doi.org/10.1037/law0000091
Olaborede, A., & Meintjes-van der Walt, L. (2020). Cognitive bias affecting decision-making in the legal process. Obiter, 41(4), 806–830. https://doi.org/10.17159/obiter.v41i4.10489
Peer, E., & Gamliel, E. (2013). Heuristics and biases in judicial decisions. Court Review, 49, 114–118.
Teichman, D., Zamir, E., & Ritov, I. (2023). Biases in legal decision-making: Comparing prosecutors, defense attorneys, law students, and laypersons. Journal of Empirical Legal Studies, 20(4), 852–894.https://doi.org/10.1111/jels.12365
Tversky, A., & Kahneman, D. (1974). Judgment under uncertainty: Heuristics and biases. Science, 185(4157), 1124–1131. https://doi.org/10.1126/science.185.4157.1124
U.S. Sentencing Commission. (2019). Intra-city differences in federal sentencing practices: Federal district judges in 30 cities, 2005–2017. https://www.ussc.gov/research/research-publications/2019/20190108_Intra-City-Report.pdf
Wistrich, A. J., & Rachlinski, J. J. (2017). Implicit bias in judicial decision making: How it affects judgment and what judges can do about it [Working Paper]. SSRN. https://doi.org/10.2139/ssrn.2934295
Wie ich arbeite
Mein Gegenstand ist das Urteilen mit KI, nicht das Implementieren als Werkzeug.
Welche Modelle ihr nutzt, entscheidet ihr, ich sorge dafür, dass die Arbeit damit das Urteilen nicht unbemerkt verändert.
Daraus entstehen Prüfstandards, Verantwortlichkeiten und Abläufe, die unabhängig vom jeweiligen Modell tragen.
Impuls oder Keynote
Für Tagungen, Fortbildungen und Führungsrunden
15 bis 60 Minuten
Preis auf Anfrage.
Workshop
90 bis 240 Minuten, interaktiv und fallbasiert, für Teams, die täglich mit KI-Ausgaben arbeiten
Ab 800 Euro
Reibungsdiagnose mit KI-Schwerpunkt
Wie verändern KI-Werkzeuge eure Entscheidungswege, und wo fehlt die Prüfung? Interviews, Analyse, Führungskräfte-Briefing
Ab 2.900 Euro
Begleitung
Sparring für Führungskräfte und moderierte Klärung für Entscheiderkreise, über mehrere Monate
Ab 4.500 Euro
Für Geschäftsleitungen, die KI-Nutzung als Urteils- und Governance-Frage verstehen wollen,
für Teams, die strukturierte Prüfstandards brauchen,
und für Unternehmen, die Verantwortlichkeiten rund um KI-gestützte Entscheidungen klären wollen, bevor Fehler passieren.
Für wen
Du bekommst innerhalb von 48 Stunden eine Rückmeldung mit Terminvorschlägen.
