Cognitive Biases im Software Engineering: Warum gute Architekt:innen schlechte Entscheidungen treffen

Softwarearchitektur gilt als rationale Disziplin.
In der Praxis entstehen zentrale Architekturentscheidungen jedoch selten rein logisch, sondern unter dem Einfluss systematischer Denkfehler. Kognitive Verzerrungen wie **Confirmation Bias**, **Optimism Bias** oder die **Sunk Cost Fallacy** prägen Technologieauswahl, Aufwandsschätzungen, Migrationsentscheidungen und Teamdynamiken oft stärker, als uns bewusst ist.

Der Vortrag zeigt anhand realer Projektsituationen, wie solche Biases Entscheidungsprozesse unbemerkt lenken:
Wir verteidigen vertraute Lösungen, unterschätzen Risiken, folgen Trends oder halten an Strukturen fest, weil bereits zu viel investiert wurde. Die Folgen reichen von technischer Verschuldung über gescheiterte Transformationen bis zu schwer wartbaren Architekturen.

Statt abstrakter Psychologie geht es um **konkrete Muster aus dem Engineering-Alltag** und um **praktische Gegenmaßnahmen**, die sich im Architekturkontext bewährt haben.
Dazu zählen strukturierte Entscheidungsformate, Pre-Mortem-Analysen, gezieltes Debiasing in Teams sowie einfache Interventionen, die Denkfehler früh sichtbar machen.

Alle Konzepte basieren auf etablierter Forschung aus Kognitionspsychologie und Neurowissenschaften und werden mit praxisnahen Beispielen verknüpft.
Ziel sind bewusstere Entscheidungen im Team, Vermeidung von Denkfehlern, und damit insgesamt bessere Architekturen.

Transcript

1. Dr. Gernot Starke Cognitive Biases Warum wir schlechte Entscheidungen treffen
2. Dr. Gernot Starke ✓Architekturverbesserer ✓Coach, Trainer ✓INNOQ-Fellow ✓ arc42, aim42 ✓ iSAQB
3. Quellen (u.a.)
5. TL;DR Gehirn trifft (manchmal) irrationale Entscheidungen. Wahrnehmung kann krass täuschen. Gehirn bevorzug Gewohnheiten und Annahmen vor aktivem Denken.
6. Viel Diagnose, kaum Therapie! Mohanani et al. (2020), Cognitive Biases in Software Engineering: A Systematic Mapping Study
7. unser Gehirn... • ca. 1300g, davon 60% Fett i.Tr. • ca. 86 Milliarden Nervenzellen, jede davon ca. 1.000-10.000 Synapsen • 20 Watt Energieverbrauch, ca. 20% von Grundumsatz https://commons.wikimedia.org/w/index.php?curid=9499837
8. Gehirn benötigt ~350 kcal / Tag https://www.scinexx.de/news/medizin/warum-unser-gehirn- so-energiehungrig-ist/ https://unsplash.com/photos/KHBvwAnWFmc ... und ist daher auf Energieffizienz optimiert Während der Evolution war Nahrung knapp...
9. zwei Aufgaben priorisiert! https://unsplash.com/photos/tQagUWpAx5k
10. Überleben Reproduktion
11. Überleben Reproduktion https://unsplash.com/photos/5Ntkpxqt54Y Softwareentwicklung gehört nicht dazu!
12. Daniel Kahnemann Nobel Memorial Prize in Economic Sciences (2002) „The Nobel Memorial Prize in Economic Sciences, is an award administered by the Nobel Foundation. It is commonly referred to as the Nobel Prize in Economics. „ (Wikipedia)
13. Daniel Kahnemann https://www.pnas.org/content/110/34/13696
14. System 1 (intuitiv) System 2 (bewusst) benötigt wenig Energie benötigt viel Energie geht schnell dauert oft lange
15. System 1 (intuitiv) System 2 (bewusst) Geburtstagsgeschenk für Eure Liebsten?
16. System 1 (intuitiv) System 2 (bewusst) 3 * 3 = ?
17. System 1 (intuitiv) System 2 (bewusst) https://unsplash.com/photos/fmcjJ3AOffk
18. Cognitive Biases
19. errors Cognitive biases are in the ways that individuals interpret information and make decisions. Kahnemann & Renshon predictable
20. https://www.youtube.com/watch?v=v3iPrBrGSJM
21. Selektive Wahrnehmung durch begrenzte oder einseitige Aufmerksamkeit eingeschränkte Wahrnehmung. https://de.wikipedia.org/wiki/Selektive_Wahrnehmung
22. Die Aufgabe... (c) 1999 Daniel J. Simons
23. https://www.researchgate.net/publication/12620563_Gorillas_in_Our_Midst_Sustained_Inattentional_Blindness_for_Dynamic_Events > 46% übersehen den Gorilla
24. Selektive Informationsaufnahme
25. Schach und ELO-Score https://www.psychologytoday.com/us/blog/ulterior-motives/202509/using-chess-to-study-overconfidence
26. • 2500 Spieler befragt • alle kennen ihr ELO • >50% schätzten sich selbst höher ein als aktueller ELO • 89 ELO Punkte höher -> 2:1 Chance einen gleich bewerteten Gegner zu besiegen. • nach 12 Monaten keine Änderung dieser Einschätzung • https://www.psychologytoday.com/us/blog/ulterior-motives/202509/using-chess-to-study-overconfidence • https://journals.sagepub.com/doi/10.1177/09567976251360747#core-collateral-purchase-access
27. Fonds- management https://corporatefinanceinstitute.com/resources/career-map/sell-side/capital-markets/overconfidence-bias/ • 74% schätzen sich „über Durchschnitt“ • 26% als Durchschnitt
28. Overconfidence Bias Tendenz, die eigene Kompetenz oder die Genauigkeit eigener Urteile zu überschätzen — unabhängig vom tatsächlichen Können.
29. Truck Fump. https://unsplash.com/photos/B_vXFdzvw3g
30. Dunning-Kruger Effect: Overconfidence-auf-Drogen „Those lacking expertise lack the expertise they need to recognize that they lack expertise.“ David Dunning, 2025 https://www.psychologicalscience.org/news/2025-sept-overconfidence.html
31. Dunning-Kruger Heck, P. R., Benjamin, D. J., Simons, D. J., & Chabris, C. F. (2025). Overconfidence persists despite years of accurate, precise, public, and continuous feedback: Two studies of tournament chess players. Psychological Science, 36(9), 732–745.
32. Dunning-Kruger ... treffen Laurence J. Peter https://commons.wikimedia.org/wiki/File:Peters_principle.svg
33. Aufgabe: Schätze Aufwand mit 90% Konfidenzintervall • Ergebnis: Tatsächliche Hit Rate: 60–70 % • Entwickler sagt „ich bin 90 % sicher“, liegt aber liegt in 30–40 % der Fälle daneben. • Gefühl: 90 % sicher, Realität: ~65 % sicher. • Trotz wiederholtem, zeitnahem Feedback blieben die meisten overconfident • Strukturiertes Vorgehen halfen etwas; reine Erfahrung half kaum • Auch Software-Profis scheitern daran, sich zu kalibrieren. Gruschke, T. & Jørgensen, M. (2007). Assessing Uncertainty of Software Development Effort Estimates: Learning from Outcome Feedback. Simula Research Laboratory / University of Oslo.
35. Schreibe die letzten zwei Ziffern...
37. Anchoring Bias Menschen werden bei Entscheidungen von Umgebungsinformationen beeinflusst, ohne dass ihnen dieser Einfluss bewusst wird. https://de.wikipedia.org/wiki/Ankereffekt
38. Das schafft ihr in zwei Tagen, oder?
39. Kontinentaldift 1912 von Alfred Wegener vorgeschlagen. 1960 allgemein anerkannt.
40. Bloß Nichts Neues (totalitarian ego) Körper+Geist gehen in Abwehrhaltung, sobald eigene Meinungen/Annahmen in Frage gestellt werden. https://en.wikipedia.org/wiki/Cognitive_bias#List_of_biases Steht der eigenen Weiterentwicklung im Weg
41. Vorein- genommenheit (confirmation bias) Neigung, Informationen so zu suchen und zu interpretieren, dass sie die eigenen Überzeugungen oder Hypothesen bestätigen.
42. Semmelweis Reflex reflexartige Ablehnung neuer Erkenntnisse, wenn sie weit verbreiteten Normen oder Überzeugungen widersprechen. https://de.wikipedia.org/wiki/Semmelweis-Reflex Ignaz Semmelweis
43. Ablehnung neuer Evidenz, wenn 1. herrschenden mentalen Modell widerspricht 2. die eigene Gruppe „im Unrecht" zeigt 3. akzeptierter Erklärungsmechanismus fehlt 4. Status oder Geschäftsmodell bedroht 5. von einem Außenseiter kommt
44. 2* Millionen Menschenleben gerettet • Professor Katalin Karikó • Entwickelte mRNA Impfstoffe Foto: https://falling-walls.com/de/foundation/people/katalin-kariko * Quellen: • Watson et al. (2022), Lancet Infectious Diseases — ~19,8 Mio. im ersten Jahr • Meslé et al. / WHO Europe (2024), Lancet Respiratory Medicine — ≥1,4 Mio. in Europa • Ioannidis, Pezzullo et al. (2025), JAMA Health Forum — ~2,5 Mio. weltweit 2020–2024 • WHO/Europe Statement (16.01.2024): 1,4 Mio. Leben gerettet
45. 20+ Jahre bis zur Anerkennung Foto: https://falling-walls.com/de/foundation/people/katalin-kariko
46. 50 Studierende lesen zwei Texte... • Text 1 stützt eine Theorie • Text 2 widerlegt diese Theorie Lord, C. G., Ross, L., & Lepper, M. R. (1979). „Biased Assimilation and Attitude Polarization: The Effects of Prior Theories on Subsequently Considered Evidence." Journal of Personality and Social Psychology, 37(11), 2098–2109. DOI: 10.1037/0022- 3514.37.11.2098 Erwartung: differenzierte, offene Diskussion über die Theorie. Pro Contra
47. 50 Studierende lesen zwei Texte... • Text 1 stützt eine Theorie • Text 2 widerlegt diese Theorie Anschließend: • Jede Gruppe fühlt sich in der eigenen Meinung bestärkt • Polarisierungseffekt Lord, C. G., Ross, L., & Lepper, M. R. (1979). „Biased Assimilation and Attitude Polarization: The Effects of Prior Theories on Subsequently Considered Evidence." Journal of Personality and Social Psychology, 37(11), 2098–2109. DOI: 10.1037/0022- 3514.37.11.2098 Pro Contra
48. Polarisierung statt Einigung Lord, C. G., Ross, L., & Lepper, M. R. (1979). „Biased Assimilation and Attitude Polarization: The Effects of Prior Theories on Subsequently Considered Evidence." Journal of Personality and Social Psychology, 37(11), 2098–2109. DOI: 10.1037/0022- 3514.37.11.2098
50. Voreingenommenheit (confirmation bias) Soziale Medien zeigen primär Inhalte, die bestehende Vorbehalte/Annahmen/Meinungen bestätigen. https://en.wikipedia.org/wiki/Cognitive_bias#List_of_biases
51. Tools we cling to (aka: how people decide) Annahme Instinkt Gewohnheit Offen für Neues A.Grant, p. 8
52. Confirmation Bias im Dev-Team • Debugging: vorzeitig auf eine Ursache fixieren. • Architekturentscheidung steht innerlich schon fest; • Benchmarks, Case Studies nur noch selektiv zusammengesucht • Rechtfertigung statt echter Prüfung. • Testen: „Happy-Path"-Tests dominieren. • Code-Review: Erwartung steuert Wahrnehmung • vertrauter Autor → schnelles Approve; • erwartet schlechter Code → Du findest garantiert etwas.
53. wir nehmen bevorzugt wahr, was unsere Ansichten bestätigt
54. broken Test broken Build mehr Fehler Spaghetti Code
55. Schönreden bagatellisieren, umdeuten
56. Schönreden: Kognitive Dissonanzreduktion Leon Festinger, A Theory of Cognitive Dissonance (1957).
57. De-Biasing Bad News: Mohanani et al. (2020), Cognitive Biases in Software Engineering. Abschnitt zu Debiasing / Fischhoffs Stufen (arXiv 1707.03869) Selbsterkenntnis reicht nicht.
58. Ich doch nicht
59. Bias Blind Spot Pronin, E., Lin, D. Y., & Ross, L. (2002). The Bias Blind Spot: Perceptions of Bias in Self Versus Others. Personality and Social Psychology Bulletin, 28(3), 369–381. DOI: 10.1177/0146167202286008 https://www.cambridge.org/core/journals/judgment-and-decision-making/article/agency-and-selfother-asymmetries- in-perceived-bias-and-shortcomings-replications-of-the-bias-blind-spot-and-link-to-free-will- beliefs/33C3F2CE24AC6932CD6339713B566E55 Tendenz, bei sich selbst weniger kognitive Verzerrungen wahrzunehmen als bei anderen. "Biases sind ein Problem der anderen."
60. Bias in Bewerbungen Thomas, O. & Reimann, O. (2023). The bias blind spot among HR employees in hiring decisions. German Journal of Human Resource Management, 37(3). https://journals.sagepub.com/doi/10.1177/23970022221094523 • gleiche Qualifikation, unterschiedliche Wahrnehmung • Bias nur bei den Anderen
61. Bias Blind Spots Pronin, Hazel: Humans‘ Bias Blind Spot and Its Societal Significance
63. Mohanani et al. (2020), Cognitive Biases in Software Engineering: A Systematic Mapping Study
64. Viel Diagnose, kaum Therapie! Mohanani et al. (2020), Cognitive Biases in Software Engineering: A Systematic Mapping Study Diagnosen: 37 gut untersuchte Biases Therapie: 0 (Null) validiert
65. De-Biasing, done right Fischhoff, B. (1982). „Debiasing." In D. Kahneman, P. Slovic & A. Tversky (Hrsg.), Judgment under Uncertainty: Heuristics and Biases (S. 422–444). Cambridge University Press. „Aufgabe debiasen, nicht Personen.“
66. De-Biasing gleichzeitiges Aufdecken vermeiden Anchoring... Der Klassiker: Planning-Poker
67. De-Biasing „Kill-Criteria“ Vorab festlegen, welche Evidenz eine Entscheidung kippen darf.
68. De-Biasing Bewertungsmaßstab festlegen, bevor man das Ergebnis sieht. Vorab festlegen, welche Evidenz eine Entscheidung kippen darf. ADR mit explizitem „Revisit/Kill"-Abschnitt
69. De-Biasing Hypothese und Gegenthese... Pro und Contra explizit diskutieren.
70. De-Biasing Mindestens zwei Alternativen bei Entscheidungen! statt „Die Lösung“
71. De-Biasing Devils Advocate: Warum könnte meine Lösung falsch sein? aktiv Gründe und Belege für Gegenthese suchen Lord, Lepper & Preston (1984), „Considering the Opposite: A Corrective Strategy for Social Judgment", JPSP 47(6), 1231–1243 (PubMed)
72. De-Biasing „Social Options“ Reviews durch Dritte, Außenperspektive Andere sehen DEINEN Bias, den Du selbst nicht siehst.
73. Quellen
74. Thanx. Gernot Starke gernot.starke@innoq.com Twitter: @gernotstarke www.innoq.com