Warum wir im Zeitalter der KI das Denken verteidigen müssen
impact ix. – Folge 23 mit Roland Kossow
Künstliche Intelligenz kann heute Texte schreiben, programmieren, Diagnosen vorschlagen und komplexe Zusammenhänge erklären. Sie antwortet schnell, strukturiert und oft beeindruckend präzise. Doch genau hier beginnt die Herausforderung.
In Folge 23 von impact ix. sprechen wir mit Roland Kossow – Wirtschaftsinformatiker, Unternehmer und Autor von Artificial Banality – Künstliche Banalität: Ethik im Zeitalter der KI – Die Verteidigung des Denkens – über eine zentrale Frage unserer Zeit:
Wie behalten wir als Menschen die Urteilskraft, wenn KI-Systeme immer mehr Handlungsmacht übernehmen?
KI ist kein Subjekt – und kein moralischer Akteur
Roland argumentiert klar: Large Language Models sind keine denkenden Wesen. Sie operieren auf Basis statistischer Sprachmuster, nicht auf Basis von Bewusstsein, Intentionalität oder moralischer Verantwortung.
Was wir erleben, ist eine Projektion. Die Systeme erzeugen sprachlich kohärente Antworten, die für uns Sinn ergeben. Diese Eloquenz führt dazu, dass wir ihnen implizit Intentionalität zuschreiben – als hätten sie Absichten oder Einsichten.
Doch KI „weiß“ nichts. Sie lebt nicht in einer erfahrbaren Welt. Sie trägt keine Verantwortung für Konsequenzen. Und genau darin liegt das ethische Problem: Wir neigen dazu, Urteile an Systeme zu delegieren, die strukturell gar nicht urteilsfähig sind.
Rolands Kernthese lautet daher nicht Technologieverzicht, sondern:
Wir müssen das Denken verteidigen.
Von Konversation zu Agency
2025 war das Jahr der „Agency“-Diskussion. Während LLMs zunächst als konversationale Werkzeuge auftraten, entwickeln sich zunehmend Systeme, die eigenständig handeln: KI-Agenten, die recherchieren, programmieren, traden, Entscheidungen vorbereiten oder Prozesse autonom ausführen.
Hier verschiebt sich die Problemlage.
Ein Chatbot, der eine falsche Antwort gibt, ist ärgerlich.
Ein Agent, der im Finanzmarkt oder in sicherheitsrelevanten Systemen autonom handelt, hat reale Auswirkungen.
Roland beschreibt in der Folge das Phänomen emergenter Effekte – etwa bei Trading-Agenten im Finanzmarkt. Mehrere KI-Systeme interagieren miteinander, optimieren simultan und erzeugen Handlungsmuster, die sich gegenseitig verstärken. Für große Marktakteure kann das vorteilhaft sein – für kleinere Akteure nicht unbedingt.
Solche Dynamiken sind nicht das Resultat böser Absicht, sondern systemischer Wechselwirkungen. Und genau hier beginnt die ethische Verantwortung: Nicht auf der Ebene einzelner Antworten, sondern auf der Ebene von Systemarchitekturen.
Human in the Loop – reicht das?
In vielen Diskussionen wird das Konzept „Human in the Loop“ als Lösung präsentiert. Menschen sollen Entscheidungen von KI-Systemen prüfen und freigeben.
Doch Roland warnt vor einem strukturellen Problem: Wenn Menschen nur noch ex post prüfen, wenn sie mit zu vielen Fällen konfrontiert sind oder wenn Prüfprozesse zur Formalie verkommen, bleibt vom Denken wenig übrig.
Dann entsteht eine gefährliche Illusion von Kontrolle.
Verantwortung wird delegiert, ohne dass echte Urteilskraft erhalten bleibt. Unternehmen können sich absichern, regulatorische Anforderungen formal erfüllen – aber inhaltlich findet keine Reflexion mehr statt.
Das ist der Punkt, an dem „Artificial Banality“ greift:
Wenn KI-Output aufgrund seiner sprachlichen Qualität als Wahrheit wahrgenommen wird und menschliches Denken schrittweise reduziert wird.
LLMs als Werkzeug – aber nicht als Autorität
Ein wichtiger Teil des Gesprächs dreht sich um die produktive Nutzung von KI. Roland selbst programmiert mit KI, gründet ein KI-Startup und sieht enormes Potenzial in der Technologie.
LLMs können beim Schreiben helfen, beim Strukturieren, beim Recherchieren. Sie können Gedanken aufgreifen, Perspektiven erweitern, blinde Flecken sichtbar machen.
Aber: Die Qualität hängt vollständig von der Kompetenz der Person ab, die das System führt.
Wer über Domänenwissen verfügt, kann KI-Output kuratieren, korrigieren, weiterentwickeln.
Wer dieses Wissen nicht hat, läuft Gefahr, plausible Fehler zu übernehmen.
Das zeigt sich besonders deutlich in sensiblen Bereichen wie Medizin oder Recht. Antworten wirken überzeugend – sind aber nicht zwangsläufig korrekt. Die Gefahr besteht weniger in offenkundigen Fehlern, sondern in subtilen Verkürzungen.
Deshalb fordert Roland eine bewusste Gestaltung: Systemprompts, die differenzieren. Transparenz über Unsicherheiten. Konfidenzwerte. Relativierende Antworten statt autoritativer Aussagen.
Nicht jede Optimierung ist Fortschritt.
Die Meta-Ebene der Verantwortung
Mit zunehmender Verbreitung von KI-Agenten wird eine neue Ebene entstehen: Meta-Architekturen, die dokumentieren, auf welcher Grundlage Entscheidungen delegiert wurden.
Welche Parameter wurden gesetzt?
Welche Werte wurden hinterlegt?
Welche Modelle wurden genutzt?
Wer trägt letztlich Verantwortung?
Hier verschiebt sich Arbeit: weg von operativer Ausführung hin zu Architektur, Bewertung und ethischer Einordnung.
Das ist keine rein technische Frage, sondern eine gesellschaftliche.
Wie viel Friktionslosigkeit wollen wir?
Wie viel Kontrolle behalten wir?
Wie viel Verantwortung delegieren wir?
Roland sieht hier eine Parallele zur industriellen Revolution. KI wird Berufe verändern – insbesondere in wissensintensiven Bereichen wie Softwareentwicklung, Beratung oder Recht. Die Junior-Level könnten schrumpfen, während Senior-Entscheidungskompetenz weiter notwendig bleibt.
Doch wenn Ausbildung wegfällt, entsteht langfristig ein Kompetenzproblem.
Wer urteilt, wenn niemand mehr gelernt hat zu urteilen?
Denken als politische und kulturelle Stärke
Am Ende des Gesprächs wird eine europäische Perspektive sichtbar. Während in den USA und China Geschwindigkeit dominiert, gilt Europa oft als regulierungsfreudig und langsamer.
Roland interpretiert das anders: Nachdenken ist keine Schwäche, sondern eine Stärke.
Die Verteidigung des Denkens bedeutet nicht Verlangsamung um ihrer selbst willen. Sie bedeutet bewusste Gestaltung.
KI wird kommen. KI wird handeln. KI wird Systeme durchdringen.
Die entscheidende Frage ist nicht, ob wir KI nutzen.
Sondern ob wir die Fähigkeit behalten, ihre Wirkung zu beurteilen.
Fazit: Artificial Banality ist ein Warnsignal
„Artificial Banality“ beschreibt nicht die Intelligenz der KI, sondern die Gefahr, dass wir ihre Antworten für selbstverständlich halten.
Wenn eloquente Systeme Urteile vorstrukturieren, wenn Effizienz Denken ersetzt, wenn Verantwortung in Parametrisierung verschwindet, dann verlieren wir nicht nur Kontrolle – sondern Urteilskraft.
Rolands Plädoyer ist deshalb klar:
Technologie nutzen – ja.
Agency delegieren – mit Vorsicht.
Denken aufgeben – niemals.
Weiterführende Links
Roland Kossow – LinkedIn
https://www.linkedin.com/in/rolandkossow
Buch: Artificial Banality – Künstliche Banalität
https://www.amazon.de/Artificial-Banality-K%C3%BCnstliche-Banalit%C3%A4t-Verteidigung/dp/3692990006/
impact ix. & innolethix
https://innolethix.com