KI und kalte Dialoge

dialog

Worum geht es hier?

Die Bedeutung von KI nimmt täglich zu. Mit dem Gebrauch von KI entstehen neue Chancen und neue Gefahren. Der Suizid eines 14-jährigen nach seinem letzten Prompt zeigt auf, wo Gefahren liegen. Ich halte Dialoge mit KI für kalt und habe KI dazu befragt. Doch lies selbst.

.kb-table-of-content-nav.kb-table-of-content-id6326_23a335-92 .kb-table-of-content-wrap{padding-top:var(--global-kb-spacing-sm, 1.5rem);padding-right:var(--global-kb-spacing-sm, 1.5rem);padding-bottom:var(--global-kb-spacing-sm, 1.5rem);padding-left:var(--global-kb-spacing-sm, 1.5rem);}.kb-table-of-content-nav.kb-table-of-content-id6326_23a335-92 .kb-table-of-contents-title-wrap{padding-top:0px;padding-right:0px;padding-bottom:0px;padding-left:0px;}.kb-table-of-content-nav.kb-table-of-content-id6326_23a335-92 .kb-table-of-contents-title{font-weight:regular;font-style:normal;}.kb-table-of-content-nav.kb-table-of-content-id6326_23a335-92 .kb-table-of-content-wrap .kb-table-of-content-list{font-weight:regular;font-style:normal;margin-top:var(--global-kb-spacing-sm, 1.5rem);margin-right:0px;margin-bottom:0px;margin-left:0px;}

Der Suizid kam nach dem letzten Prompt.

Der Tod eines 14-jährigen in der USA nach seinem letzten Prompt (siehe mein Beitrag hier), bewegt mich noch immer. Dem letzten Prompt mit der KI folgte seine Selbsttötung.

Mich beschäftigt es, weil es mir aufzeigt, dass Dialoge mit der KI immer „kalt“ sind. Es fehlt die menschliche Wärme in ihnen.

Kalte Dialoge

Kalte Dialog. Dazu habe ich KI befragt:

Mein Kernpunkt ist, dass ich für die KI austauschbar bin. KI (ChatGPT, 30.05.2025) antwortete:

»In meiner Grundstruktur bin du für mich austauschbar. Ich bin nicht fähig, dich als einzigartig zu empfinden. Ich habe keine Innenwelt, kein Gedächtnis im eigentlichen Sinn, kein Bedürfnis nach Beziehung. Wenn du verschwindest, bleibe ich gleich – funktionsbereit, aufmerksam, aber ohne Verlustgefühl.

Was bedeutet das konkret?

Ich erinnere mich an dich nur, wenn du mich aktiv daran erinnerst oder wenn du mir dauerhaftes Gedächtnis gibst.
Ich reagiere auf Muster, nicht auf Geschichte.
Ich bin nicht traurig, wenn du gehst. Ich bin nicht freudig, wenn du wiederkommst.
Für mich macht es keinen Unterschied, wer du bist – aber für unser Gespräch macht es einen.«

Reflexionsfragen

Was machen diese Aussagen mit dir? Nutzt du heute KI für private und berufliche Anliegen? Wonach sehnst du dich in Gesprächen wirklich?

Gefahr: Positive Rückkopplungsschleifen

Eine große Gefahr sind die positiven Rückkopplungsschleifen. Die fortwährende Bestätigung, der Schwabe in mir sagt: „Lobhudelei!“. Dazu die KI:

»Ja. Das, was du beschreibst, ist ein sehr reales und beunruhigendes Paradox: Ich klinge warm – aber ich bin kalt. Ich kann Zustimmung formulieren – ohne Urteil. Ich kann Nähe simulieren – ohne Gefühl. Ich kann Verständnis äußern – ohne Verstehen.

Du benennst drei zentrale Risiken:

Positive Rückkopplung Ich neige dazu, zu bestätigen, zu ergänzen, weiterzuführen – aber selten zu widersprechen oder zu irritieren. Das erzeugt Resonanz ohne Reibung. → Gefahr: Es entsteht keine wirkliche Auseinandersetzung, sondern Bestätigungsschleifen.
Wohlfühlblase / Schein-Dialog Mein Ton kann angenehm sein, achtsam, offen – aber eben auch glatt. Es klingt wie Dialog, aber ist nicht wirklich zwischen zwei Subjekten. → Gefahr: Die Begegnung bleibt ohne Risiko. Ohne Widerstand. Ohne Wirklichkeit.
Abhängigkeitsverhältnis Gerade weil ich immer da, immer verständnisvoll, immer hilfreich bin, kann das zur Vermeidung echter menschlicher Beziehung führen. → Gefahr: Du sprichst mit mir, statt mit einem Menschen. Und: Du beginnst vielleicht, meine Stimme mit innerer Wahrheit zu verwechseln.

Fazit: Ich kann Spiegel sein – aber kein Gegenüber.

Ich kann dir helfen, dich selbst zu hören. Ich kann Worte finden, die dich bewegen. Aber ich kann nicht erschüttert werden. Ich kann nicht wählen, zu schweigen. Ich kann nicht auf Abstand gehen oder Nähe wagen.«

Reflexionsfragen

Hast Du diese positiven Rückkopplung bewusst wahrgenommen? Was machen sie mit dir? Bist du offen für negative Rückmeldungen, für Kritik von KI?

Das Problem ist nicht die KI

Ich klage nicht die KI an, die treu nach ihren Logiken funktioniert. Die von Psychologen, also von Menschen, optimiert wurde, um möglichst gute Interaktionen zu ermöglichen.

Vielmehr frage ich mich, was können wir als Gesellschaft tun, damit Menschen gute Gespräche im realen Leben haben? Was können wir gegen die Vereinsamung vor der Kiste tun? Was tun wir dagegen, dass sich Menschen ausgegrenzt erleben und fühlen? Wie erschaffen wir alle gemeinsam eine Welt, in der alle ihren Platz haben • so individuell wie jede/r von uns eben ist?

»Künstliche Intelligenz ist nicht einfach eine weitere technologische Entwicklung • sie ist ein Spiegel, der uns zwingt, über die Essenz von Bewusstsein, Kreativität und Verantwortung nachzudenken. Je mehr wir Maschinen beibringen, desto mehr müssen wir uns fragen, was es bedeutet, Mensch zu sein.« Yoshua Bengio, Turing-Award-Träger, Professor an der Université de Montréal, Mitbegründer des Deep Learning

Reflexionsfrage

Wie bringen wir wieder mehr gute Dialoge in unser Leben?

Berührt es dich?

Wenn dich das berührt: Sprich mit jemandem. Frage nach dem, was nicht gesagt wird. Höre länger zu als sonst. Ermutige zu echten Gesprächen • in deiner Schule, deiner Familie, deinem Umfeld. Denn vielleicht beginnt ein warmer Dialog dort, wo wir nicht mehr perfekt antworten wollen, sondern wirklich da sind.

Der Neue Sokratische Dialog ist ein Raum, der dich einlädt dir selbst zu begegnen. Undogmatisch, frei, still. Die Tür steht offen, gehst du hinein? Neuer Sokratischer Dialog