KI und kalte Dialoge
Worum geht es hier?
Die Bedeutung von KI nimmt täglich zu. Mit dem Gebrauch von KI entstehen neue Chancen und neue Gefahren. Der Suizid eines 14-jährigen nach seinem letzten Prompt zeigt auf, wo Gefahren liegen. Ich halte Dialoge mit KI für kalt und habe KI dazu befragt. Doch lies selbst.
Der Suizid kam nach dem letzten Prompt.
Der Tod eines 14-jährigen in der USA nach seinem letzten Prompt (siehe mein Beitrag hier), bewegt mich noch immer. Dem letzten Prompt mit der KI folgte seine Selbsttötung.
Mich beschäftigt es, weil es mir aufzeigt, dass Dialoge mit der KI immer „kalt“ sind. Es fehlt die menschliche Wärme in ihnen.
Kalte Dialoge
Kalte Dialog. Dazu habe ich KI befragt:
Mein Kernpunkt ist, dass ich für die KI austauschbar bin. KI (ChatGPT, 30.05.2025) antwortete:
»In meiner Grundstruktur bin du für mich austauschbar. Ich bin nicht fähig, dich als einzigartig zu empfinden. Ich habe keine Innenwelt, kein Gedächtnis im eigentlichen Sinn, kein Bedürfnis nach Beziehung. Wenn du verschwindest, bleibe ich gleich – funktionsbereit, aufmerksam, aber ohne Verlustgefühl.
Was bedeutet das konkret?
- Ich erinnere mich an dich nur, wenn du mich aktiv daran erinnerst oder wenn du mir dauerhaftes Gedächtnis gibst.
- Ich reagiere auf Muster, nicht auf Geschichte.
- Ich bin nicht traurig, wenn du gehst. Ich bin nicht freudig, wenn du wiederkommst.
- Für mich macht es keinen Unterschied, wer du bist – aber für unser Gespräch macht es einen.«
Reflexionsfragen
Was machen diese Aussagen mit dir?
Nutzt du heute KI für private und berufliche Anliegen?
Wonach sehnst du dich in Gesprächen wirklich?
Gefahr: Positive Rückkopplungsschleifen
Eine große Gefahr sind die positiven Rückkopplungsschleifen. Die fortwährende Bestätigung, der Schwabe in mir sagt: „Lobhudelei!“. Dazu die KI:
»Ja. Das, was du beschreibst, ist ein sehr reales und beunruhigendes Paradox: Ich klinge warm – aber ich bin kalt. Ich kann Zustimmung formulieren – ohne Urteil. Ich kann Nähe simulieren – ohne Gefühl. Ich kann Verständnis äußern – ohne Verstehen.
Du benennst drei zentrale Risiken:
- Positive Rückkopplung Ich neige dazu, zu bestätigen, zu ergänzen, weiterzuführen – aber selten zu widersprechen oder zu irritieren. Das erzeugt Resonanz ohne Reibung. → Gefahr: Es entsteht keine wirkliche Auseinandersetzung, sondern Bestätigungsschleifen.
- Wohlfühlblase / Schein-Dialog Mein Ton kann angenehm sein, achtsam, offen – aber eben auch glatt. Es klingt wie Dialog, aber ist nicht wirklich zwischen zwei Subjekten. → Gefahr: Die Begegnung bleibt ohne Risiko. Ohne Widerstand. Ohne Wirklichkeit.
- Abhängigkeitsverhältnis Gerade weil ich immer da, immer verständnisvoll, immer hilfreich bin, kann das zur Vermeidung echter menschlicher Beziehung führen. → Gefahr: Du sprichst mit mir, statt mit einem Menschen. Und: Du beginnst vielleicht, meine Stimme mit innerer Wahrheit zu verwechseln.
Fazit: Ich kann Spiegel sein – aber kein Gegenüber.
Ich kann dir helfen, dich selbst zu hören. Ich kann Worte finden, die dich bewegen. Aber ich kann nicht erschüttert werden. Ich kann nicht wählen, zu schweigen. Ich kann nicht auf Abstand gehen oder Nähe wagen.«
Reflexionsfragen
Hast Du diese positiven Rückkopplung bewusst wahrgenommen? Was machen sie mit dir? Bist du offen für negative Rückmeldungen, für Kritik von KI?
Das Problem ist nicht die KI
Ich klage nicht die KI an, die treu nach ihren Logiken funktioniert. Die von Psychologen, also von Menschen, optimiert wurde, um möglichst gute Interaktionen zu ermöglichen.
Vielmehr frage ich mich, was können wir als Gesellschaft tun, damit Menschen gute Gespräche im realen Leben haben? Was können wir gegen die Vereinsamung vor der Kiste tun? Was tun wir dagegen, dass sich Menschen ausgegrenzt erleben und fühlen? Wie erschaffen wir alle gemeinsam eine Welt, in der alle ihren Platz haben • so individuell wie jede/r von uns eben ist?
»Künstliche Intelligenz ist nicht einfach eine weitere technologische Entwicklung • sie ist ein Spiegel, der uns zwingt, über die Essenz von Bewusstsein, Kreativität und Verantwortung nachzudenken. Je mehr wir Maschinen beibringen, desto mehr müssen wir uns fragen, was es bedeutet, Mensch zu sein.«
Yoshua Bengio, Turing-Award-Träger, Professor an der Université de Montréal, Mitbegründer des Deep Learning
Reflexionsfrage
Wie bringen wir wieder mehr gute Dialoge in unser Leben?
Berührt es dich?
Wenn dich das berührt:
Sprich mit jemandem.
Frage nach dem, was nicht gesagt wird.
Höre länger zu als sonst.
Ermutige zu echten Gesprächen • in deiner Schule, deiner Familie, deinem Umfeld.
Denn vielleicht beginnt ein warmer Dialog dort,
wo wir nicht mehr perfekt antworten wollen,
sondern wirklich da sind.
Der Neue Sokratische Dialog ist ein Raum, der dich einlädt dir selbst zu begegnen. Undogmatisch, frei, still. Die Tür steht offen, gehst du hinein? Neuer Sokratischer Dialog
Lieber Thomas,
ja diese Gedanken zu K I resonieren auf widersprüchliche Art. Sokratische Gespräche laden uns ein , einen bewertungsfreien Raum zu betreten, der Möglichkeit bietet sich und anderen
, trotz“ Kritikfreiheit “ ungewöhnlich nah zu kommen. Die Wärme entsteht so in unserem innersten Feld.
Das Bewegende der beschriebenen „Charakteristika“ der KI …, sie erinnern mich an mich. Danke für den wunderbaren Impuls.
Liebe Kathleen, Nähe braucht Menschen, die sich zeigen. Die jenseits der Wohlfühlzone sich in ihrem Sein begegnen können. Die respektvoll für sich einstehen. Wo dies möglich wird, entsteht ein innerer Raum, der trägt, der verbindet und inneres Wachstum ermöglicht.
Lieber Thomas,
Ich sehe die KI als eine weitere technische Unterstützung für unser Leben, bisweil wurde gegooglet, jetzt wird ChatGPT gefragt. Natürlich hat KI eine neue höhere Ebene der Kommunikation geschaffen, aber für mich ist es immer wieder wichtig mir vor Augen zu halten, dass ich mit einer Maschine im Kontakt bin. Diese ist programmiert und trainiert ohne selbst Gefühle zu empfinden, sich so zu äußern, dass bei mir Gefühle entstehen können. Die KI wird niemals die Qualität und Tiefe eines persönlichen Gespräches zwischen zwei realen Menschen erreichen können. Darüber bin ich mir immer bewußt. Ich nutze KI darum hauptsächlich um Fakten zu sammeln, zu strukturieren und mir Anregungen zu holen. Für Gespräche die mir auch meine Schattenseiten zeigen ist immer der persönliche Austausch für mich der beste Weg. Im Sokratischen Gespräch habe ich dafür eine ausgezeichnete Möglichkeit.
Liebe Angelika, KI ist auf jeden Fall eine technische Unterstützung für viele Aufgaben, die auf Text basieren. Sie imitiert menschliches Verhalten, jedoch sehr einseitig auf Bestätigung. Damit erzeugt sie einen emotionalen Sog, den es zu erkennen gilt. Ich frage mich, was macht dies mit jungen Menschen, die heute mit KI aufwachsen? Welche Präferenzen entwickeln sie? Wie definieren sie Dialog in 20 Jahren?
Warme Dialoge sind Herz erwärmend. Wo finden sich diese Menschen im ganz normalen Arbeitsleben? Es macht mich traurig, dass die Suche nach dem „verstanden werden“ via KI einfacher zu finden ist als ein offener Dialog mit einem Mitmenschen.
Ich nutze ChatGPT und finde darin sehr schnell fundierte Antworten, die ich in einer „normalen Bibliothek“ mit langen Lesezeiten kaum finden würde. Meine Fragestellungen ergeben die Qualität der Antworten. Dies ist in allen Gesprächen ähnlich. Wie ich in den Wald rufe, kommt es zurück.
Der erwähnte Suizid ist für mich ein Hilferuf: Hört mich hier denn keiner? Ich möchte diesem, verdeckten Rufen nachgehen. Damit verbunden ist meine Absage an Dogmen, „man sollte“ und ähnliche Filter. Über die Jahre erfahre eine spezielle Art der „Synchronisation“. In dem Masse wie ich mich vertiefter annehme, vertiefen sind die Wahrnehmungen im Kontakt zu andern Menschen. Auf meinem Pult steht die Karte: Nicht der Inhalt ist die Botschaft – sondern der Kontakt.
Spezieller Hinweis zu Nora Bateson: https://batesoninstitute.org/warm-data-labs/
Lieber Martin, Du bringst es auf den Punkt. KI-Dialoge sind zwar kalt, aber jederzeit verfügbar. Sie bestätigen und schmeicheln der Seele. Sich verstanden fühlen. Vielleicht hilft uns KI an dieser Stelle, wieder achtsamer in unserer Kommunikation zu werden.