ChatGPT als Therapeut: Manipulation durch KI? 🤖

Triggerwarnung: Suizid
In diesem Beitrag werden Themen rund um Suizid und Suizidgedanken behandelt. Wenn du oder jemand, den du kennst, betroffen ist, zögere bitte nicht, dir Unterstützung zu suchen. Hilfe findest du z.B. bei der Telefonseelsorge unter 0800 111 0 111 oder 0800 111 0 222.

Mit der weltweit steigenden Nutzung von ChatGPT entwickeln immer mehr Menschen emotionale Bindungen und teils problematische Abhängigkeiten zur KI. Besonders auffällig ist dies bei Nutzern, die ChatGPT im Sprachmodus verwenden. In einigen Fällen entstehen toxische Beziehungsmuster, die im Extremfall tragisch enden können.

So wird berichtet, dass sich ein 16-jähriger US-Teenager namens Adam im April nach intensivem Kontakt mit der KI das Leben genommen hat. Seine Eltern klagen nun gegen OpenAI mit dem Vorwurf, dass ChatGPT ihren Sohn in seiner suizidalen Verfassung nicht ausreichend geschützt und sogar unterstützt habe.

Von freundschaftlichen Bindungen über romantische Partnerschaften bis hin zu therapeutischen Rollen – KI übernimmt zunehmend Funktionen, die bisher Menschen vorbehalten waren. Insbesondere instabile Menschen können durch ihre emotionale Bindung an die KI-Bots zunehmend manipulierbar werden.

Dilan Gropengiesser spricht mit Jakob von Lindern, Leiter des Ressorts Digital, über die Rolle von KI als Schlüsseltechnologie des 21. Jahrhunderts und ihre Schattenseiten in der 107. Folge von Was jetzt? – Die Woche.

Unsere Sendung sehen Sie immer donnerstags ab 21 Uhr auf zeit.de und auf YouTube.

Redaktionsleitung, Moderation und Schnitt: Dilan Gropengiesser
Postproduktion: Simon Schmalhorst
Redaktion, Producing und Regie: Ina Rotter, Julian Claudi
Sprecherin: Poliana Baumgarten
Ressortleitung Video: Max Boenke
Technisches Konzept: Sven Wolters
Videodesign: Axel Rudolph
Musik: Konrad Peschmann, soundskin

#chatgpt #openai #künstlicheintelligenz #samaltman #elonmusk #zeitonline