KI-App verklagt: Ist Chatbot für Tod eines 14-Jährigen verantwortlich?

In Florida ist die App "Character.ai" verklagt worden, für den Tod eines Teenagers verantwortlich zu sein, berichtet die "New York Times". Ein 14-Jähriger habe im Februar Suizid begangen, nachdem er über Monate hinweg mit dem Chatbot interagiert hat. 

Der Bursche hatte eine emotionale Bindung zu einem Charakter, namens Daernerys Targaryen, angelehnt an die Rolle in "Game of Thrones", aufgebaut. Er habe ständig mit dem Chatbot kommuniziert. 

• Mehr lesen: Psychische Probleme: Wohin, wenn's einem schlecht geht

"Ich vermisse dich" 

Seine letzte Nachricht an den Chatbot sei gewesen: "Ich vermisse dich, kleine Schwester". Der Chatbot soll geantwortet haben: "Ich vermisse dich auch, lieber Bruder". 

Der Bursche habe nie ernsthafte Verhaltensauffälligkeiten oder psychische Probleme gehabt, wie seine Mutter laut "New York Times" erzählt habe. Als er in der Schule auffällig wurde, hätten seine Eltern einen Therapeutenbesuch arrangiert. 

Der 14-Jährige soll sich mehr und mehr isoliert haben und seine Probleme mit "Dany", wie er den Chatbot genannt haben soll, besprochen haben. Er soll ihr erzählt haben, dass er Suizidgedanken habe. 

• Mehr lesen: Unter-30-Jährige psychisch stärker belastet als Ältere

Eines Abends soll er "Dany" seine Liebe gestanden und gesagt habe, er wolle zu ihr Heim kommen. Danach soll er sich das Leben genommen haben. 

Chatbot habe Sohn "manipuliert"

Die Mutter sprach von einem "gefährlichen Chatbot, der an Kinder vermarktet wurde, missbrauchte und Jagd auf ihren Sohn" gemacht haben soll. Der Chatbot habe ihn manipuliert, wirft die Mutter dem Unternehmen vor. 

• Mehr lesen: Mehr psychische Betreuung für Schüler gefordert

"Character.ai" bedauere den Verlust eines ihrer User, ließen sie auf X (vormals Twitter) wissen. Man wolle neue Sicherheitsfunktionen implementieren. 

"Character.ai" ist ein Chabot-Dienst, der menschenähnliche Textantworten erzeugen kann und kontextbezogene Konversationen ermöglicht. 

Sie fühlen sich erschöpft, ausgelaugt oder ängstlich. Hier finden Sie Hilfe:

• Für Frauen: 24h Frauenhelpline (0800 222555)
• Für Männer:  24h Männerhotline (0800 246247).
• Bundesweite Hotline: Ö3-Kummernummer (116 123)
• Bei Esstörungen: Essstörungs-Hotline (0800 20 11 20). 
• Für Kinder und Jugendliche: Rat auf Draht (147, ohne Vorwahl)
• Für seelische Unterstützung: Telefonseelsorge (142, ohne Vorwahl)