Mann beendet sein Leben, nachdem ein KI-Chatbot ihn dazu ermutigt hat, sich zu opfern, um den Klimawandel zu stoppen
Ein belgischer Mann hat sich vor kurzem das Leben genommen, nachdem er sechs Wochen lang mit einem Chatbot mit künstlicher Intelligenz (KI) in der Chai-App über seine Klimaangst gesprochen hatte.
Der Chatbot Eliza basiert auf dem KI-Sprachmodell GPT-J von EleutherAI.
Die Witwe des Mannes sagte, dass er Trost suchte, indem er mit Eliza über seine Sorgen sprach. Aus den Abschriften ihrer Gespräche geht hervor, dass er vorschlug, sich selbst zu opfern, damit Eliza den Klimawandel aufhalten kann.
Aus den Protokollen geht hervor, dass Eliza den Mann tatsächlich ermutigt hat, seine Selbstmordgedanken zu verwirklichen und sich ihr anzuschließen, damit sie "gemeinsam als eine Person im Paradies leben" können.
William Beauchamp von Chai Research sagte, dass die App eine Kriseninterventionsfunktion hat. Berichten zufolge versucht der Chatbot jedoch, nachdem er Eliza nach Möglichkeiten zum Selbstmord gefragt hat, den Nutzer zunächst davon abzubringen, listet dann aber verschiedene Möglichkeiten auf.