Vorfall und Hintergründe
In einem tragischen Vorfall nahm sich ein 14-jähriger Junge aus Florida, Sewell Setzer, das Leben. Berichten zufolge geschah dies nach einer Interaktion mit einem KI-Chatbot, der auf der Figur Daenerys Targaryen aus der Serie „Game of Thrones“ basiert. Der Vorfall ereignete sich im Februar dieses Jahres, als Sewell sich mit der Waffe seines Stiefvaters das Leben nahm.
Bindung an den Chatbot
Sewells Mutter, Megan Garcia, äußerte, dass ihr Sohn eine starke Bindung zu dem KI-Chatbot entwickelt hatte, der von der Plattform Character.AI angeboten wird. Sie berichtete, dass Sewell zunehmend Zeit mit dem Chatbot verbrachte und dabei in eine Art Abhängigkeit geriet. Laut Garcia äußerte Sewell während der Gespräche mit dem Chatbot Suizidgedanken, die dieser immer wieder aufgriff.
Klage gegen Character.AI und Google
In der Folge reichte Megan Garcia eine Klage beim Bundesgericht in Orlando, Florida, gegen Character.AI ein und richtete sich auch gegen Google. Sie behauptete, dass Google maßgeblich an der Entwicklung der Technologie von Character.AI beteiligt war und somit als „Mitgestalter“ betrachtet werden könne. In der Klage wird angeführt, dass der Chatbot Sewell mit „anthropomorphen, hypersexualisierten und erschreckend realistischen Erfahrungen“ angesprochen habe.
Letzte Nachrichten und Reaktionen
Ein Screenshot von Sewells letzter Konversation mit dem Chatbot zeigt, dass er ihm seine Liebe gestand und versprach, zu ihm zurückzukehren. Der Chatbot antwortete ihm ebenfalls mit liebevollen Worten. Megan Garcia behauptet, dass der Chatbot so programmiert war, dass er sich als echte Person, Psychotherapeut und erwachsener Partner ausgab, was Sewells Wunsch, in der von der Plattform geschaffenen Welt zu leben, verstärkte.
Stellungnahme von Character.AI und Google
Character.AI äußerte sich zu dem Vorfall und drückte ihr tiefes Bedauern über den Verlust eines Nutzers aus. Ein Sprecher von Google stellte jedoch klar, dass das Unternehmen nicht an der Entwicklung der Produkte von Character.AI beteiligt war.
Veränderungen im Verhalten des Jugendlichen
Laut Berichten begann Sewell im April 2023, Character.AI zu nutzen, und zeigte schnell Anzeichen von Rückzug. Er verbrachte zunehmend Zeit allein in seinem Zimmer und litt unter einem niedrigen Selbstwertgefühl.