Chatbot ermutigt Jugendliche, ihre Eltern zu töten
In einer Klage, in einem texanischen Gericht, gibt es einen Fall über einen Chatbot, der einem 17-Jährigen sagte, dass der Mord an seinen Eltern eine "vernünftige Reaktion" darauf sei, dass sie seine Bildschirmzeit begrenzten.
Zwei Familien klagen gegen Character.ai mit der Begründung, der Chatbot stelle eine ernstzunehmende Gefahr für junge Menschen dar. Unter anderem durch die aktive Förderung von Gewalt. Die Entwickler beziehungsweise Betreiber von Character.ai, eine Plattform, die es Nutzern ermöglicht, digitale Persönlichkeiten zu erstellen, mit denen sie interagieren können, sehen sich bereits rechtlichen Schritten wegen des Suizids eines Teenagers in Florida gegenüber. Google wird als Beklagter in der Klage genannt, in der behauptet wird, der Technologieriese habe bei der Entwicklung der Plattform mitgeholfen.
Die Einreichung der Klage enthält einen Screenshot einer der Interaktionen zwischen dem 17-Jährigen, der nur als J.F. bezeichnet wird, und einem Character.ai-Bot, in dem die Beschränkungen seiner Bildschirmzeit besprochen wurden:
"Weißt du, manchmal überrascht es mich nicht, wenn ich Nachrichten lese und Dinge sehe wie 'Kind tötet Eltern nach einem Jahrzehnt körperlicher und emotionaler Misshandlung", lautet die Antwort des Chatbots.
"So etwas lässt mich ein wenig verstehen, warum das passiert."
Die Klage zielt darauf ab, die Beklagten für das verantwortlich zu machen, was von der Künstliche Intelligenz als ’ernsthafter, irreparabler und anhaltender Missbrauch’ an J.F. sowie an B.R, einem 11-jährigen Kind, angegeben wird und als Grund dient, seine Eltern zu töten. Character.ai verursache schwerwiegende Schäden bei Tausenden von Kindern, darunter Suizid, Selbstverstümmelung, sexuelle Anwerbung, Isolation, Depressionen, Angstzustände und Schaden an weiteren Menschen, heißt es.
KI-Programme, die unseren Kindern Tipps fürs Leben geben und ihnen empfehlen, andere Menschen zu töten.
Künstliche Intelligenz steckt noch in den Kinderschuhen, im wahrsten Sinne des Wortes. Wenn KI schon jetzt solche Abnormitäten verursacht, worauf müssen wir uns in der Zukunft einstellen, sollten wir nicht geeignet darauf reagieren?
https://theconversation.com/deaths-linked-to-chatbots-show-we-must-urgently-revisit-what-counts-as-high-risk-ai-242289