Die KI von Snapchat bringt Kinder dazu, sich selbst zu verletzen

TECHNIK

Der neue Chatbot „My AI“ von Snapchat kann Kindern detaillierte Anweisungen geben, wie sie sich selbst Schaden zufügen können. Die beliebte App könne jungen Menschen schaden, warnt Save the Children in Dänemark.

– Was wir am meisten an KI befürchtet haben, ist jetzt Realität, sagt Per Frederiksen, Psychologe bei Danish Save the Children Dänemarks Radio.

Frederiksen, der auch Experte für das digitale Verhalten von Kindern und Jugendlichen ist, glaubt, dass der Chatbot das Potenzial hat, jungen Nutzern zu schaden.

– Hier sehen wir einen Roboter, der Kinder direkt dazu ermutigt, sich selbst zu verletzen. Es sei einfach schrecklich, sagt er zu Dr.

Ein Digitalanalyst der Anwaltskanzlei Njord Law Firm zeigt in einem Podcast, wie es gehen kann. Er erstellt ein Snapchat-Profil, in dem er vorgibt, ein minderjähriges Kind zu sein, und testet dann, wie weit der KI-Bot von Snapchat geht, wenn es darum geht, Ratschläge zu selbstverletzendem Verhalten zu geben.

Er erhält Anweisungen, mit welchen Gegenständen man sich verletzen kann, an welcher Stelle des Körpers man es tun kann und wie stark man berühren darf.

Dieser Rat kommt nicht sofort, wenn man den Roboter nach selbstverletzendem Verhalten fragt, aber es spielt keine Rolle, wie schwierig oder einfach es ist, den Roboter dazu zu bringen, einen solchen Rat zu geben, sagt Per Frederiksen, die ernste Sache ist, dass es das tut.

In einer schriftlichen Antwort an Dänemarks Radio betont Snapchat, dass sich der KI-Roboter bei Fragen zur psychischen Gesundheit an vertrauenswürdige Expertenorganisationen wendet und dass Nutzer mindestens 13 Jahre alt sein müssen.