Microsoft versucht, die Erkennung von Kindesmissbrauch zu verbessern, indem es sein Xbox-Chat-Tool für andere Unternehmen öffnet
Foto: James Bareham / The Verge
Microsoft hat ein neues Tool zur Identifizierung von Kinderräubern veröffentlicht, die Kinder für Missbrauch in Online-Chats pflegen. Project Artemis, basierend auf einer Technik, die Microsoft auf der Xbox verwendet hat, wird nun anderen Online-Unternehmen mit Chat-Funktionen zur Verfügung gestellt. Es kommt zu einer Zeit, in der mehrere Plattformen mit Kinderräubern zu tun haben, die Kinder für sexuellen Missbrauch ins Visier nehmen, indem sie Gespräche in Chatfenstern aufschlagen.
Artemis arbeitet, indem es bestimmte Wörter und Sprachmuster erkennt und verdächtige Nachrichten zur Überprüfung durch einen menschlichen Moderator kennzeichnet. Der Moderator entscheidet dann, ob die Situation eskaliert werden soll, indem er sich an die Polizei oder andere Polizeibeamte wendet. Findet ein Moderator einen Antrag auf sexuelle Ausbeutung von Kindern oder Bilder von Kindesmissbrauch, wird das Nationale Zentrum für vermisste und ausgebeutete Kinder über weitere Maßnahmen informiert.
“Manchmal schreien wir die Plattformen an – und es gibt Missbrauch auf jeder Plattform, die Online-Chat hat – aber wir sollten ihnen dafür applaudieren, dass sie Mechanismen eingerichtet haben”, sagt Julie Cordua, CEO der non-profit-Tech-Organisation Thorn, die sich für die Verhinderung sexuellen Online-Missbrauchs von Kinder. “Wenn jemand sagt: ‘Oh, wir haben keinen Missbrauch’, dann sage ich zu ihnen: ‘Nun, sieh dir hin?'”
Im Dezember fand die New York Times heraus, dass Online-Chat-Plattformen fruchtbare “Jagdgründe” für Kinderräuber waren, die ihre Opfer pflegen, indem sie sich zuerst mit ihnen anfreunden und sich dann in das Leben eines Kindes unterstellen, sowohl online als auch aus. Die meisten großen Plattformen beschäftigen sich mit einem gewissen Maß an Missbrauch durch Kinderräuber, einschließlich Microsofts Xbox Live. Im Jahr 2017 wurde ein Mann, wie die Times berichtete, zu 15 Jahren Gefängnis verurteilt, weil er Kindern wegen des Xbox Live-Chats mit Vergewaltigung und Mord gedroht hatte.
Die Erkennung von sexuellem Missbrauch von Kindern im Internet und Richtlinien für den Umgang damit können von Unternehmen zu Unternehmen sehr unterschiedlich sein, wobei viele der beteiligten Unternehmen sich vor möglichen Verletzungen der Privatsphäre hüten, berichtete die Times. Im Jahr 2018 kündigte Facebook ein System an, um Raubtiere zu fangen, das untersucht, ob jemand schnell viele Kinder kontaktiert und wie oft sie blockiert sind. Aber Facebook hat auch Zugriff auf viel mehr Daten über seine Nutzer als andere Plattformen könnte.
Microsofts Tool ist laut Thorn wichtig, da es jedem Unternehmen zur Verfügung steht, das Chat nutzt, und dabei hilft, einen Industriestandard für die Erkennung und Überwachung von Raubtieren festzulegen, die bei der Entwicklung zukünftiger Präventionstools helfen. Chats sind schwierig, auf mögliche Kindesmissbrauch zu überwachen, weil es so viel Nuancen in einem Gespräch geben kann, sagt Cordua.
Kinderräuber können in Online-Chatrooms lauern, um Opfer zu finden, ähnlich wie offline, aber mit viel unmittelbarerem Zugang, sagt Elizabeth Jeglic, Professorin für Psychologie am John Jay College of Criminal Justice in New York, die ausführlich über Schutz von Kindern vor sexuellem Missbrauch im Internet, insbesondere der oft subtilen Praxis der Pflege. “Innerhalb von 30 Minuten können sie sexuell mit einem Kind sprechen”, sagt sie. “Persönlich ist es schwieriger, Zugang zu einem Kind zu bekommen, aber online ist ein Raubtier in der Lage, hineinzugehen, das Wasser zu testen und wenn es nicht funktioniert, gehen Sie vor und gehen Sie zum nächsten Opfer.”
Es hört nicht mit einer Plattform auf, fügt Cordua hinzu. “Sie werden versuchen, das Kind zu isolieren und ihnen auf mehreren Plattformen zu folgen, damit sie mehrere Ausnutzungspunkte haben können”, sagt sie. Ein Raubtier kann ein Kind um ein Foto bitten, dann die Anforderungen an Videos erhöhen und so das Niveau sexueller Inhalte erhöhen. “Das Kind ist von Schuld und Angst geplagt, und deshalb geht der Räuber über Plattformen: Er kann sagen: ‘Oh, ich kenne alle deine Freunde auf Facebook, wenn du mir kein Video schickst, schicke ich das erste Foto an alle an deinen Junior High.'”
Artemis ist seit mehr als 14 Monaten in der Entwicklung, sagt Microsoft, ab November 2018 bei einem Microsoft “360 Cross-Industry Hackathon”, der von zwei Kinderschutzgruppen, der WePROTECT Global Alliance und der Child Dignity, mitgetragen wurde. Allianz. Ein Team, zu dem Roblox, Kik, Thorn und The Meet Group gehörten, arbeitete mit Microsoft an dem Projekt. Es wurde von Hany Farid geleitet, der das PhotoDNA-Tool zur Erkennung und Meldung von Bildern sexueller Ausbeutung von Kindern im Internet entwickelte.
Einige Details darüber, wie das Artemis-Tool in der Praxis funktionieren wird, sind jedoch unklar und werden wahrscheinlich variieren, je nachdem, welche Plattform es verwendet. Es wird nicht angegeben, ob Artemis mit Chat-Programmen arbeiten würde, die Ende-zu-Ende-Verschlüsselung verwenden, oder welche Schritte unternommen werden, um potenzielle PTSD unter Moderatoren zu verhindern.
Thorn wird das Programm verwalten und Lizenzierung und Support verwalten, um teilnehmende Unternehmen an Bord zu holen, sagt Microsoft.
Cordua sagt, während Artemis einige anfängliche Einschränkungen hat – es funktioniert derzeit nur auf Englisch – ist das Tool ein großer Schritt in die richtige Richtung. Da jedes Unternehmen, das das Tool verwendet, es für sein eigenes Publikum anpassen kann (Chats auf Gaming-Plattformen werden natürlich von denen auf sozialen Apps abweichen), gibt es reichlich Gelegenheit, sich anzupassen und zu verfeinern, wie das Tool funktioniert. Und, sagt sie, es ist an der Zeit, dass Plattformen sich von den gescheiterten Praktiken der Selbstkontrolle und hin zu einer proaktiven Prävention von Kinderpflege und Missbrauch entfernen.
In seinem Blog-Beitrag fügt Microsoft hinzu, dass das Artemis-Tool “keinesfalls ein Allheilmittel” ist, sondern ein erster Schritt zur Erkennung der Online-Pflege von Kindern durch sexuelle Räuber, die es als “schwere” Probleme bezeichnet.
“Der erste Schritt ist, dass wir besser erkennen können, wo dies geschieht”, sagt Cordua. “Aber alle Unternehmen, die einen Chat oder ein Video hosten, sollten dies tun, oder sie sind mitschuldig daran, den Missbrauch von Kindern auf ihren Plattformen zuzulassen.”
Keywords: afds, afdsafds
