Informatiker der Aston University haben eine App veröffentlicht, die besseren Schutz vor Cyberbullying verspricht. Sie überwacht Social-Media-Profile von Nutzern, um eingehende gemeine Nachrichten zu erkennen und abzufangen. Dank KI soll "Bullstop" dabei bessere Dienste leisten als andere Schutz-Apps, die nur Wortfilter nutzen. Die App zielt vor allem auf junge Nutzer ab - und verspricht auch, diesen selbst eine Nachdenkpause zu verschaffen, falls sie fiese Nachrichten abzusetzen versuchen.
Mobbing verlagert sich in Form von Cyberbullying immer mehr in die Online-Welt, gerade unter Teenagern. Eben diesen soll Bullstop vorrangig helfen, sich vor Missbrauch und Trollen zu schützen. Statt wie andere Apps auf Schlüsselwörter, setzt das System dabei auf KI. "Die Erkennungs-KI wurde mit über 60.000 Tweets trainiert, um nicht nur beleidigende und anstössige Sprache zu erkennen, sondern auch die Nutzung subtiler Mittel wie Sarkasmus und Ausgrenzung fürs Bullying", sagt Aston-Doktorand Semiu Salawu. Letzteres sei einfach nur mit Schlüsselwörtern schwer möglich.
Bullstop fängt dabei eingehende, als problematisch eingestufte Nachrichten ab, bevor der Nutzer sie überhaupt in der Inbox zu sehen bekommt. Eine Kopie wird allerdings gespeichert, damit es möglich ist, die Inhalte zu prüfen. Das System scannt aber auch jene Nachrichten, die der Nutzer selbst verschicken will, und bietet gegebenenfalls die Chance, diese nochmals zu überdenken. "So sehr ich nicht verletzt werden möchte, will ich auch niemanden verletzen", begrüsste ein elfjähriger Tester diese Möglichkeit. Das System kann weiters andere Nutzer automatisch blockieren, falls diese anhaltend problematische Nachrichten schicken.
Die Anti-Bullying-App ist in einer Beta-Phase zunächst nur auf Englisch und für Android erschienen. Ausserdem kann sie bislang lediglich Twitter überwachen. Das Unternehmen komme Forschungsbemühungen, derartige Lösungen sicher in den Dienst zu integrieren, Salawu zufolge sehr entgegen. Als nächstes soll Bullstop auch SMS abdecken. Geplant ist auch eine Unterstützung weiterer sozialer Medien wie Facebook und Instagram, was aber einer Aussendung der Universität zufolge abhängig von deren Bereitschaft zu einer Zusammenarbeit, ähnlich wie mit Twitter, zu sein scheint.
Der Online-Stellenmarkt für ICT Professionals