mmofacts.com

Badword-Filter

gepostet vor 17 Jahre, 7 Monate von Pretandor
Huhu Leute.
Würde gerne mal eure Meinungen zu einem Badword-Filter und evtl. Bestrafung dazu wissen. Also es geht sich um einen Chat der inGame eingebaut ist und da ja nicht immer Moderatoren da sind habe ich so einen Filter eingebaut.
Jetzt ist die Frage, soll es dafür Bestrafungen geben oder soll einfach nur gefiltert werden?
Soll nur öffentlicher Chat oder auch Whisper, Allianz-Chat etc. gefiltert werden?
Was würdet ihr sagen?
gepostet vor 17 Jahre, 7 Monate von COrthbandt
Es gibt eigentlich nur eine Sorte Badword-Filter, die funktionieren. Nämlich die, die der User nicht bemerkt. Sprich: Die pöhsen Worte werden bei demjenigen der sie geschrieben hat NICHT gefiltert, aber für alle anderen User.
Ansonsten kriegen die Offender sehr schnell raus, wie man den verf1ck73n $chei$$-Filter umgeht.
Das bedeutet andererseits natürlich auch, dass es keine Bestrafungen geben kann, weil der User sonst schnell merkt, was als offensive eingestuft wird.
Einen sicheren Badword-Filter gibt es nicht *auf-ban-wart*
gepostet vor 17 Jahre, 7 Monate von Pat
Also erstmal würde ich meinen das du gleich alles filtern solltest.
Als evt. Bestrafung könnte man ja, je nachdem was in deinem Browsergame
vorhanden ist, Rohstoff abzüge oder dergleichen vornehmen.
Oder aber, man gibt dem jenigen einfach eine Verwarnung
Ich würde das alles aber auch auf die Härte der Wortwahl ankommen lassen.
Kann ja auch sein, dass der User einfach zum Spaß *Fuck* oder so sagt...
gepostet vor 17 Jahre, 7 Monate von exe
Ein bekanntes Weltraumspiel mit einem großen O im Name hatte sowas mal. Das tolle daran war, dass sobald der Badwortfilter zugeschlagen hat, der Empfänger der Nachricht den Absender sperren konnte. Ihr könnt euch sicher vorstellen wieviel Schindluder mit diesem Feature getrieben wurde.
Und wie COrthbandt schon schreibt: so ein Filter funktioniert nicht gut da es zuviele Möglichkeiten gibt ihn auszutricksen (und die User kriegen das sehr effizient hin). Auch ist die Fehleranfälligkeit zu hoch. Wenn ich nun jemandem "Der hat mich voll verarscht" schreibe - werde ich dann gesperrt, weil ich den Empfänger als "Arsch" bezeichnet habe? Und wie würde das Script den Unterschied zwischen "So eine verfickte Scheisse" und "Du verfickte Scheisse" feststellen?
Bad-word-filter machen IMHO in ihrer Präsenz keinen Sinn. Das einzige, was ich mir vorstellen könnte wäre ein Filter der unsichtbar die Nachrichten nach Beleidigungen durchsucht und Treffer an einen Moderator meldet. Der kann sich das dann in aller Ruhe durchsehen und gegebenenfalls zur Tat schreiten. Quasi ein Filter als Hilfsmittel für die Spielmoderation. Ich könnte mir auch vorstellen, dass so ein Filter etwas besser als simples Patternmatching geschrieben werden könnte. Vielleicht wie die lernfähigen Spamfilter in Thunderbird und Co? Wobei das für den Zweck wohl auch ein ziemlicher Overkill wäre, auch wenn die Technik dieser Spamfilter kein Geheimnis ist ..
gepostet vor 17 Jahre, 7 Monate von Pretandor
Erstmal Danke für eure Ideen und Meinungen!
Also das mit dem "Der hat mich voll verarscht" stimmt. Aber man soll ja nicht direkt gesperrt werden. Wenn der Badword Filter zuschlägt, speichert er in der Datenbank einen Eintrag mit Name, Zeit und Satz den der User geschrieben hat. Dann kann die Spielmoderation entscheiden ob das ein Ban zufolge hat. Das ist echt ne gute Idee.
Das mit dem Austricksen stimmt, habe ich selber schonmal in einem Spiel erlebt
wo alle versucht haben sich eben doch irgendwie zu beleidigen mit anderen Schreibweisen, Punkten etc.
Denke ich werde es wirklich so machen das die Filterung nur bei allen anderen Usern stattfindet und ein entsprechender Eintrag in der DB angelegt wird.
Und evtl. (ist mir grad die Idee gekommen), wird der User dann automatisch nach %x Badwords gemutet also das er was schreibt, aber keiner liest es. Was haltet ihr davon?
MfG Pre
gepostet vor 17 Jahre, 7 Monate von Pat
Mir ist grade nochmal durch den Kopf gegangen, ob es denn soo
nötig sei, einen Badwordfilter zu machen.
Denn jeder User - der sich beleidigt fühlt - könnte doch einen Screenshot
von der Nachricht machen und das Bild ins Forum des Spiels rein
stellen. Somit müsste nicht jede kleine Nachricht, die so einen Satz beinhaltet,
wie diesen: "Der hat mich voll verarscht", von deinen Moderatoren überprüft
werden.
Ist jetzt mal ein kleiner Gedanke von mir gewesen
gepostet vor 17 Jahre, 7 Monate von duschendestroyer
da man sowieso den kompletten chat-verkehr loggen sollte kann man die logs ja auch nachträglich ab und zu mal durch einen parser jagen und natürlich auf beschwerden anderer spieler reagieren
gepostet vor 17 Jahre, 7 Monate von Pretandor
Na, den kompletten Chat-Verkehr zu loggen, das würde sicherlich ne sehr große Tabelle werden. Ich will nicht wissen was an einem einzigen Tag bei sagen wir mal 10.000 Spielern alles so geschrieben wird. (ist nur nen Beispiel)
Screenshot von der Beleidigung ist denke ich mal auch nicht weniger Arbeit.
MfG
gepostet vor 17 Jahre, 7 Monate von _Jan_
Screenshot ist die für den User komplizierteste Lösung. Besser ist es, die Nachrichten in denen der BW Filter was findet zu loggen und an den Mod zu liefern.
aufmARSCHzeit
lg Jan
gepostet vor 17 Jahre, 7 Monate von Tetha
naja, der triviale badword-algo "nimm liste von badwords; benutze badwordliste mit igm" ist definitiv einfach zu umgehen.
However, wenn man sich mal auf playray getummelt hat, dann weiss man, dass es extrem gute Badwordfilter gibt.
Man muss sich halt entsprechende regexes bauen, mit denen man Woerter erkennt.
Der erste Schritt, der einfach, aber gerne uebersehen wird, ist das Badword in \b \b enzurahmen. Dadurch wird nur *word boundary* *badword* *word boundary* gematcht, d.h., nur das badword wenn es als einziges Wort da steht.
Danach kann man potentielle Badwords noch besser erkennen, indem man jeden Vokal v durch v+ ersetzt. damit kriegt man dann auf einmal auch "Saaaaau!".
Zum dritten kann man dann auch Zeichen, die nicht buchstaben sind, in einem Wort ignorieren und danach obigen Regex draufhauen.
Wenn man dann noch weitermachen will, kann man sich ueberlegen, ob man Vokale noch durch eine "de-Oesterreichifizierung" oder "de-Schweizerfizierung" ("Oarsch", Oa durch a ersetzen, matchen, fertig) jagen will.
DANACh wiederum kann man dann auch noch "Standard-tippfehler" abfangen. Beispielsweise ein stummes h erkennen und im zweifelsfalle optional machen oder doppelte Buchstaben auch einzeln matchen.
Damit kann man schon sehr viel erkennen.
MfG
gepostet vor 17 Jahre, 7 Monate von Klaus
Das Problem ist aber die Kontext-Erkennung und so nervt eine Zensur mehr als sie bringt. Wenn ich eine PN bekomme die lautet "Du bist ein *****", dann weiß ich doch schon, dass ich beleidigt werde. Ob da nun ein schmutziges Wort steht macht keinen Unterschied mehr und man müsste die ganze Nachricht droppen. Aber dazu ist die Fehlerrate des Systems zu hoch: "Ich hab nen Barsch gefangen". Falls hier nach Arsch als einzelnes Wort gesucht wird, kann man das ja auch wieder leicht umgehen.
Fazit: automatische Zensur ergibt keinen Sinn, baut einfach einen "Melden"-Knopp ein und lasst den Moderator das beurteilen.
gepostet vor 17 Jahre, 7 Monate von Pretandor
Eure Beispiele bringen mich immer wieder zum schmunzeln
"Ich hab nen Barsch gefangen"
Einfach nur herrlich... aber wahr. Zeigt mir das ich doch noch einiges verändern muss!
gepostet vor 17 Jahre, 7 Monate von Todi42
Original von Pretandor
Eure Beispiele bringen mich immer wieder zum schmunzeln
"Ich hab nen Barsch gefangen"
Einfach nur herrlich... aber wahr. Zeigt mir das ich doch noch einiges verändern muss!

Hat Tetha doch geschrieben. Ein regulärer Ausdruck, der vor und und hinter 'arsch' keinen Buchstaben hat, wäre z.B. eine Lösung.
gepostet vor 17 Jahre, 7 Monate von exe
Und dann kommt der Nächste und schreibt "Du A R S C H" (so schon als Nachricht in einem Spiel erhalten).
Ich würde jeden Text einfach folgendermaßen Filtern:
1. Alle Whitespaces raus
2. Leet-Speek durch Buchstaben ersetzen (1 durch i, 3 durch e etc.pp.).
3. Schreibfehler, Ausdrucksweisen rausfiltern (siehe Post von Tetha).
Danach würde ich einfach nach den gewöhnlichen Stichworten wie z.B. "arsch" suchen. Dabei hast du natürlich hin und wieder false-positives (aber die hast du sowieso). Hat ein Text entsprechende Treffer wird er im Adminbereich verlinkt und kann von den Moderatoren eingesehen werden. Bei Bedarf kann der Mod mit einem Klick den User sperren ...
Das Ganze bringt aber nicht wirklich was. User müssen Texte trotzdem melden können (so ein Filter findet nicht alles). Moderatoren müssen so oder so manuell drüberschauen.
So ein "Vorfiltern" wie erwähnt ist IMHO das Einzige, was noch halbwegs Sinn macht. Mit allem anderen verrennt man sich IMHO nur in die Entwicklung eines gewünschten "Killertools" - ein Ziel, dass man aber nie erreicht solange Computer nicht Texte wie Menschen Lesen und Verstehen können ...
gepostet vor 17 Jahre, 7 Monate von Toby
Original von exe
So ein "Vorfiltern" wie erwähnt ist IMHO das Einzige, was noch halbwegs Sinn macht. Mit allem anderen verrennt man sich IMHO nur in die Entwicklung eines gewünschten "Killertools" - ein Ziel, dass man aber nie erreicht solange Computer nicht Texte wie Menschen Lesen und Verstehen können ...

Und selbst wenn sie das könnten, könnten sie noch immer nicht die tieferen Bedeutungen erfassen. Wenn ich z.B. einen Kumpel mit ner Beleidigung anrede, kann das in meinem Bekanntenkreis ja normal und cool sein. Ein Script hätte keine Chance, das zu erkennen, egal wie intelligent es ist.
Siehe z.B. Data aus Star Trek.
gepostet vor 17 Jahre, 7 Monate von Kampfhoernchen
Ein "Melden"-Button wirkt auch meist wunder.
Wenn sich keiner davon gestört fühlt, isses ja eh wurscht.

Auf diese Diskussion antworten