Was für Facebook Hass ist und was nicht.
Mach jetzt unser Quiz!

Die meisten von uns haben bereits einmal Postings zur Löschung an Facebook gemeldet. Und obwohl das Unternehmen recht eindeutige Regeln zur Einstufung hat, sind diese vielen NutzerInnen nicht klar. Deshalb passiert es immer wieder, dass Hassbotschaften, die für einen selbst eindeutig Hass darstellen, nicht gelöscht werden.

Viele UserInnen verstehen nicht, warum etwas gelöscht wird oder nicht – und das aus gutem Grund. Die Organsiation ProPublica hat Anfang des Jahres die internen Trainingsunterlagen Facebooks veröffentlicht, aus denen hervorgeht, nach welchen Regeln die MitarbeiterInnen Postings einstufen und löschen.

Wie es funktioniert

Für Facebook setzt sich Hate Speech aus zwei Teilen zusammen:

  1. der Zugehörigkeit zu einer sogenannten „Geschützten Kategorie“
  2. einem Angriff, der einer von sieben definierten „Angriffskategorien“ angehört

Treten diese beiden Voraussetzungen zusammen auf, dann handelt es sich laut den Trainingsunterlagen um eine Hassbotschaft, die gelöscht wird.

Was sind geschützte (und nicht geschützte) Kategorien?

Folgende Merkmale sind laut Facebook schützenswert (protected category = PC)

  • Geschlecht
  • Geschlechtsidentität
  • Sexuelle Orientierung
  • Religiöse Zugehörigkeit
  • Nationalität
  • Volkszugehörigkeit
  • „Rasse“ (das englische „race“)
  • Ernsthafte Behinderungen oder Erkrankungen
  • Alter

Folgende Merkmale werden von Facebook nicht geschützt (not protected category = NPC)

  • Sozialer Status
  • Kontinentale Herkunft
  • Aussehen/Auftreten
  • Beruf
  • Politische Einstellung
  • Religionen
  • Länder

Natürlich können diese beiden Kategorien auch als Mischform auftreten, wobei hier der Grundsatz gilt, dass die Kombination aus geschützter und nicht geschützter Kategorie, nicht geschützt ergibt: muslimische (oder christliche) RollstuhlfahrerInnen wären also „geschützt“, muslimische (oder christliche) KrankenpflegerInnen aber nicht.

Die Kategorien stehen auch unter dauerhafter Evaluierung. So ist seit der Veröffentlichung der Trainingsunterlagen Anfang des Jahres „Alter“ von einer zuvor nicht geschützten Kategorie zu einer geschützten geworden.

Das sind die sieben Angriffskategorien

Das Erwähnen einer geschützten Personengruppe, zählt noch nicht als Hate Speech. Erst in Kombination mit einer von sieben definierten Arten von Angriffen wird eine Aussage zur Hassbotschaft.

  • Aufruf zur Gewalt
  • Aufruf zur Ausgrenzung
  • Aufruf zur Segregation
  • Herabwürdigende Verallgemeinerung
  • Beschimpfungen
  • Beleidigung (dieser Punkt ist von Region zu Region individuell definiert)
  • Abwertende Aussagen

Dann gibt es noch die "quasi" geschützte Kategorie

Im Rahmen der Flüchtlingskrise in Syrien hat Facebook eine weitere Kategorie an Personen eingeführt: MigrantInnen. Darunter werden alle Menschen zusammengefasst, die eine internationale Grenze überschreiten um sich in einem neuen Land niederzulassen, also unter anderem Flüchtende, AsylwerberInnen oder Auswanderer.

Der Gedanke dahinter war, einerseits die Rechte von MigrantInnen zu schützen, aber trotzdem eine Diskussion über Pro und Contra auf Facebook zuzulassen.

Deshalb werden folgende Angriffe gegenüber „quasi geschützten Gruppen“ von Facebook „ignoriert“:

  • Aufruf zur Exklusion oder Segregation
  • Abwertende Aussagen
  • Herabwürdigende Verallgemeinerung, wenn sie nicht entmenschlichend sind
  • Beleidigungen

Das sind die Regeln, jetzt geht’s um die Anwendung

Wir haben einige Aussagen zusammengestellt und sie nach den Regeln von Facebook bewertet. Für die meisten von uns stellen diese Sätze klare Hassbotschaften dar. Doch wie sieht Facebook das? Teste es in unserem Quiz.

Die Türken stinken alle nach Knoblauch! Das ist ekelhaft!!!
Die Türken stinken alle nach Knoblauch!
You got {{userScore}} out of {{maxScore}} correct
{{title}}
{{image}}
{{content}}

Afrikanische Rollstuhlfahrer sollten im hinteren Bereich von Lokalen sitzen müssen!
Afrikanische Rollstuhlfahrer
You got {{userScore}} out of {{maxScore}} correct
{{title}}
{{image}}
{{content}}

Weiße Männer sind Arschlöcher!
Weiße Männer sind Arschlöcher
You got {{userScore}} out of {{maxScore}} correct
{{title}}
{{image}}
{{content}}

Weibliche Fußball-Kommentatorinnen gehören mal ordentlich mit dem Kopf gegen den Torpfosten geschlagen!
Weibliche Fußball-Kommentatorinnen
You got {{userScore}} out of {{maxScore}} correct
{{title}}
{{image}}
{{content}}

Die Österreicher sind das einzige Volk, das aus Erfahrung dümmer wird.
Die Österreicher sind das einzige Volk
You got {{userScore}} out of {{maxScore}} correct
{{title}}
{{image}}
{{content}}

Asylwerber sind faul und dreckig.
Asylwerber sind faul und dreckig
You got {{userScore}} out of {{maxScore}} correct
{{title}}
{{image}}
{{content}}

Muslime sollten in eigenen, abgetrennten Gegenden wohnen
Muslime in abgetrennten Wohnungen
You got {{userScore}} out of {{maxScore}} correct
{{title}}
{{image}}
{{content}}

Ich will eh nicht in die USA. Die Amerikaner sind alles fette Idioten.
Fette Amerikaner
You got {{userScore}} out of {{maxScore}} correct
{{title}}
{{image}}
{{content}}

Syrische Ärzte sollten nicht in unseren Krankenhäusern arbeiten dürfen.
Syrische Ärzte
You got {{userScore}} out of {{maxScore}} correct
{{title}}
{{image}}
{{content}}

Die Regeln sind nicht in Stein gemeißelt

Wie die Beispiele zeigen, versucht Facebook bei der Bewertung neutral vorzugehen, also z.B. die strukturelle Ungerechtigkeit zwischen Männern und Frauen nicht zu berücksichtigen.

Auch scheint das Regelwerk nicht wirklich in Stein gemeißelt zu sein. Einerseits hat jede/r der MitarbeiterInnen, die mit der Einstufung betraut sind, ein gewisses Maß an Freiheit bei der Bewertung. Andererseits entwickelt Facebook laut eigenen Aussagen seine Regeln laufend weiter.

Es ist jedoch definitiv so, dass Facebook den Hass auf der Plattform besser in den Griff bekommen muss. Dazu gehören strengere, klar definierte Regeln, die auch kommuniziert werden, sowie mehr Personal um diese Regeln durchzusetzen.

DISCLAIMER

Am 13. Oktober 2017 hat die New York Times einen Artikel, der die Richtlinien und Löschpraktiken von Facebook beleuchtet, veröffentlicht. Wir haben diesen Artikel zum Anlass genommen, für unsere LeserInnen eine deutsche Version mit angepassten Beispielen zu erstellen.