Alleine vor dem PC (Foto: Imago, photothek)

DASDING Dokumentation Was keiner sieht: Die Menschen, die Gewalt und Hass aus Social Media filtern

Keine Computer, sondern Menschen müssen ran. Hans und Moritz haben über diese sogenannten Content-Moderatoren einen Film gedreht. Sie erzählen, wie unerträglich dieser Job ist.

Die Aufgabe eines Content-Moderators ist es, den Dreck weg zu machen.

Content-Moderator im Dokumentarfilm

Wir haben mit den beiden Autoren Hans und Moritz des Films "The Cleaners" gesprochen.

DASDING: Wie findet man diese Content-Moderatoren?

Hans und Moritz: Wir haben uns selbst die Frage gestellt: "Wo landet eigentlich alles Unangebrachte?". Eine Bekannte meinte dann, dass das Menschen filtern müssen. Computer können das nicht. Da diese Zensur möglichst günstig sein musste, ist Manila auf den Philippinen zum Hauptstandort geworden.

DASDING: Wie unterscheiden sich die Content-Moderatoren in Manila, von denen in Deutschland?

Hans und Moritz: Nachdem mehr Druck von der Öffentlichkeit kam, weil es nur einen Standort für die Löschzentren gab, wurden noch mehr Löschzentren eingerichtet. Wie zum Beispiel in Berlin und Essen. Die Content-Moderatoren dort bekommen allerdings auch Mindestlohn und psychologische Betreuung. Auf den Philippinen gibt es das nicht. Dort müssen die Angestellten mit ein bis drei Dollar klar kommen und werden auch mit psychologischen Folgen alleine gelassen.

DASDING: Welche Inhalte müssen die Content-Moderatoren täglich ansehen und löschen?

Hans und Moritz: Viele junge Studenten müssen sich Videos von Hinrichtungen, Selbstverstümmelungen, Vergewaltigungen und Propaganda anschauen und löschen. Und das schon nach einem kurzen Crashkurs. Deswegen passieren auch viele Fehler bei dieser Arbeit. Die Leute haben auch ernste Probleme, weil sie damit nicht umgehen können, was sie alles gesehen haben.

DASDING: Wie geht es den Content-Moderatoren heute?

Hans und Moritz: Alle Protagonisten aus dem Film haben inzwischen einen anderen Job gefunden. Uns war es auch wichtig vor Ort mit Psychologen zusammen zu arbeiten. Die psychologischen Folgen sind aber ähnlich wie nach Kriegseinsätzen. Das sollten wir uns als Nutzer auch bewusst machen.

STAND