Hass im Netz (Foto: dpa Bildfunk, picture alliance/dpa | Fabian Sommer)

Good News

KI erkennt Hasskommentare und meldet sie

Stand
AUTOR/IN
Zilan Hatun
Autorenprofil Zilan Hatun (Foto: SWR, privat Zilan Hatun)
Basti Schmitt
Bastian Schmitt (Foto: SWR DASDING)

Forschende haben eine künstliche Intelligenz entwickelt, die Hate im Internet an eine Meldestelle weiterleitet.

BoTox (Bot- und Kontexterkennung im Umfeld von Hasskommentaren) heißt die Künstliche Intelligenz der Hochschule Darmstadt. Die KI BoTox kann unterscheiden, ob Hasskommentare von einem Menschen oder einem Bot kommen. Diese leitet sie dann an die Meldestelle HessenGegenHetze weiter, damit rechtliche Schritte eingeleitet werden können.

So wurde die KI auf Hatespeech trainiert

  • Die Forschenden haben Daten von sozialen Netzwerken verwendet, um die KI zu trainieren.
  • Unter anderem waren Kommentare aus Facebook und YouTube dabei.
  • Die Kommentare bezogen sich größtenteils auf Ausländerfeindlichkeit, Diskriminierung, Antisemitismus und Migration.
  • Studentische Hilfskräfte haben dann unterschieden, welche Beleidigungen besonders strafrechtlich relevant sind.
  • Die KI konnte das danach selbst unterscheiden.
Zur Startseite der Sendung

Quellencheck

Wo haben wir unsere Infos her? Wir sagen es dir!

Auch andere Medien und Webseiten können für uns Quellen für News sein. Das sind zum Beispiel Seiten, die sich nur mit einem Themenbereich beschäftigen und deshalb Spezialisten in dem Bereich sind. Für Seiten wie hiphop.de oder raptastisch.net arbeiten zum Beispiel Musik-Journalisten, für Webseiten wie golem.de oder t3n.de Technik-Journalisten.

Zur Website

Auch andere Medien und Webseiten können für uns Quellen für News sein. Das sind zum Beispiel Seiten, die sich nur mit einem Themenbereich beschäftigen und deshalb Spezialisten in dem Bereich sind. Für Seiten wie hiphop.de oder raptastisch.net arbeiten zum Beispiel Musik-Journalisten, für Webseiten wie golem.de oder t3n.de Technik-Journalisten.

Zur Website

Most Wanted