Googles Jigsaw släpper verktyg mot näthat som open source
Harassment Manager håller koll på elaka kommentarer och trakasserier
Googles dotterföretag Jigsaw, en inkubator som "explores threats to open societies and builds technology that inspires scalable solutions", har släppt ett verktyg för dem som drabbas av näthat, trakasserier och andra otrevligheter online.
Verktyget kallas för Harassment Manager och består bland annat av en artificiell intelligens som kan se skillnad på legitima kommentarer och mindre trevliga kommentarer. Dessa går sedan att klassificera så att mottagaren enklare kan se vilka kommentarer som faktiskt är värda att läsa. Det går även att ställa in så att flaggade kommentarer blurras eller inte syns alls samt blockera, mutea och avfölja konton som skickar hatiska kommentarer.
Harassment Manager använder sig av den artificiella intelligensen Perspectives som vi skrev om lite när den presenterades 2017. Sedan dess har Perspectives trålat runt på nätet och lärt sig mer om vilken typ av kommentarer, fraser och annat som kan betecknas som hat och trakasserier.
I dagsläget kan Harassment Manager hantera kommentarer på Twitter. Det är inget verktyg som går att ladda ner som en färdig app. Är man intresserad så måste man ladda ner källkoden till Harassment Manager från GitHub för att därefter skapa sig en egen version av appen.
Harassment Manager riktar sig primärt till nyhetsorganisationer vars kvinnliga journalister ofta drabbas av näthet i sociala medier skriver Jigsaw i ett blogginlägg. Det finns dock ingenting som hindrar vem som helst från att använda appen om man känner för det.
Här nedanför hittas en illustration som visar hur AI:n i Perspectives kan hantera en kommentar.
Läs gärna våra regler!