Artificiell intelligens ska detektera hatretorik på webben

justitieministeriet
Utgivningsdatum 27.10.2020 16.14
Nyhet

Hurdan hatretorik kan man hitta på webben med hjälp av artificiell intelligens (AI)? I vilka kanaler förekommer hatretorik? Finns det skillnader mellan kanalerna? Nu söker man svar på dessa frågor genom att testa AI i bevakningen av den finskspråkiga hatretorik som förekommer på webben. Svaren används i arbetet mot hatretorik.

Fakta mot hat är ett projekt som justitieministeriet startat för att motverka hatretorik och i det testas nya verktyg för att bevaka hatretorik på webben. Som en del av projektet pilottestas ett AI-baserat verktyg som utvecklas av Utopia Analytics.

Målet är att på bred front granska hatretoriken på webben. Man vill bland annat få information om de vanligaste kanalerna för hatretorik och vilka teman hatretoriken gäller. Dessutom vill man veta om förekomsten av hatretorik ökar under vissa samhälleliga evenemang.

I justitieministeriets projekt fastställer en forskare tillsammans med ministeriets experter hurdana meddelanden som ska tolkas som hatretorik. På basis av de överenskomna kriterierna lär Utopia Analytics AI-verktyet att detektera hatretorik. Syftet med bevakningen är att skapa en helhetsbild av hatretoriken, inte att bedöma innehållet i enskilda meddelanden. 

Den information som samlats in om hur vanligt det är med hatretorik används i arbetet mot hatretorik. Resultaten av bevakningen publiceras våren 2021.

Vad är hatretorik?

Med hatretorik avses i detta projekt kommunikation som sprider eller hetsar till hat mot en enskild person eller grupp av människor på grund av en omständighet som hänför sig till personen. Kommunikationen kan komma till uttryck i tal men också i text, bilder och symboler. En del av hatretoriken är straffbar, alltså förbjuden enligt strafflagen. Hatretorik kan också vara diskriminering som förbjuds i diskrimineringslagen eller jämställdhetslagen.

Hatretorik är ett samhälleligt problem som i värsta fall kan leda till att känslan av otrygghet ökar och till våld. Det finns också risk för att yttrandefriheten inskränks på grund av rädsla för att bli utsatt för hatretorik eller hatkampanjer.

Mer information: 
Milla Aaltonen, projektchef, tfn 0295 150 061, [email protected]
Mari-Sanna Paukkeri, verkställande direktör, Utopia Analytics, tfn 050 344 0501, [email protected] 

Fakta mot hat