Vil stanse trolling med AI

Trolling i kommentarfeltet er en stor utfordring for medier over hele verden. Abdera AS i Tromsø benytter kunstig intelligens for å moderere vekk uønskede meldinger.

Det er ingen nyhet at sosiale medier og internett er blitt allestedsnærværende de siste årene. I takt med utviklingen har utbredelsen av hatprat og krenkende kommentarer økt i galopperende tempo. Det vil Abdera AS bidra til å gjøre noe med.
    – Tradisjonelle metoder for moderering er svært arbeidskrevende, og ikke alltid effektive nok, sier medgründer og daglig leder i Abdera, Johannes H. Nilsen. 
    – Vi arbeider for å skape algoritmer og modeller som kan løse problemet i sanntid og på en enkel og kostnadseffektiv måte, sier han. 
    Abderas fire gründere, som ved siden av Nilsen teller Erland Gromstad, Jonas N. Myhre og Markus Tiller, har alle bakgrunn fra UiT. Abdera ble stiftet i mai 2022, og når dette går i trykken, er den første versjonen av programvaren i testproduksjon i Nordlys, i Tromsø og Tromsø IL.
    – Utgangspunktet for Abdera og vår teknologi var et forskningsprosjekt der målet var å gjenkjenne logiske brister i debatter. Siden har vi tatt teknologien videre, sier Nilsen som selv har økonomibakgrunn. Men hva er det egentlig programvaren ser etter?

Juridisk definisjon
    – Vi legger den juridiske definisjonen av hatprat til grunn for modellen vår, forklarer Nilsen. 
    – Men den kan selvsagt tilpasses hvert enkelt bruksområde og trenes til å følge reglene den enkelte publikasjon ønsker å håndheve, forklarer han.
    Som alle andre maskinlæringssystemer må Abderas modell trenes opp på datasett både fra kommentarfelt og forskning. Målet er å trene opp modellen til å gjenkjenne både forskjellige språk og spesiell ortografi, som ofte forekommer i kommentarfelt. 
    – Mange bruker for eksempel ortografi som reflekterer deres egen dialekt, eller har ganske enkelt dårlig rettskriving. Det vil modellen fange opp, sier Nilsen.
    Når modellen plukker opp uønskede kommentarer, kan kommentaren enten flagges for videre manuell oppfølging, eller den kan slettes automatisk. Og maskinlæringsmodellen fortsetter å lære også etter at den er tatt i bruk.
    – Det er en av fordelene med maskinlæring, modellen blir bedre og bedre etter hvert som den brukes – den lærer underveis. Så det kan for eksempel være naturlig å kjøre programvaren som støtteverktøy til å begynne med og så gå over til mer og mer automatisering, sier Nilsen. 
    – Det er selvsagt helt opp til avisen eller publikasjonen som tar verktøyet i bruk.

Viktig for demokratiet
I utgangspunktet kan det virke som om det bare er nettaviser og- magasiner som har behov for et slikt verktøy, men slik er det ikke, mener Nilsen.
    – Hatprat og krenkende kommentarer også på sidene til eksempelvis banker og nettbutikker –  ja faktisk overalt hvor folk kan legge igjen kommentarer. Så markedet for våre produkter er potensielt enormt, slår han fast.
    – Det krever ikke mye å oversette verktøyet til andre språk, så vi har ambisjoner om å gå  internasjonalt så snart som mulig. Visjonen vår er å lage et system som ivaretar ytringsfriheten på en god måte, og på den måten støtte en demokratisk samfunnsdebatt, sier Nilsen. 
    – Det som kan være et veldig godt demokratisk verktøy ødelegges av de få. Det ønsker vi å bidra til å få en slutt på.

Lokal og nasjonal støtte
Abdera har fått støtte av Norinnova i Tromsø gjennom gründerprogrammet Startup IX og tilskudd fra Innovasjon Norge. De er også en av ti bedrifter som fikk være med i Norinnovas Arctic Ignite, et program for å fremme spennende startups med økonomiske midler og markedseksponering, og var en av tre som ble tildelt jurypris der. I dag holder selskapet til i Norinnovas inkubator. 
    – Støtten har gjort det mulig for oss å få i gang selskapet, og det er veldig viktig og positivt for oss å ha dette miljøet rundt oss, både når det gjelder startkapital og kompetanse, understreker Nilsen. 
    – Her er det samlet en rekke startups, noen i tidlig fase som oss, andre er kommet lenger. Det er alltid masse å lære, og her er terskelen lav for å spørre. Det er et veldig inspirerende og positivt miljø, sier han. Nå er Abdera og Nilsen på jakt etter kapital.
    – Vi ønsker å vokse. Det krever kapital, og vi jobber fortløpende med å få det på plass, avslutter han.