play

Trollaavan tekoälyn tehtävä on häiriköidä, eikä kyse ole harmittomasta kiusanteosta - Tietyt trollibottien piirteet on hyvä tunnistaa, ja kehitteillä on tarkoitukseen myös tekoäly

Kuva: Sanna Korhonen

Petra Mustonen

Juttu on julkaistu ensimmäisen kerran Karjalaisessa 21.8.2020

Tekoäly voi olla loistava työkalu tai jopa työskentelyn kumppani, jonka avulla voidaan ratkaista vaikeita ongelmia ja lisätä turvallisuutta. Toisaalta tekoäly voi aiheuttaa myös vahinkoa, sillä turvalliseksi suunniteltu tekoäly saattaa toimia arvaamattomalla tavalla.

– Tekoälyn ongelma on, että se ei ymmärrä tekevänsä virheitä. Voisi sanoa, että tekoäly on yhtä fiksu kuin sen ohjelmoinut ihminen, Helsingin yliopiston dosentti Antti Salovaara sanoo.

Tekoälyjä kehitetään ja käytetään vahingontekoon myös tarkoituksella. Niitä voidaan käyttää esimerkiksi valheellisen tiedon ja valeuutisten levittämiseen tai keskustelujen häiriköintiin. Salovaara johtaa Helsingin yliopistossa projektia, joka keskittyy näistä esimerkeistä jälkimmäiseen: tavoitteena on kehittää työkaluja trollaamisen tunnistamiseen ja estämiseen.

Tekoäly on yhtä fiksu kuin sen ohjelmoinut ihminen.
Antti Salovaara

TROLLAUS eli internetkeskustelun tahallinen häiriköinti on arkipäivää jo nyt. Trollaaja voi olla todellinen ihminen, mutta tänä päivänä se saattaa hyvin olla myös laajamittaiseen häiriköintiin kykenevä tekoäly eli botti. Sen tehtävä on ärsyttää, mutta kyse ei ole pelkästä mitättömästä kiusanteosta.

– Sosiaalinen media on nykyään tärkeä keskustelukanava, jossa vaihdetaan ajatuksia ja neuvotellaan yhteiskunnallisesti merkittävistä asioista. Trollauksella pyritään tuhoamaan demokratiaan kuuluva keskustelu, Salovaara sanoo.

Trollauksen olennainen piirre on, että se on piilotettua: trollaus on onnistunutta silloin, kun keskustelija ei voi olla varma, onko keskustelukumppani tosissaan vai häiriköikö hän keskustelua tarkoituksella. Trollaus ei siis toimi, jos keskustelukumppanit huomaavat, että liikkeellä on trollaava ihminen tai botti.

– Samasta syystä on vaikea arvioida, onko tällä hetkellä olemassa niin kehittyneitä trollaavia tekoälyjä, että ne onnistuisivat aiheuttamaan laajamittaista vahinkoa. Se on kuitenkin uhkakuva, johon täytyy tutkimuksella varautua.

Sellaisia keskustelurobotteja, jotka pystyvät ainakin hetkellisesti uskottelemaan keskustelukumppanilleen olevansa oikeita ihmisiä, on jo olemassa. Yksi esimerkki on vuonna 2001 Venäjällä kehitetty Eugene Goostman.

– Botti vaikuttaa 13-vuotiaalta, näsäviisaalta ukrainalaiselta pojalta, joka yrittää aina kääntää keskustelun lemmikkikissaansa. Näsäviisaus ja teini-ikäisyys ovat asioita, joiden valossa vähän erikoisetkin vastaukset voivat alkuun vaikuttaa luonnollisilta.

Mainos alkaa
Mainos päättyy
Mainos alkaa
Mainos päättyy
Pyrimme kehittämään tekoälyä, joka osaisi tunnistaa trollausviestit.
Antti Salovaara

RIIDAN HAASTAMINEN on Salovaaran mukaan tekoälylle hyvin helppoa. Tekoälyn ei tarvitse ymmärtää edes keskustelun aihetta - riittää, että se osaa sanoa asioita, joista ihmisten tiedetään ärsyyntyvän.

– Esimerkiksi uskonnon nostaminen esille keskustelussa, joka ei mitenkään liity uskontoon, ärsyttää varmasti jotakuta. Trollaamiseen saattaa riittää, että viestin loppuun lisää sanat ”Jumalan siunausta”.

Tutkimusprojektissa keskitytään kuitenkin ennen kaikkea hieman monimutkaisempiin trollauskeinoihin. Keskustelun rakenteita tutkimalla on havaittu, että kaikenlainen keskustelukäytäntöjen rikkominen yleensä ärsyttää.

Yleinen trollauskeino on esimerkiksi se, että kyseenalaistaa jatkuvasti kaiken, mitä keskustelukumppani sanoo. Tai jättää vastaamatta esitettyyn kysymykseen ja alkaa puhumaan jostain aivan muusta.

– Toivomme, että pystymme projektin kautta lisäämään ihmisten ymmärrystä siitä, kuinka trollit toimivat, jotta he eivät tulisi houkutelluksi trollauksen kohteeksi. Lisäksi pyrimme kehittämään sellaista tekoälyä, joka osaisi automaattisesti tunnistaa trollausviestit ja varoittaa keskustelijoita. Tällöin trollaus ei onnistuisi.

uusimmat

Haemme jutun kohta
Haemme jutun kohta
Haemme jutun kohta
Haemme jutun kohta

Luetuimmat

Haemme jutun kohta
Haemme jutun kohta

Haemme jutun kohta
Haemme jutun kohta

LÄHETÄ KUVA TAI VIDEO

Näitkö jotain mielenkiintoista? Lähetä kuva! Voit lähettää Karjalaiselle uutiskuvien ja - videoiden lisäksi ajankohtaisia kuvia, jotka ovat hienoja, mielenkiintoisia, hauskoja tai kertovat erikoisista asioista.

phone

Toimitus, uutisvihjeet:

010 230 8110

email

toimitus@karjalainen.fi