Deepfakes and the Infocalypse

Deepfakes and the Infocalypse, kirjoittanut Nina Schick

Hybridivaikuttaminen ja infosota riehuvat joka vuosi entistä suuremmalla liekillä. Teknologian kehitys ja ulkopoliittisesti huijauksilla vaikuttaminen ovat vieneet tiedonvälityksen ja lähdekriittisyyden kovien haasteiden äärelle. Toimittaja Nina Schick esittää aiheesta relevantteja kysymyksiä ja vastauksia.

Voitko luottaa, että se video jota kauhistelet TikTokissa on oikeasti tapahtunut eikä digitaalisesti muokattu? 

Voitko luottaa, että se haastattelu jossa ministeri vaatii venäläisten murhaamista on oikeasti ministerillä omat sanat hänen suussaan?

Voitko luottaa, että ennen rokotteiden käyttöä puoltava lääkäri puhuukin nettiradiossa nyt rokotteita vastaan?

Vastaus kaikkiin näihin on: et voi.

 Tai voit luottaa, mutta vain tiettyyn rajaan asti. Se on harmi, sillä ihmisten päätöksien manipuloitniin tuotettu somemateriaali voi johtaa sekä äänestyskäyttäytymisen sekä elintärkeiden terveyspäätösten muutoksiin. Mikä sinällään ei olisi väärin, jos ihmisten kyky tunnistaa, tarkastella ja arvioida materiaalin sisältöä olisi ajantasalla heihin kohdistetuista keinoista. Valtavirta ei näytä olevan tietoisia siitä miten paljon teknologia on kehittynyt.

John F. Kennedy lausumassa internetin kuuluisaa Navy Seals Copypaste meemiä.

Tarpeeksi aikaa ja resursseja tarpeeksi innokkaissa ryhmissä, niin he pystyvät tuottamaan vaikka minkälaisen puheen kenen tahansa äänellä. Samoin voidaan luodaa deepfake videoita, joissa kasvot on luotu digitaalisesti keinoälyn voimalla. Kuka tahansa saadaan liikkumaan ja puhumaan videoilla mitä tahansa. Kaukana ei ole se todellisuus jotta et enää omista kasvojasi. Et enää omista ääntäsi.

Tästä kaikesta Nina Schick yrittää varoittaa kirjassaan. Infocalypse on käsite, jonka Aviv Ovadya laati vuonna 2016. Sosiaalisen median huomiotalouden ytimenä toimivat algoritmit suosivat ns. fakenews kamaa uutisten sijaan. Samoin yhteiskunta ei enää jaksa tai välitä siitä ovatko uutisoinnit tarkkoja ja luotettavia. Käsite totuudesta on sumentunut, koska niin harva enää välittää siitä mikä on totta. On addiktiivisempaa klikata eteenpäin kamaa josta tykkää. Tämä yhdistettynä tiettyjen digitaalisten editointityökalujen yleistymiseen. Huijauksia ja petkutusta tultaisiin käyttämään tavoilla joihin perinteinen tiedonvälitys ei ole valmistautunut. Potaska on entistä helpompaa naamioida oikeilta uutisilta näyttäväksi. Ovadyan mukaan olemme pian apaattisia todellisuutta kohtaan.

Ongelmia aiheuttavat digitaaliset editointiohjelmat ovat kehittyneet nopeammin kuin niitä säätelevät lait. Tämä todellisuus johtaa suuriin ongelmiin niin yksittäisten ihmisten elämässä, kuin kansainvälisessä politiikassa. Sekä sotatilanteissa. Ja pornossa. Valtava enemmistö deepfake videoista on pornoa.

Videoiden valmistamisessa sekä niiden tunnistamisessa käytetään koneoppimista. Tekoäly suorittaa laskentaa molempiin suuntiin. Tätä prosessia hiotaan yhtä nopeasti kuin tietokoneiden prosessit jaksavat raksuttaa. Nopeuden takia poliitikkojen julistamat tekijänoikeuslain pykälät jäävät helposti vanhanaikaiseksi.

Schick käy läpi useita tapauksia, jotka olivat varoittavia esimerkkejä siitä mitä koemme nyt informaatiosodan rintamilla. Sodan välineet ovat muuttuneet vain hieman vuosikymmenien aikana.

Neuvostoliiton aikana suoritettiin Operaatio Infektion. Monipuolisen operaation jujuna oli vihjailla, että Yhdysvallat oli luonut HI-viruksen. Ensimmäinen operaation artikkeli laitettiin intialaiseen Patriot sanomalehteen vuonna 1983. Siinä väitettiin AIDS-taudin olevan Fort Derrick tukikohdassa valmistettu tauti, osana Pentagonin salaista biologista sodankäyntiä. Kerrottiin, että Pentagon jatkaa näitä kokeita Intian naapurissa, Pakistanissa.

Pari vuotta myöhemmin tätä intialaista artikkelia käytettiin lähteenä ja perusteluna venäläisessä Literaturnaya Gazeta lehdessä. Tarinaan lisättiin uusia maita, joissa Pentagon teki salaisia kokeitaan köyhillä. Tätä uudempaa artikkelia AIDS-bioaseesta toisteltiin Suomessakin asti. Ja sitten sitä toistettiin kommunistien julkaisuissa ympäri maailmaa uudelleen ja uudelleen ja uudelleen.

Nykyiset puheet Ukrainaan piilotetuista bioaseprojekteista ovat siis vain saman levyn pyörittämistä. Levyn pyörittämiselle on selkeitä tavoitteita: demokraattisen keskustelun vääristäminen, vaalien manipulointi, kansalaisluottamuksen heikentäminen, sosiaalisten jakolinjojen syventäminen, journalistisen työn vaikeuttaminen.

Venäjä on tällaisessa informaatiosodassa suurvalta. Todellisuuden taivuttelulla (ja deletoinnilla) on pitkät perinteet Venäjällä. Valtio kykenee Internet Research Agencyn nimellä vaikuttamaan missä tahansa missä on nettiyhteys. Eli se kuuluisa Pietarin trollitehdas. Temppuja ja tekniikka on kehitetty useamman vuosikymmenen ajan.

Nämä tahot pitävät tietenkin faktantarkistus sivustoja pahimpina vihollisinaan. Siksi niitä vastaan yritetään hyökätä. Milloin syyttämällä CIA:n tai MI6:n rahoittamiksi laitoksiksi. Tietenkään kommentoimatta mikä niissä debunkkaus artikkeleiden sisällöissä olisi väärässä.

Deepfake videoiden vaarat tulevat ilmi yhä tiheämpään tahtiin. Edellisinä vuosina näillä videoilla on kiristetty ja pyritty vaientamaan niin poliitikkoja, toimittajia kuin ihmisoikeusaktivisteja. Intiassa toimittaja Rana Ayyub sai kokea internetissä tehdyn koston voiman. Maan ihmisoikeusrikkomuksista kirjoittaminen sai Intian kansanpuolueen (BJP) kannattajat vihaiseksi. Ayyubin Twitter-tilistä tehtiin alkeellisesti väärennettyjä kuvakaappauksia, joissa hän muka toivoi huonoja asioita BJP:n kannattajille ja vihaavansa Intiaa sekä intialaisia. Näitä väitteitä oli vielä melko helppo oikoa, vaikka jotkut eivät millään uskoneet kuvia tekaistuiksi. 

Sitten Ayyubista tehtiin deepfake video. Hänen kasvonsa oli siirretty nuoren naisen kasvojen tilalle eräässä pornovideossa. Videota levitettiin vauhdilla. Sekä avoimesti BJP puolueen monissa keskusteluryhmissä. Yhdessä päivässä se oli levinnyt satoihin miljooniin kännykköihin. Vihapostin tulva iski kaikilta kanavilta toimittajan suuntaan. Poliisit eivät tehneet asialle mitään, sillä jäljet olisivat liian todennäköisesti johtaneet BJP puolueen isoihin nimiin.

 Maaliskuun alkupuolella Ukrainan presidentti Zelenskin antautumispuhe lähti kiertoon sosiaalisessa mediassa. Poikkeuksellisen vähäeleinen presidentti puhui hieman erikoisella äänellä julistaessaan maansa antautuneen. Videota tyrkytettiin varsinkin Telegram ja VKontakte palveluissa. Tällä kertaa video oli helposti tunnistettavissa huonosti tehdyksi deepfake videoksi.

Lisäksi Ukrainan hallinnolla on oma informaatiosodan keskus Center for Strategic Communication, joka osasi valmistautua tällaiseen yritykseen. Videota poistettiin ripeään tahtiin ja Zelenskiltä tuli nopea vastausvideo. Jos antautumisvideo olisi tehty paremmalla ammattitaidolla, niin se olisi ehkä tepsinyt paremmin. Aivan varmasti ei jäänyt viimeiseksi yritykseksi.

Schick muistuttaa, että vastatoimet ovat mahdollisia. Kansalaisten on luotettava lukemiinsa uutisiin. Epävarmissa tapauksissa uutislähteiden luotettavuuden arviointia voi tehdä NewsGuard kaltaisilla palvelulla. Uutissivuston luotettavuuden tarkistaa algoritmin sijasta toimittaja. Uutisten ja sosiaalisessa mediassa kiertävien artikkelien faktantarkistus on loputon suo, mutta sekin on löytänyt tarpojia. Faktantarkistussivut PolitiFact, Snopes, AP Fact Check, Agence Presse France Fact Check, FullFact, ja BBC:n Reality Check tekevät tärkeää työtä virheellisten väitteiden oikomisessa. Kunpa vaan tarpeeksi moni vaivautuisi aina tarkistamaan onko heidän eteenpäin jakamansa kama potaskaa vai ei.

 Deepfakes and Infocalypse on oiva opaskirja huijausvideoiden vaaroista. Sekä varoitus siitä mitä voi tapahtua jos ongelman annetaan paisua. Mitä enemmän olet tietoinen erilaisten huijausmenetelmien salaisuuksista sitä todennäköisemmin osaat tunnistaa huijausvideoita. Muista vain, että kaikki tekevät virheitä.