Luvattomien videoiden leviäminen piinaa Tanskan hovia
Kuningasperheen nimissä kiertää somevideoita, joiden takana olevat tahot ovat toistaiseksi tuntemattomia.
Tanskan hovi heräsi viime viikolla yllättävään ongelmaan. Kuningasperheestä oli alettu levittää videoita, joiden laillisuus ei kestä päivänvaloa.
Video: Tanskan kuningas kävi viime vuonna Suomessa
Yhdessä videoista tekoälyversiot kuningas Frederikistä ja kuningatar Marystä puhuvat kameralle.
– Suuret kiitokset rakkaudestanne ja tuestanne kuningashuonetta kohtaan. Seuratkaa sivuamme kuningasperheen tuoreet uutiset saadaksenne. Lähettäkää meille sydän ja kirjoittakaa suloinen kommentti, väärennetyt kruunupäät sanovat AI-videolla.
Ongelmana on, että tällaista tervehdystä ei ole koskaan kuvattu. Facebookissa levinneet videot on tehty tekoälyllä kuninkaallisia matkien. Ne ovat niin sanottuja deepfake-videoita.
Kaikkiaan väärennettyjä videoita on julkaistu neljä kappaletta. Niissä ovat esiintyneet kuningasparin lisäksi eri kokoonpanoissa kruununprinssi Christian ja prinsessa Isabella.
Asiantuntija näkee väärennöksen, kiireinen tavis voi haksahtaa
Videoista uutisoineen, valtio-omisteisen TV2:n digitaalisen tiedustelun asiantuntija Peter Møller on käynyt videot läpi ja varmistaa niiden olevan tekoälyväärennöksiä.
Esimerkiksi Frederik ja Mary puhuvat videollaan täysin synkronisesti, toisessa videossa Mary ja Isabella heiluttavat täsmälleen samaan tahtiin, ja kolmannessa Christianin hampaat ovat oikeasta kruununprinssistä poiketen matemaattisen symmetriset.
Maallikko ei silti yhdellä tai ehkä toisellakaan silmäyksellä tule tunnistaneeksi videoita väärennöksiksi.
Erityisesti kruununprinssi Christianista kertova video onkin kerännyt paljon huomiota: sillä oli heti ensimmäisenä päivänä kanavan perustamisen jälkeen 1 600 tykkäystä ja kommenttikenttä täynnä aitojen ihmisten kehuja kuningasperheestä. Väärennös on siis mennyt läpi.
Kommenteissa on TV2:n mukaan toki mukana myös pilliinviheltäjiä, jotka varoittavat tekoälystä. He ovat esimerkiksi huomanneet Christianin vääränväriset silmät.
Tarkoitus ja tekijä pimennossa
Deepfake-videoiden sisältö ei tällä kertaa ole ollut itsessään kovin huolestuttavaa.
Huolestuttavaa sen sijaan on kysymys, kuka ja miksi oli Facebookiin perustettuun "Tanskalaisia tarinoita" -ryhmän perustanut ja deepfake-videot julkaissut.
Toiminnan taustoja voi todisteiden puutteessa vain spekuloida. Yleisesti Facebook-tilin seuraajamäärän ja vuorovaikutuksen kasvu voi tähdätä myöhempään rahastamiseen esimerkiksi myymällä tili eteenpäin toiseen tarkoitukseen tai ohjaamalla liikennettä muualle.
Videoiden sisällössä onkin merkkejä tämän kaltaisesta "engagement farmingista" vuorovaikutuskehotuksineen.
Tiliä voi käyttää myös fiksuussuodattimena. Valevideot tosissaan ottaneet kommentoijat voivat olla hyviä osoitteita myöhempiä rahastus- ja manipulointiyrityksiä varten.
Tekijä saattaa myös testata alustaa. Silloin kiinnostavaa olisi tietää, miten pitkään tili saa toimia Metan alustoilla toimia tai miten algoritmi toimii ja millainen valeviestintä esimerkiksi Tanskassa menee yleisölle läpi.
Yleisön käytöksen testaaminen viittaisi hybridivaikuttamiseen. Tilin sisältö voisi myöhemmin muuttua kuninkaallisia kohtaan kriittisemmäksi tai suoraan valheita levittäväksi. Se voisi levittää valheita tanskalaisista myös muualta maailmasta tiliä seuraaville.
Lisäksi hybridivaikuttajat pyrkivät ihan muuten vain luomaan pelkoa, hämmennystä, erimielisyyttä ja luottamuksen puutetta. Tarkoitus voisi olla myös muistuttaa, että tällaiseen toimintaan ollaan kyvykkäitä.
Ilmeisen laitonta mutta vaikea puuttua
Kööpenhaminan yliopiston oikeustieteen professori Thomas Riis toteaa, että videot ovat immateriaalioikeuksien vastaisina laittomia, mutta niihin puuttuminen on vaikeaa.
– Kyse on valvontaongelmasta. Näitä Facebook-sivuja voidaan sulkea, mutta videot päätyvät usein ilmestymään muualle..
Kuningashuone on antanut Berlingske-lehdelle vastaukseen asiassa ja toistaa saman TV2:lle. Hovin viestintäpäällikkö Nina Z. Munch-Perrin yllättäen muistuttaa, ettei tapaus ole ainutkertainen ja ettei asialle ole paljoa voitu tehdä.
– Kuninkaallisen perheen jäsenistä tehtyjen valheellisten ja tekoälyllä tuotettujen kuvien ja tarinoiden kasvavasta määrästä tiedetään. Se on valitettavasti osa sitä todellisuutta, jossa me kaikki elämme, tiedottaja sanoo.