TikTok paljastaa jatkossa tekoälyllä tehdyt huijaukset

Digi Toimittaja:

Sosiaalisen median palvelu TikTok on ottanut käyttöön uuden työkalun. Sen avulla julkisuuden henkilöt voivat etsiä itsestään tekoälyllä tehtyjä väärennettyjä kuvia ja videoita. Nyt halutaan torjua etenkin poliitikkoihin kohdistuvaa väärän tiedon levittämistä.

TikTok kertoi perjantaina 20. marraskuuta aloittaneensa Likeness Detection -nimisen toiminnon käyttöönoton.

Paljastaa deep fake -videot

Uuden ominaisuuden avulla esimerkiksi poliitikot, viranomaiset ja muut julkisuuden henkilöt voivat selvittää, onko heidän kasvojaan tai muuta ulkonäköään käytetty tekoälyllä tuotetussa sisällössä ilman lupaa.

Tekoälyllä voidaan nykyisin tehdä hyvinkin aidon näköisiä videoita. Videolla ihminen näyttää sanovan tai tekevän asioita, joita hän ei ole todellisuudessa sanonut tai tehnyt. Tällaisia väärennöksiä kutsutaan deepfake-sisällöiksi.

Uuden toiminnon käyttäminen edellyttää henkilöllisyyden vahvistamista ulkopuolisen palveluntarjoajan kautta. Tämän jälkeen TikTok voi ilmoittaa käyttäjälle, jos palvelussa havaitaan hänen ulkonäköään hyödyntävää tekoälysisältöä tai käyttäjätilejä.

Käyttäjä voi tarkastella löydettyä sisältöä ja ilmoittaa epäilyttävistä julkaisuista suoraan TikTokin ylläpidolle. Ilmoitus ei kuitenkaan tarkoita, että sisältö poistettaisiin automaattisesti. Palvelu arvioi tilanteen aina erikseen.

Työkalu etsii tiedostosta tekoälyn käytöstä kertovia merkintöjä.

Euroopassa ollaan huolissaan tekoälyllä tehtyjen väärennösten vaikutuksesta vaaleihin. Useissa Euroopan maissa järjestetään vaaleja seuraavan vuoden aikana, myös Suomessa. Väärennettyjen videoiden pelätään vaikeuttavan oikean ja väärän tiedon erottamista toisistaan.

TikTok on julkaissut myös toisen, kaikille avoimen työkalun, jolla voi tarkistaa, onko kuvaa tai videota tehty tai muokattu yhtiön omilla tekoälypalveluilla. Identify AI-Generated Content -niminen tarkistus toimii ilman TikTok-tiliä. Käyttäjä voi ladata palveluun kuvan tai videon, jonka alkuperän haluaa tarkistaa.

Työkalu etsii tiedostosta tekoälyn käytöstä kertovia merkintöjä sekä näkymättömiä vesileimoja. Tarkistus koskee TikTokin ja sen emoyhtiön ByteDancen sovelluksia, kuten CapCutia, Dreaminaa, Hypiciä ja Pippitiä.

Se ei siis tunnista luotettavasti kaikilla muilla tekoälypalveluilla tehtyjä väärennöksiä. TikTokin mukaan tarkistettavaksi ladatut tiedostot poistetaan käsittelyn jälkeen eikä niitä käytetä tekoälymallien kouluttamiseen.

Euroopan unionissa on myös otettu käyttöön tekoälyn käyttöä koskevia avoimuusvaatimuksia. Niiden tarkoituksena on muun muassa varmistaa, että tekoälyllä tehtyjä väärennöksiä ei esitetä yleisölle aitoina ilman asianmukaisia merkintöjä.

Lähde: Yahoo!

Voit lisätä Staran Googlen ensisijaiseksi lähteeksi klikkaamalla tästä ja ruksittamalla laatikon. Voit myös lukea lisää tähän artikkeliin liittyvistä teemoista ja aiheista, kuten tai laajemmin samasta aihealueesta Digi -osioistamme.