Tekoälyn avulla luoduissa deepfake-videoissa esimerkiksi julkisuuden henkilöt saattavat tehdä asioita, joita he eivät todellisuudessa ole tehneet. Väärennetyillä ja aidonnäköisillä videoilla on siksi suuri arvo poliittista propagandaa tehtaileville tahoille.
Nyt Facebook on ilmoittanut kieltävänsä ihmisten harhaanjohtamiseen tarkoitetut deepfake-videot palvelussaan. Päätös astuu voimaan Yhdysvaltojen tämänvuotisten presidentinvaalien alla.
– Tällaiset videot ovat toistaiseksi harvinaisia internetissä. Yleistyessään ne synnyttävät kuitenkin merkittävän haasteen teollisuudellemme ja yhteiskunnalle, Facebook tiedotti.
Kielto ei koske materiaalia, joka on luotu parodia- tai satiiritarkoituksiin. Se ei myöskään koske videoita joiden muokkauksessa ei ole käytetty tekoälyä ja joissa esimerkiksi henkilön puheita on muokattu vain poistamalla sanoja tai muuttamalla niiden järjestystä.
