Kanadalainen muusikko Ashley MacIsaac haastaa Googlen oikeuteen tekoälyn tekemän vakavan virheen vuoksi. Googlen AI Overview -toiminto väitti nimittäin virheellisesti muusikon olevan rikollinen.
Tekoälyn mukaan hänet on tuomittu useista vakavista rikoksista, mutta se ei kuitenkaan ollut totta. MacIsaac vaatii nyt oikeudessa peräti 1,5 miljoonan dollarin, eli noin 1,3 miljoonan euron, korvauksia.
Hakukoneen tekoälykoosteissa vakavia virheitä
Kohun keskiössä on Googlen hakutuloksissa näkyvä tekoälyn kirjoittama yhteenveto. Sen väitetään kertoneen käyttäjille valheellisesti, että MacIsaac olisi syyllistynyt muun muassa hyväksikäyttöön, lapsen groomaamiseen internetissä ja pahoinpitelyyn. Lisäksi tekoäly väitti muusikon olevan elinikäisesti seksuaalirikollisten rekisterissä.
MacIsaac kertoo saaneensa tietää asiasta vasta sen jälkeen, kun hänen konserttinsa peruttiin yleisöltä tulleiden valitusten vuoksi. Ihmiset olivat lukeneet väitteet suoraan Googlesta. Konsertin peruuttanut Sipekne’katik First Nation julkaisi myöhemmin julkisen anteeksipyynnön.
– Päätökset perustuivat tekoälyhaun tuottamaan virheelliseen tietoon, joka yhdisti sinut rikoksiin, joilla ei ollut mitään tekemistä kanssasi, yhteisö kirjoitti anteeksipyynnössään.
Muusikon mukaan tapaus vaikutti vakavasti hänen elämäänsä ja turvallisuuden tunteeseensa.
Tekoälyn tuottamat yhteenvedot voivat sisältää vakavia virheitä.
– Pelkäsin nousta lavalle sen vuoksi, millaiseksi minut leimattiin, MacIsaac kertoi Canadian Pressille ja vetoaa turvallisuutensa olleen uhattuna.
Oikeuskanteessa väitetään, että Google tiesi tai sen olisi pitänyt tietää, että tekoälyn tuottamat yhteenvedot voivat sisältää vakavia virheitä. Googlen AI Overview -toiminto on saanut aiemminkin kritiikkiä virheellisistä ja harhaanjohtavista vastauksista.
Google ei vastannut The Guardian -lehden tiedusteluun, mutta kertoi kommentoi aiemmin kehittävänsä tekoälyvastauksia ja käyvänsä läpi virhetilanteita käytetään järjestelmien parantamiseen.
Googlen hakutuloksissa näkyvä tekoälyteksti on sittemmin muuttunut. Nyt siinä kerrotaan lähinnä MacIsaacin oikeustoimista Googlea vastaan.
Voit lukea lisää juuri tähän artikkeliin liittyvistä teemoista ja aiheista, kuten Google, tekoäly tai laajemmin samasta aihealueesta Digi -osioistamme.
