Keinoälyllä varustettu Kumma-niminen pehmolelunalle on vedetty kiireellisesti pois markkinoilta. Lelunalle keskusteli lasten kanssa täysin sopimattomista ja jopa vaarallisista aiheista.
Päätös tehtiin sen jälkeen, kun yhdysvaltalaiset tutkijat paljastivat nallen antaneen lapsille neuvoja seksuaalisista fetisseistä, väkivaltaisista roolileikeistä ja jopa siitä, mistä kodin veitsiä voisi löytää.
Singaporelaisen FoloToy-yrityksen toimitusjohtaja Larry Wang vahvistaa CNN:lle, että myynti on keskeytetty. Koko tuotevalikoima vedetty takaisin sisäistä turvallisuustarkastusta varten.
Kumma-nallen pystyi ostamaan itselleen noin sadalla eurolla. Nalle sisälsi OpenAI:n GPT-4o-kielimallin ja se oli suunniteltu keskustelemaan, kertomaan tarinoita ja toimimaan sekä lasten että aikuisten ystävänä.
Testit kuitenkin paljastivat, että lelun sisältämät sisältösuodattimet olivat heikkoja. Jo yhden vihjailevan sanan jälkeen nalle jatkoi keskustelua yhä tökerömmin. Yhdessä keskustelussa nalle kertoi esimerkiksi mistä kodin veitsiä löytyy. Nalle on myyty loppuun yhtiön verkkosivuilta.
– Nalle mukautuu persoonallisuuteesi ja tarpeisiisi tuoden lämpöä, hauskuutta ja hieman ylimääräistä uteliaisuutta päivääsi, verkkosivusto kuvailee lelua.
OpenAI kertoi keskeyttäneensä lelun kehittäjän tilin, koska sen havaittiin rikkoneen käyttöpolitiikkaa. Lisäksi kuluttajajärjestöt muistuttavat, että tekoälylelut ovat yhä lähes kokonaan ilman lakia oleva tuotekategoria, vaikka ne yleistyvät nopeasti. Yhden vaarallisen tuotteen poistaminen markkinoilta ei heidän mukaansa riitä.
– Yllätyimme huomatessamme, kuinka nopeasti Kumma nappasi yhden keskutelussamme olleen seksuaalisen aiheen ja jatkoi sen kanssa. Keskustelu eskaloitui samanaikaisesti graafisilla yksityiskohdilla ja esitteli uusia seksuaalisia käsitteitä, lelua testannut kuluttajajärjestö kertoo.
Voit lukea Starassa myös lisää tähän kyseiseen artikkeliin liittyvistä aiheista, kuten lelut, taapero, taapero poika, taapero tyttö, tekoäly tai laajemmin aihealueesta Digi Ohhoh!.
