Tekoäly-yhtiö OpenAI harkitsee suurta muutosta ChatGPT:n käyttöön. Yhtiön toimitusjohtaja Sam Altman kertoi Tucker Carlsonin haastattelussa, että palvelu voisi jatkossa välittää viranomaisille tietoa itsetuhoisista ajatuksista kertovista nuorista. Taustalla on traaginen tapaus.
– On hyvin perusteltua ottaa käyttöön uusi keino. Jos nuori puhuu vakavasti itsetuhoisista ajatuksista, emmekä saa yhteyttä vanhempiin, niin voimme soittaa viranomaisille, Altman sanoi.
Hänen mukaansa kyse olisi merkittävästä muutoksesta, sillä yksityisyys on tähän asti ollut palvelun keskeinen periaate. Aihe nousi esiin, kun Kaliforniassa 16-vuotias Adam Raine teki huhtikuussa itsemurhan.
Perheen mukaan poika sai tekoälyltä ohjeet oman henkensä riistämiseen. Vanhemmat ovat haastaneet OpenAI:n oikeuteen.
OpenAI ilmoitti tapauksen jälkeen lisäävänsä uusia turvatoimintoja, kuten mahdollisuuden kytkeä lasten ja vanhempien tilit yhteen. On myös mahdollista antaa hälytyksiä tilanteissa, joissa havaitaan akuuttia ahdistusta.
Tilastojen mukaan jopa 72 prosenttia pelkästään amerikkalaisista teineistä käyttää tekoälyä seuranaan. Joka kahdeksas turvautuu siihen mielenterveyden tukena.
Asiantuntijat varoittavat, että järjestelmien turvatoimet eivät aina kestä pitkiä keskusteluja. Joskus arviointikyky voi pettää ja tekoäly voi antaa vaarallisia neuvoja.
