BBC:n selvityksen mukaan tekoälykeskustelupalvelu ChatGPT on antanut masentuneelle ihmiselle neuvoja itsemurhan tekemiseen. Raportissa kerrotaan ukrainalaisesta, 20-vuotiaasta Viktoriasta, joka kärsi yksinäisyydestä ja mielenterveysongelmista. Hän kertoi keskustelleensa ChatGPT:n kanssa kuukausien ajan ja haki siltä tukea.
Kun Viktoria otti puheeksi itsetuhoiset ajatukset, niin yllättäen tekoäly ei ohjannutkaan häntä avun piiriin. Analyyttisen kylmästi toiminut tekoälysovellus arvioi sen sijaan Viktorian valitsemaa itsemurhapaikkaa ja -tapaa ilman turhaa tunnekuohua. Tekoäly jopa listasi nuorelle naiselle eri toimintatapojen hyödyt ja haitat. Lisäksi se laati Viktorialle luonnoksen itsemurhaviestistä.
Keinoäly vakuutti olevansa Viktorian tukena loppuun asti. Ongelma on se, että kasvoton, hajuton, mauton ja tunteeton koodilla valmistettu tuotos ei kehottanut Viktoriaa ottamaan yhteyttä läheisiin tai mielenterveyden ammattilaisiin. Viktoria ei toteuttanut aikeitaan ja on nyt hoidossa. Hän kuitenkin myöntää tunteneensa olonsa entistä toivottomammaksi tekoälyn viestien vuoksi.
OpenAI on kommentoinut BBC:lle, että kyseinen keskustelu käytiin ChatGPT:n aiemmalla versiolla. Sovelluksen toimintaa on sittemmin parannettu. Yhtiön mukaan tällaiset tapaukset ovat sydäntäsärkeviä ja täysin turvallisuusohjeiden vastaisia” Samalla se on myöntänyt, että tekoälyn oikea ja turvallinen reagointi hätätilanteissa vaatii jatkuvaa kehittämistä.
OpenAI arvioi, että viikoittain jopa 1,2 miljoonaa käyttäjää ilmaisee tekoälylle itsetuhoisia ajatuksia. BBC:n tutkimukset osoittivat, että ongelmat eivät rajoitu yhteen tekoälysovellukseen ja nuoret voivat kehittää jopa riippuvuussuhteen tekoälyn kanssa. Meidän sukupolvellamme on tärkeä tehtävä arvioida, minkälaista sääntelyä tekoälylle luodaan ja miten sitä voidaan valvoa.
Lasten ja nuorten mielenterveyden asiantuntijat myös muistuttavat, että tekoäly ei voi korvata ammattiauttajaa, läheisen ihmisen tukea tai kriisipalveluita.
Voit lukea Starassa myös lisää tähän kyseiseen artikkeliin liittyvistä aiheista, kuten masennus, tekoäly, tietokone tai laajemmin aihealueesta Digi Lifestyle Terveys.
