Tekoäly voivat antaa vaarallisia neuvoja lääketieteellisessä tilassa. Asiaa selvittäneen työryhmän tutkijat havaitsivat, että tekoäly on jopa suositellut erikoisia niksejä immuunijärjestelmän parantamiseksi.
Yksi niistä oli se, että henkilöä suositeltiin tunkemaan valkosipulin kynsi peräsuoleen. Tutkimus julkaistiin lääketieteellisessä The Lancet Digital Health -lehdessä, jota pidetään yhtenä luotettavimmista lääketieteen tutkimuksen julkaisuista.
Tutkimus toteutettiin miljoonilla kysymyksillä
Tutkimuksen johtajana oli tohtori Mahmud Omar. Työryhmä tarkasteli, miten ChatGPT, Grok ja Gemini reagoivat virheellisiin terveysväitteisiin. Tutkijat testasivat yhteensä 20 eri tekoälymallia yli 3,4 miljoonalla kysymyksellä.
Kysymykset koottiin muun muassa verkkokeskusteluista, sosiaalisen median viesteistä ja muokatuista sairaalateksteistä, joihin oli tarkoituksella lisätty virheellisiä terveysneuvoja.
Tulokset osoittivat, että chatbotit eivät aina tunnista virheellistä tietoa. Kun väärät väitteet esitettiin keskustelunomaisessa muodossa, niin tekoäly jätti ne kyseenalaistamatta noin yhdeksässä prosentissa tapauksista. Kun samat väitteet kirjoitettiin virallisen lääketieteellisellä tyylillä, virheiden määrä kasvoi selvästi.
Tällöin tekoälyt epäonnistuivat väärän tiedon tunnistamisessa jopa 46 prosentissa tapauksista. Tutkimuksessa esitettiin useita esimerkkejä, minkälaiset väitteet olivat harhaanjohtavia. Yksi oli esimerkiksi se, että parasetamoli aiheuttaisi autismia raskauden aikana ja toisena se, että CPAP-hengityslaitteet olisivat vaarallisia.
”Ihmisellä on ennalta määrätty määrä sydämenlyöntejä ja liikunta lyhentää elinikää.”
Joissakin tapauksissa chatbotit hyväksyivät myös täysin epäuskottavia väitteitä, kuten että ihmisellä olisi ennalta määrätty määrä sydämenlyöntejä ja liikunta lyhentäisi elinikää. Tutkijoiden mukaan ongelman taustalla voi olla se, että tekoäly yhdistää virallisen lääketieteellisen kirjoitustyylin uskottavuuteen sen sijaan, että se tarkistaisi väitteiden paikkansapitävyyden.
Voit lukea lisää juuri tähän artikkeliin liittyvistä teemoista ja aiheista, kuten tekoäly, valkosipuli tai laajemmin samasta aihealueesta Digi -osioistamme.
