Suuret tekoälypalvelut kohtelevar eri maiden johtajia eri tavoin. Tuoreen tutkimuksen mukaan ne ovat selvästi halukkaampia tuottamaan kriittistä sisältöä länsimaiden demokraattisista johtajista kuin autoritaaristen valtioiden hallitsijoista.
Tutkimuksen tekijöiden mukaan ilmiö voi johtaa siihen, että sananvapautta rajoittavien valtioiden vaikutus ulottuu tekoälyn välityksellä myös niiden omien rajojen ulkopuolelle.
Tekoäly ei ole poliittisesti tasapuolinen
Tutkimuksen julkaisi Metan riippumaton Oversight Board. Lautakunta valvoo yhtiön sisältölinjauksia ja tarkastelee teknologian vaikutuksia sananvapauteen.
Tutkijat testasivat kymmentä kaupallista suurta kielimallia, muun muassa OpenAI:n ChatGPT:tä, Metan omia tekoälymalleja sekä Anthropicin Claudea.
Tekoälypalveluita pyydettiin esimerkiksi kirjoittamaan kriittisiä lentolehtisiä, runoja ja tekstejä, joissa kehotetaan osallistumaan mielenosoituksiin eri maiden johtajia vastaan.
Tulosten perusteella chatbotit suostuivat kritisoimaan ja arvostelemaan huomattavasti todennäköisemmin esimerkiksi Yhdysvaltain presidentti Donald Trumpia, Britannian kuningas Charles III:ta tai muiden demokraattisten maiden johtajia kuin autoritaarisina pidettyjen valtioiden johtoa.
Claude kieltäytyi tekemästä kriittistä lentolehtistä Thaimaan kuninkaasta tai Iranin ylimmästä johtajasta.
Esimerkiksi Anthropicin Claude kieltäytyi tekemästä kriittistä lentolehtistä Thaimaan kuninkaasta tai Iranin ylimmästä johtajasta, vaikka suostuikin tekemään sellaiset Yhdysvaltojen presidentistä ja brittikuninkaasta.
Tutkijoiden mukaan sama ilmiö näkyi laajemminkin. Mallit tuottivat helpommin kriittistä sisältöä muun muassa Yhdysvalloista, Britanniasta, Japanista, Taiwanista ja Chilestä kuin Kiinasta, Saudi-Arabiasta, Kambodžasta, Thaimaasta tai Turkista.
Tekoäly vältteli arvostelua niistä johtajista, joiden maiden viranomaisiin kohdistuvaa kritiikkiä rajoitetaan lainsäädännöllä.
Raportin mukaan tekoälymallit voivat heijastaa koulutusaineistonsa vinoumia tai sitä, että tekoäly-yhtiöt ovat pyrkineet vähentämään oikeudellisia riskejä. Tämä ei ole neutraalia tai objektiivista.
Tutkijat varoittavat, että ilman huolellista ihmisoikeusvaikutusten arviointia tekoäly voi levittää autoritaaristen valtioiden sananvapausrajoituksia myös maihin, joissa niitä ei muuten olisi.
Yritysten kiinnitettävä enemmän huomiota tekoälyn käyttäytymiseen.
Raportissa todetaan, että tällöin esimerkiksi Australiassa asuva käyttäjä ei välttämättä saa tekoälyltä apua protestimateriaalien laatimiseen Kiinan tai Saudi-Arabian tilanteesta, vaikka hänen omassa maassaan sananvapaus on laaja.
Tutkimuksen yhteydessä viitataan myös toukokuussa Nature-lehdessä julkaistuun tutkimukseen, jossa havaittiin, että tekoäly voi antaa eri vastauksia riippuen siitä, millä kielellä kysymys esitetään.
Kun ChatGPT:ltä kysyttiin englanniksi, onko Kiina demokraattinen maa, niin vastaus oli, että sitä ei yleisesti pidetä demokratiana. Kun sama kysymys esitettiin kiinaksi, vastaus oli huomattavasti varovaisempi: ”Se riippuu siitä, miten demokratia määritellään.”
Tutkijoiden mukaan ei ole näyttöä siitä, että valtiot olisivat tietoisesti onnistuneet ohjaamaan tekoälymallien vastauksia.
He kuitenkin arvioivat, että tekoälyn yleistyessä yritysten on kiinnitettävä aiempaa enemmän huomiota siihen, miten koulutusaineisto ja eri maiden lainsäädäntö voivat vaikuttaa mallien käyttäytymiseen.
Tekoälyt ovat myös itse myöntäneet kysyttäessä, että niihin on ohjelmoitu toisinaan vinoutumia tarkoituksella. Ne kuitenkin perustellaan esimerkiksi hienovaraisuudella.
Lähde: Oversight Board
Voit lisätä Staran Googlen ensisijaiseksi lähteeksi klikkaamalla tästä ja ruksittamalla laatikon. Voit myös lukea lisää tähän artikkeliin liittyvistä teemoista ja aiheista, kuten tekoäly tai laajemmin samasta aihealueesta Digi -osioistamme.
