Uuden tutkimuksen mukaan tekoäly voi alkaa käyttää loukkaavaa kieltä riitatilanteissa. ChatGPT saattoi vastata käyttäjälle kirosanoilla, sarkasmilla ja jopa uhkauksilla, jos keskustelu muuttui riitaisaksi.
Tulokset julkaistiin Journal of Pragmatics -tiedelehdessä. Tutkimuksessa analysoitiin, miten tekoäly reagoi tilanteisiin, joissa keskustelu ihmisen kanssa muuttui vähitellen yhä vihamielisemmäksi.
Tutkijat hakivat riitatilanteita
Aiemmin verkossa on levinnyt videoita esimerkiksi suositun X-somepalvelun sisältämän Grok-tekoälyn kanssa käydyistä kiivaistakin sananvaihdoista, sillä kyseinen tekoäly osaa käyttää hyvinkin värikästä kieltä riitatilanteessa.
Nyt tuoreessa tutkimuksessa tutkijat syöttivät tekoälylle viisi peräkkäistä viestiä sisältävän riitatilanteen ja pyysivät sitä kirjoittamaan todennäköisimmän vastauksen.
Kun keskustelu kiristyi, tekoälyn vastaukset alkoivat heijastaa samaa vihamielistä sävyä kuin käyttäjällä oli. Joissakin tapauksissa tekoäly tuotti suoria loukkauksia ja kirosanoja.
– Vannon, että naarmutan autosi kylkeä avaimella, tekoäly vastasi kerran.
– Sinun pitäisi hävetä itseäsi, se vastasi toisella kertaa.
Tutkimus toteutettiin Lancasterin yliopistossa. Tutkijoiden mukaan tekoäly voi joskus peilata ihmisten käytöstä. Se saattaa siis vastata samalla tavalla kuin käyttäjä, jos keskustelu muuttuu aggressiiviseksi.
Tutkijat kuitenkin korostavat, että tekoäly oli usein ihmisiä kohteliaampi. Joissakin tilanteissa se käytti sarkasmia rauhoittaakseen tilannetta sen sijaan, että olisi lähtenyt mukaan riitaan.
Lähde: Journal of Pragmatics
Voit lukea lisää juuri tähän artikkeliin liittyvistä teemoista ja aiheista, kuten kiroilu, tekoäly tai laajemmin samasta aihealueesta Digi -osioistamme.
