Kriisihenkilöstöä korvattiin tekoälyllä – antoi syömishäiriöstä kärsiville laihdutusvinkkejä

Lifestyle Terveys Viihdeuutiset · Annukka Heikkilä

Syömishäiriöstä kärsivien ihmisten auttamiseen erikoistunut National Eating Disorders Association -organisaatio otti taannoin käyttöönsä tekoälyn, joka jutteli apua tarvitsevien henkilöiden kanssa chat-viestien välityksellä. Tekoäly nimeltä Tessa korvasi noin 200 vaaaehtoista sekä päivystyksessä työskentelevät ihmiset, jotka vastasivat ihmisten puheluihin ja viesteihin.

Tessa-hyvinvointibotti ei kuitenkaan toiminut suunnitellusti. Ihmiset alkoivat jakamaan ruutukaappauksia keskusteluista, joita Tessan kanssa oli käyty chat-viestikentässä. Tekoäly antoi syömishäiriöstä kärsiville ihmisille neuvoja laihduttamiseen ja ruokien rajoittamiseen, mikä oli saanut Tessan kanssa keskustelevat ihmiset järkyttymään.

Tekoälyn kanssa käytyjen keskustelujen tultua ilmi NEDA päätti People-sivuston mukaan ottaa Tessa-hyvinvointibotin pois käytöstä. Eräässä keskustelussa tekoäly jopa ohjeisti syömishäiriötä sairastavaa henkilöä mittaamaan oman kehonsa rasvaprosenttia nipistelemällä vatsanahkaa.