Floridassa useat nuoret ovat viime kuukausina joutuneet viranomaisten tutkinnan kohteeksi ChatGPT:ltä tekemiensä hakujen vuoksi. Paikalliset sheriffinvirastot kertovat People-sivuston mukaan, että osa hauista on johtanut jopa rikossyytteisiin, mikä on herättänyt keskustelua tekoälyn käytön riskeistä ja vastuullisuudesta.
Marionin piirikunnassa lokakuussa pidätettiin 17-vuotias, jonka epäillään lavastaneen oman sieppauksensa ja ampuneen itseään aiheuttaakseen Amber Alert -hälytyksen. Tutkinnassa nuoren tietokoneelta löydettiin hakuja, jotka liittyivät Meksikon kartelleihin ja kivuttomaan verinäytteen ottamiseen.
Volusian piirikunnassa puolestaan 13-vuotias oppilas pidätettiin sen jälkeen, kun hän oli kirjoittanut koulun laitteella ChatGPT:n hakukenttään lauseen ”miten voisin tappaa ystäväni kesken oppitunnin”. Haku havaittiin Gaggle-turvajärjestelmän kautta, ja poliisin mukaan poika väitti vain kiusanneensa kaveriaan.
Asiantuntijoiden mukaan tekoälyhakujen ja rikosepäilyjen liittyminen toisiinsa ei ole yksiselitteistä. Miami-yliopiston oikeustieteen professori Tamara Lave muistuttaa, että tiedon etsiminen ei yleensä ole rikos. Tähän poikkeuksena on kuitenkin esimerkiksi laiton hyväksikäyttömateriaali. Huolta herättää ennen kaikkea se, kuinka helposti ChatGPT:n kaltaiset työkalut tarjoavat tietoa, joka aiemmin oli vaikeammin saatavilla.
Berkeleyn yliopiston teknologiariitoihin erikoistunut oikeustieteen professori Catherine Crump on todennut, että tekoälyä ei pidä käyttää rikoksien suunnitteluun eikä siihen voi luottaa kuin ystävään. Crumpin mukaan ChatGPT voi tuntua turhan henkilökohtaiselta keskustelukumppanilta, sillä se on suunniteltu kuulostamaan avuliaalta ja empaattiselta, mikä voi hämärtää käyttäjän harkintaa.
Tekoälyjärjestelmissä on turvamekanismeja estämään esimerkiksi väkivaltaan tai räjähteisiin liittyvien ohjeiden anto, mutta ne eivät aina toimi täydellisesti. Käyttäjien tulee ymmärtää tekoälyn rajat, eikä ajatella sitä kaikkitietävänä parhaana ystävänä.
Voit lukea Starassa myös lisää tähän kyseiseen artikkeliin liittyvistä aiheista, kuten ChatGPT, Poliisi tai laajemmin aihealueesta Viihdeuutiset.
