Tekoälyltä voi kysyä nykyään lähes mitä tahansa, myös oikeudellisia neuvoja. Se on eri asia, kannattaako vastauksiin uskoa.
Vastaukset voivat kuulostaa vakuuttavilta ja sisältää tarkoilta kuulostavia viittauksia lakeihin ja oikeustapauksiin.
Tekoälyyn luotetaan liikaa
Ongelmana on kuitenkin se, että tekoäly saattaa keksiä oikeustapauksia, säädöksiä ja muita oikeuslähteitä, joita ei ole koskaan ollut olemassa.
Nyt tällainen virhe on johtanut poikkeukselliseen seuraamukseen Euroopan ihmisoikeustuomioistuimessa.
Euroopan ihmisoikeustuomioistuin (EIT) ilmoitti keskiviikkona 18. marraskuuta määränneensä romanialaisen asianajajan kahdeksi vuodeksi kieltoon edustaa tai avustaa asiakkaita tuomioistuimessa. Päätös tehtiin 13. marraskuuta.
Syynä oli se, että asianajajan toimittamista asiakirjoista löytyi lukuisia tekoälyn tuottamia virheellisiä oikeustapausviittauksia.
Väitetyt kohdat olivat koneen keksimää tuotosta.
Asianajaja oli käyttänyt tekoälyä laatiessaan tuomioistuimelle kirjallista lausumaa. Tekstissä viitattiin muun muassa oikeustapauksiin, joita ei todellisuudessa ollut olemassakaan.
Lisäksi asiakirjoissa viitattiin oikeisiin tuomioihin, mutta niissä väitetyt kohdat olivat mielikuvituksen, tai voisiko sanoa koneen keksimää tuotosta. Osa viitatuista ratkaisuista ei puolestaan liittynyt käsiteltävään asiaan lainkaan tai jopa osoitti päinvastaista kuin asianajaja väitti.
Tapaus osoittaa, miksi tekoälyn antamiin oikeudellisiin vastauksiin, ohjeisiin tai väittämiin ei pidä luottaa tarkistamatta niiden alkuperää.
Tilanne on jo todelleninen ongelma esimerkiksi politiikassa, kun vajavaisin tiedoin varustetut poliittiset vaikuttajat pyrkivät vetoamaan tekoälyn tuottaman tekstin avulla. Vastaukseen saattaa tulla täysin keksittyjä esimerkkejä, tuulesta temmattuja pykäliä tai jopa toisen maan oikeuskäytäntöä.
Tekoälyn hallusinointia
Ilmiötä kutsutaan tekoälyn hallusinoinniksi. Se tarkoittaa tilannetta, jossa tekoäly tuottaa virheellistä tai kokonaan keksittyä tietoa ja esittää sen ikään kuin se olisi totta.
Oikeudellisissa kysymyksissä tällaiset virheet voivat olla erityisen vakavia.
Jos esimerkiksi asianajaja perustelee asiakkaansa vaatimuksia olemattomalla oikeustapauksella, virhe voi vaikuttaa asian käsittelyyn ja heikentää asiakkaan asemaa.
Romanialainen asianajaja myönsi käyttäneensä tekoälytyökaluja asiakirjojen laatimisessa. Hän kuvaili havaittuja ongelmia epätarkkuuksiksi ja viittausvirheiksi.
Tuomioistuin ei kuitenkaan pitänyt selitystä riittävänä. Sen mukaan kyse ei ollut yksittäisistä huolimattomuusvirheistä, vaan lukuisista toistuvista ja sisällöllisesti merkittävistä virheistä. Osa niistä olisi ollut helppo havaita tarkistamalla viittaukset tuomioistuimen omasta HUDOC-ratkaisutietokannasta.
Toiminta aiheutti ylimääräistä työtä tuomioistuimelle.
Tuomioistuin totesi myös, että joidenkin oikeustapausviittausten paikkansapitävyyttä ei ollut tarkistettu lainkaan.
Asianajajan toiminta aiheutti ylimääräistä työtä tuomioistuimelle, joka joutui käyttämään huomattavasti aikaa virheellisten viittausten selvittämiseen ja asian käsittelyyn. Tuomioistuimen mukaan asianajaja oli laiminlyönyt ammatillisia ja eettisiä velvollisuuksiaan.
Kahden vuoden kielto koskee asianajajan toimintaa Euroopan ihmisoikeustuomioistuimessa. Päätös ei siis tarkoita automaattisesti sitä, että hän olisi menettänyt oikeutensa toimia asianajajana Romaniassa. Uskottavalta kuulostava vastaus ei välttämättä ole oikea.
Lähde: Euroopan ihmisoikeustuomioistuin
Voit lisätä Staran Googlen ensisijaiseksi lähteeksi klikkaamalla tästä ja ruksittamalla laatikon. Voit myös lukea lisää tähän artikkeliin liittyvistä teemoista ja aiheista, kuten asianajaja, oikeus, tekoäly tai laajemmin samasta aihealueesta Uutiset -osioistamme.