Sanasto
Hallusinaatio
Hallusinaatio on tilanne, jossa tekoäly tuottaa uskottavan kuuloisen mutta virheellisen tai keksityn vastauksen, esimerkiksi olemattoman lähteen, luvun tai tapahtuman.
Mitä Hallusinaatio tarkoittaa käytännössä?
Kielimalli tuottaa tekstiä sen perusteella, mikä on todennäköinen jatko, ei sen perusteella, mikä on totta. Kun malli ei tiedä vastausta, se voi silti tuottaa sujuvan ja itsevarman vastauksen. Tämä on hallusinaatio. Se voi olla pieni virhe, kuten väärä vuosiluku, tai suuri, kuten keksitty lähdeviite.
Riski on suurin silloin, kun kysytään tarkkoja yksityiskohtia: lukuja, lainauksia, lakeja, nimiä tai lähteitä. Virhe on vaikea huomata, koska teksti kuulostaa oikealta. Käyttäjän on siksi opittava tarkistamaan kriittiset kohdat itse.
Riskiä voi pienentää antamalla mallille oikean lähdeaineiston, pyytämällä sitä kertomaan, jos se ei tiedä, ja pitämällä ihmisen mukana ennen julkaisua tai päätöstä. Täysin hallusinaatiota ei voi kuitenkaan poistaa, joten tarkistus kuuluu käyttötapaan. Tarkistus kannattaa kohdistaa erityisesti lukuihin, nimiin, lähteisiin ja lupauksiin, koska niissä virheen hinta on suurin. Yleisluontoisemman tekstin tarkistus on kevyempää.
Miksi Hallusinaatio on tärkeä?
Hallusinaatio voi aiheuttaa yritykselle suoria vahinkoja, jos virheellinen tieto päätyy tarjoukseen, nettisivulle tai asiakkaalle. Siksi tekoälyn tuotos on aina luonnos, ei valmis totuus. Yrityksen tekoälykäytännössä kannattaa sopia, mitkä asiat tarkistetaan aina ennen käyttöä ja kuka sen tekee. Pienikin tarkistus ennen julkaisua on halvempi kuin korjaaminen jälkikäteen.
Yleisiä virheitä ja väärinkäsityksiä
- Luotetaan lähteisiin ja lukuihin tarkistamatta, koska ne näyttävät uskottavilta.
- Oletetaan, että uudempi malli ei enää hallusinoi lainkaan.
- Käytetään tekoälyä lakiasioiden tai tarkkojen faktojen lopulliseen ratkaisuun.
- Pyydetään lähdeviitteitä ja jätetään tarkistamatta, onko lähde olemassa.
Katso myös
Aiheeseen liittyvät termit: LLM (suuri kielimalli), RAG (hakuun perustuva generointi), Generatiivinen tekoäly, Tekoälykäytäntö (yrityksen ohje), Tekoälylukutaito, Prompti ja promptaus.
Lue lisää: Tekoälykäytännöt yrityksessä, Tekoälyn käytännöt ja mittaus, Tekoälykoulutus ja valmennus.
Koko sanasto kokoaa markkinoinnin, myynnin ja tekoälyn käsitteet yhteen.
UKK
Usein kysyttyä: Hallusinaatio
Miksi tekoäly keksii asioita?
Malli tuottaa todennäköistä tekstiä eikä tarkista totuutta. Kun tieto puuttuu, se voi silti vastata varmasti.
Miten hallusinaatioita voi välttää?
Anna oikea lähdeaineisto, pyydä kertomaan epävarmuudesta ja tarkista tärkeät kohdat itse.
Mistä hallusinaation tunnistaa?
Usein ei suoraan tekstistä. Tarkista väitteet, luvut ja lähteet toisesta luotettavasta lähteestä.
Haluatko käydä tilanteesi läpi?
30 minuutin keskustelussa selviää, mistä kannattaa aloittaa ja mitä se maksaa.