Sanasto

RAG (hakuun perustuva generointi)

RAG eli retrieval-augmented generation on menetelmä, jossa kielimallille haetaan ensin olennaista tietoa omasta aineistosta, ja malli vastaa kysymykseen löydettyjen lähteiden perusteella.

Varaa 30 min keskustelu

Mitä RAG tarkoittaa käytännössä?

Kielimalli ei tunne yrityksen sisäisiä dokumentteja eikä viimeisintä tietoa. RAG ratkaisee tämän kahdessa vaiheessa. Ensin järjestelmä hakee kysymykseen liittyvät kohdat yrityksen aineistosta, esimerkiksi hinnoitteluohjeista, tuotekuvauksista tai asiakaspalvelun ohjeista. Sitten malli kirjoittaa vastauksen näiden kohtien pohjalta.

Menetelmän etu on, että vastauksen voi jäljittää lähteeseen ja aineistoa voi päivittää ilman mallin uudelleenkoulutusta. Se myös vähentää virheellisten vastausten riskiä, koska malli saa tosiasiat valmiiksi eteensä, vaikka riskiä ei poista kokonaan.

RAG on yhtä hyvä kuin sen aineisto. Jos dokumentit ovat vanhentuneita, ristiriitaisia tai hajallaan, vastaukset ovat samanlaisia. Siksi ennen käyttöönottoa kannattaa siivota lähteet, päättää kuka päivittää niitä ja rajata, kuka näkee mitäkin. Aineiston laatu ratkaisee. Selkeästi otsikoidut, ajantasaiset ja yksiselitteiset dokumentit tuottavat parempia vastauksia kuin suuri kasa sekavaa materiaalia.

Miksi RAG on tärkeä?

RAG on yleisin tapa tehdä yrityksen oma tekoälyassistentti, joka vastaa yrityksen omasta tiedosta. Sen laatu riippuu aineiston kunnosta, joten työ alkaa usein tiedon järjestämisestä eikä tekniikasta. Kun lähteet ovat kunnossa, tiimi säästää aikaa etsimiseen ja uusi työntekijä pääsee nopeammin alkuun. Pienikin hyvin hoidettu aineisto voi tuottaa hyödyllisen assistentin.

Yleisiä virheitä ja väärinkäsityksiä

Syötetään kaikki aineisto sellaisenaan siivoamatta vanhentuneita ja ristiriitaisia tiedostoja.
Oletetaan, että RAG poistaa virheelliset vastaukset kokonaan.
Unohdetaan käyttöoikeudet, jolloin luottamuksellinen tieto voi päätyä väärälle henkilölle.
Jätetään aineiston ylläpito ilman vastuuhenkilöä.