Un bibliotecar care caută și un redactor care scrie: așa funcționează RAG. Și șase lucruri care pot merge prost, de la documente contradictorii la drepturi de acces.
„Vreau un AI care știe tot ce știm noi în firmă: contracte, proceduri, oferte vechi, manuale.” Este una dintre cele mai frecvente cereri, iar tehnica din spate se numește RAG (în engleză, retrieval-augmented generation, adică generare augmentată prin regăsire). Nu trebuie să ai cunoștințe tehnice ca să o înțelegi, iar înțelegerea te ajută să-ți pui așteptări corecte.
Ideea de bază: bibliotecarul și redactorul
Gândește-te la un birou cu doi oameni. Primul, bibliotecarul, știe unde sunt documentele: când primește o întrebare, caută în arhivă paginile care par relevante. Al doilea, redactorul, citește acele pagini și scrie un răspuns. Redactorul nu are voie să răspundă din memorie, ci doar pe baza paginilor primite.
Asta este RAG. Un model de limbaj (redactorul) primește întrebarea împreună cu fragmentele găsite de un sistem de căutare (bibliotecarul) și formulează un răspuns pe baza lor. Tehnica a fost descrisă într-o lucrare de cercetare din 2020, care combina un model de limbaj cu o memorie externă, din care se regăsesc informații la fiecare întrebare.
De ce nu antrenăm pur și simplu modelul pe documentele noastre?
Pentru că, de regulă, nu e nevoie și nu e cea mai bună soluție. Antrenarea modelului pe documentele firmei este costisitoare și greu de actualizat: dacă se schimbă o politică de retur, trebuie reluat procesul. La RAG, schimbi documentul și răspunsul se schimbă. În plus, poți arăta sursa fiecărui răspuns, ca omul să verifice.
Pașii, pe scurt
- Pregătirea documentelor. Fișierele (PDF-uri, documente, pagini web) sunt curățate și împărțite în fragmente de dimensiune rezonabilă.
- Indexarea. Fiecare fragment este transformat într-o reprezentare numerică a sensului lui (așa-numitul embedding) și păstrat într-o bază de date care poate căuta „după înțeles”, nu doar după cuvinte exacte.
- Căutarea. La o întrebare, sistemul găsește fragmentele cele mai apropiate ca sens.
- Răspunsul. Modelul primește întrebarea și fragmentele și scrie răspunsul, de preferință indicând sursele.
- Controlul accesului. Sistemul trebuie să țină cont de cine întreabă: un angajat nu trebuie să primească un fragment dintr-un document pe care nu are voie să-l vadă.
Ce poate merge prost
Aici e partea care contează pentru un manager. RAG nu este magie, iar problemele sunt cunoscute.
Nu găsește documentul potrivit
Dacă bibliotecarul aduce fragmentele greșite, redactorul scrie, cu încredere, un răspuns greșit. Cauze frecvente: documente prost împărțite (o regulă separată de excepția ei), întrebări formulate altfel decât textul, abrevieri interne, tabele și PDF-uri scanate care se citesc prost.
Găsește, dar documentele se contrazic
Dacă în arhivă există trei versiuni ale politicii de retur, sistemul nu știe care e cea valabilă. Problema nu este modelul, ci ordinea din documente. Fără o regulă clară (data, versiunea, statusul „în vigoare”) vei primi răspunsuri amestecate.
Răspunde dincolo de ce scrie în documente
Chiar și cu fragmentele în față, un model poate completa din cunoștințele lui generale sau poate interpreta prea liber. De aceea instrucțiunile îi cer să răspundă doar din surse și să spună „nu am găsit” când nu are suportul. Instrucțiunile reduc problema, nu o elimină.
Ratează informația din fragmente lungi
Cercetările arată că modelele nu folosesc la fel de bine toate zonele unui context lung; informațiile aflate în mijlocul unui text lung sunt folosite mai slab decât cele de la început sau de la sfârșit. De aceea se trimit modelului puține fragmente, bine alese, nu zeci de pagini.
Scurge informații care nu trebuiau să iasă
Dacă indexezi tot și nu controlezi accesul, un angajat poate primi, printr-o întrebare ingenioasă, conținutul unui document de resurse umane sau al unui contract confidențial. Drepturile de acces trebuie respectate la căutare, nu doar la afișare. Și conținutul dubios dintr-un document poate încerca să dea instrucțiuni modelului, problemă pe care o discutăm în articolul despre securitatea agenților.
Informația se învechește
Ieri s-a schimbat un preț, azi sistemul răspunde cu cel vechi. Fără un proces pentru actualizarea indexului, un asistent bun devine în câteva luni unul nesigur.
Cum arăți că merge: un set de întrebări de control
Înainte de lansare, pregătește o listă de întrebări reale, cu răspunsul corect știut și cu documentul în care se află. Rulează-le periodic și notează:
- dacă a găsit documentul potrivit;
- dacă răspunsul corespunde cu documentul;
- dacă a spus „nu știu” când documentul lipsește;
- dacă a respectat drepturile de acces.
Același set te protejează la fiecare schimbare: nou document, nou model, nouă configurare.
Când are sens și când nu
RAG se potrivește când ai multe documente text, întrebări care se repetă și un proprietar care întreține sursele: suport intern, ghid de proceduri, bază de cunoștințe pentru clienți, regăsirea clauzelor dintr-un set de contracte. Nu se potrivește pentru calcule exacte pe tabele mari (acolo vrei o interogare într-o bază de date), pentru decizii cu efect juridic fără verificare sau pentru documente pe care nu le poți curăța.
Concluzie practică
Un RAG bun înseamnă mai ales muncă cu documentele, mai puțin cu modelul: curățare, versiuni, drepturi, teste. Înainte de a cere „AI-ul care știe tot”, alege un domeniu mic, curăță acele documente și vezi cum răspunde la 50 de întrebări reale.
La ME Digital facem implementare AI, inclusiv asistenți care răspund din documentele firmei, cu surse citate și drepturi de acces respectate; ne poți scrie prin pagina de contact.