Începe cu problema pe care vrei să o rezolvi
Stabilește cine folosește asistentul, ce întrebări îi pune și ce se întâmplă după răspuns. Un sistem care doar găsește o procedură are un risc mai mic decât unul care aprobă o cerere sau trimite automat un răspuns unui cetățean.
Fă o listă a surselor și a persoanelor care răspund de ele. Marchează documentele oficiale, variantele de lucru, drepturile de acces și perioada lor de valabilitate.
Cum funcționează RAG
RAG vine de la Retrieval-Augmented Generation. Mai întâi, sistemul caută pasaje relevante în documentele aprobate. Apoi modelul AI folosește acele pasaje pentru a formula răspunsul.
Metoda ajută la actualizarea informației și la indicarea sursei, dar nu rezolvă totul. Rezultatul depinde de felul în care sunt împărțite și etichetate documentele, de calitatea căutării și de instrucțiuni. Un pasaj poate fi corect, dar să nu se aplice instituției, perioadei sau rolului utilizatorului.
- importul documentelor și păstrarea versiunilor
- împărțirea documentelor în pasaje și etichetarea lor
- căutare după sens și după cuvinte
- filtrare după drepturile de acces și situația utilizatorului
- răspuns cu trimiteri către surse
Arată sursa și recunoaște limitele
Interfața trebuie să arate documentul sau pagina folosită și să deschidă pasajul relevant. Dacă o sursă publică nu poate fi indexată corect, este mai sigur să oferi linkul oficial decât să pretinzi că sistemul a citit pagina.
Dacă sistemul găsește prea puține informații, dacă sursele se contrazic sau lipsesc, răspunsul trebuie să spună acest lucru și să recomande verificarea de către o persoană. NIST include indicarea surselor, testarea înainte de lansare și raportarea incidentelor printre măsurile importante pentru sistemele AI generative.
Cum se testează
Pregătește întrebări reale, inclusiv formulări incomplete, documente vechi și cazuri în care răspunsul corect este «nu știu». Verifică dacă sistemul găsește sursa potrivită, rămâne fidel documentului, respectă accesul și oferă un răspuns util.
Repetă testele după schimbarea modelului, a colecției de documente sau a regulilor. Istoricul trebuie să ajute investigația, fără să păstreze inutil date personale sau documente sensibile.
Întrebări întâlnite în practică
RAG elimină răspunsurile inventate?
Nu. Oferă modelului documente controlate și permite verificarea sursei, dar modelul poate interpreta greșit sau poate combina pasaje care nu se potrivesc.
Putem include toate documentele companiei?
Tehnic poate fi posibil, dar nu este recomandat. Înainte de import trebuie stabilite drepturile de acces, relevanța, versiunile și perioada de păstrare.
Ce trebuie să răspundă asistentul când nu știe?
Să explice că informația nu este suficientă, să arate sursele găsite și să recomande un pas care poate fi verificat sau o persoană responsabilă.
Surse tehnice oficiale
Folosim aceste surse pentru explicațiile tehnice. Soluția exactă depinde însă de configurația în care apare problema.