RAG nad vlastným obsahom firmy je riešenie, pri ktorom asistent odpovedá na otázky výhradne na základe vašich dokumentov – smerníc, cenníkov, manuálov, zmlúv, zápisov a znalostnej bázy – namiesto toho, aby odpovedal z toho, čo sa naučil pri tréningu. Používa sa dvomi spôsobmi: interne, ako pomôcka pre zamestnancov, a externe, ako asistent pre zákazníkov na webe. Princíp je jednoduchý. Dokumenty sa rozdelia na menšie bloky, tie sa prevedú na číselnú reprezentáciu a uložia. Pri otázke sa nájdu najrelevantnejšie bloky, vložia sa modelu do kontextu a ten z nich sformuluje odpoveď s odkazom na zdrojový dokument. Výsledok teda stojí a padá na kvalite podkladov, nie na výbere modelu, čo je zistenie, ktoré väčšinu firiem prekvapí. Prvou podmienkou úspechu je poriadok v dokumentoch. Ak vo firme existujú tri verzie tej istej smernice a nikto nevie, ktorá platí, asistent bude odpovedať raz tak a raz onak, pričom obe odpovede budú vyzerať dôveryhodne. Pred nasadením preto prejde inventúra: čo platí, čo je zrušené, kto je vlastníkom ktorého dokumentu a ako často sa aktualizuje. Druhou podmienkou je formát. Naskenované dokumenty bez rozpoznaného textu, tabuľky vložené ako obrázky a prezentácie, kde je podstatná informácia v poznámke pod snímkou, sú pre systém nepoužiteľné. Rovnako škodia dlhé dokumenty bez nadpisov, pretože sa zle delia na zmysluplné bloky a odpoveď potom mieša nesúvisiace pasáže. Treťou podmienkou sú prístupové práva. Interný asistent musí rešpektovať, kto smie vidieť ktorý dokument – mzdové podklady, personálne spisy a zmluvy sa nesmú dostať do odpovede pre kohokoľvek, kto sa opýta. Toto je najčastejšie podcenené riziko pri interných nasadeniach a rieši sa už pri návrhu, nie dodatočne. Štvrtou podmienkou je aktualizácia. Znalostná báza, ktorá sa neobnovuje, začne po pol roku odpovedať podľa neplatných cien a podmienok. Do prevádzky preto patrí proces, ktorý pri zmene dokumentu spustí jeho opätovné spracovanie, a pravidelná kontrola vzorky odpovedí. Piatou podmienkou je zvládnutie situácie, keď odpoveď v podkladoch nie je. Asistent má povedať, že informáciu nemá, a odkázať na človeka – nie si ju domyslieť. Toto správanie sa nastavuje a testuje zámerne, otázkami, na ktoré odpoveď neexistuje. Pri externom nasadení pribúda povinnosť jasne označiť, že ide o automatickú komunikáciu, a možnosť prepnúť sa na človeka. Rovnako je vhodné evidovať otázky, na ktoré asistent nevedel odpovedať – je to najlacnejší zoznam chýbajúceho obsahu na webe, aký firma môže mať. Z hľadiska nákladov je dobré vedieť, kde peniaze reálne odchádzajú. Samotné volania modelu bývajú menšou položkou než príprava podkladov, integrácia na existujúce systémy a čas interných ľudí venovaný testovaniu a kontrole odpovedí. Prevádzkové náklady rastú s objemom otázok a s dĺžkou vkladaného kontextu, takže presnejší výber menšieho počtu pasáží šetrí peniaze aj zlepšuje odpovede. Pri pilotnom nasadení si preto vopred určte kritérium úspechu vyjadrené číslom, obmedzte rozsah na jeden proces alebo jeden tím a stanovte termín, dokedy padne rozhodnutie o pokračovaní. Bez kritéria sa pilot zmení na nekonečné skúšanie. A napokon: asistent nad dokumentmi nenahradí poriadok v dokumentoch. Firmy, ktoré si od neho sľubujú, že vyrieši ich zmätok v smerniciach, zistia, že ho len zviditeľní. Na záver praktická poznámka k výberu: pri väčšine firemných nasadení nerozhoduje voľba modelu, ale kvalita prípravy podkladov a spôsob delenia dokumentov na bloky.
Pozri aj: chunking obsahu, interná politika používania AI, obsahová medzera v retrievale.
