Čo je RAG (Retrieval-Augmented Generation)?

RAG (Retrieval-Augmented Generation, generovanie obohatené o vyhľadávanie) je technika, pri ktorej jazykový model pred vytvorením odpovede najprv vyhľadá relevantné dokumenty z externého zdroja a potom z nich vychádza. Vďaka tomu odpovedá na základe overených, aktuálnych informácií namiesto toho, aby sa spoliehal len na to, čo si zapamätal počas tréningu. RAG je dôvod, prečo dnešné AI vyhľadávače dokážu citovať zdroje.

Tento článok vysvetľuje, ako RAG funguje, prečo vznikol a prečo je kľúčový pre viditeľnosť vášho webu v AI. Nadväzuje na naše články o veľkých jazykových modeloch a tokenoch a embeddingoch.

Prečo RAG vôbec vznikol

Samotný jazykový model má dve zásadné slabiny. Po prvé, vie iba to, čo bolo v jeho tréningových dátach, takže o novších udalostiach alebo o vašich interných dokumentoch nevie nič. Po druhé, keď odpoveď nepozná, často ju jednoducho vymyslí, čomu sa hovorí halucinácia.

RAG rieši oboje tým, že modelu pred odpoveďou dodá relevantný kontext. Pôvodná štúdia, ktorá pojem RAG zaviedla v roku 2020, ukázala, že tento prístup dosiahol najlepšie dovtedajšie výsledky v otvorenom odpovedaní na otázky. Model tak prestáva byť odkázaný len na svoju pamäť.

Ako RAG funguje krok za krokom

RAG sa skladá z troch fáz, ktoré dali technike aj názov:

1. Vyhľadanie (retrieval). Otázka používateľa sa premení na embedding a systém vo vektorovej databáze nájde významovo najrelevantnejšie dokumenty alebo pasáže.
2. Obohatenie (augmentation). Nájdené pasáže sa pripoja k otázke ako kontext a spolu sa pošlú modelu.
3. Generovanie (generation). Model vytvorí odpoveď, ktorá vychádza z dodaných pasáží, a často k nim pridá aj odkaz na zdroj.

Výsledkom je odpoveď, ktorá je aktuálna, podložená a overiteľná, pretože sa opiera o konkrétne dokumenty, nie len o pamäť modelu.

RAG verzus fine-tuning: kedy ktorý

RAG aj fine-tuning riešia odlišné problémy a často sa kombinujú:

Otázka	RAG	Fine-tuning
Čo rieši	Chýbajúce znalosti a fakty	Štýl, formát a správanie
Aktuálnosť dát	Vždy aktuálne, stačí zmeniť dokumenty	Zamrznuté v čase tréningu
Cituje zdroje	Áno	Nie
Náklady na zmeny	Nízke	Vyššie

Zjednodušene: ak modelu chýbajú vedomosti, použite RAG. Ak má zmeniť spôsob, akým odpovedá, použite fine-tuning.

Kde sa RAG používa

RAG je dnes základom väčšiny praktických AI aplikácií:

• AI vyhľadávače ako Perplexity a režim AI odpovedí v ChatGPT, ktoré vyhľadávajú na webe a citujú zdroje.
• Firemné chatboty, ktoré odpovedajú na základe interných príručiek a dokumentácie.
• Zákaznícka podpora, kde model čerpá z databázy znalostí firmy.
• Asistenti nad dokumentmi, ktorí odpovedajú na otázky k zmluvám či správam.

Prečo je RAG kľúčový pre vašu viditeľnosť v AI

Toto je najdôležitejšia časť pre každého majiteľa webu. Keďže AI vyhľadávače fungujú na princípe RAG, pri odpovedi reálne vyhľadávajú a citujú konkrétne weby. Ak chcete byť citovaní, váš obsah musí byť pre fázu vyhľadávania ľahko nájditeľný a pre fázu generovania ľahko použiteľný.

To znamená jasné odpovede, podložené fakty a prehľadnú štruktúru. Presne na to slúži AI optimalizácia (GEO). Konkrétne kroky nájdete v článku ako zvýšiť viditeľnosť v AI.

Často kladené otázky

Čo znamená skratka RAG?

RAG znamená Retrieval-Augmented Generation, teda generovanie obohatené o vyhľadávanie. Ide o spojenie vyhľadávania dokumentov s generovaním odpovede jazykovým modelom.

Ako RAG znižuje halucinácie?

RAG dodá modelu pred odpoveďou relevantné a overené dokumenty, z ktorých má vychádzať. Model tak nemusí odpoveď vymýšľať z pamäte a opiera sa o konkrétny zdroj, čím sa riziko halucinácie znižuje.

Je RAG lepší ako fine-tuning?

Ani jeden nie je univerzálne lepší, riešia iný problém. RAG dodáva modelu aktuálne znalosti a fakty, fine-tuning mení jeho štýl a správanie. V praxi sa často kombinujú.

Používa ChatGPT RAG?

Keď ChatGPT vyhľadáva na webe a odpovedá s odkazmi na zdroje, využíva princíp RAG. Bez pripojenia na vyhľadávanie odpovedá len z natrénovaných znalostí, čo RAG nie je.

Potrebujem RAG pre vlastnú firmu?

Ak chcete, aby AI asistent odpovedal na základe vašich interných dokumentov alebo aktuálnych dát, RAG je zvyčajne najjednoduchšie a najlacnejšie riešenie. Je vhodnejší než trénovať vlastný model od nuly.