Najkrótsza wersja
RAG (Retrieval-Augmented Generation) to technika, w której model językowy przed udzieleniem odpowiedzi dostaje wyszukane fragmenty firmowych materiałów i ma odpowiadać na ich podstawie — zamiast wyłącznie z tego, co „pamięta” z treningu. Efekt: odpowiedzi trzymają się źródeł, można je podeprzeć cytatem, a aktualizacja wiedzy to podmiana dokumentu, nie trening modelu.
Jak to działa, krok po kroku
- Biblioteka. Zatwierdzone materiały firmy — cennik, regulamin, instrukcje, opisy usług — zostają pocięte na fragmenty i zapisane w indeksie, który rozumie znaczenie tekstu, a nie tylko słowa kluczowe.
- Wyszukanie. Gdy klient zadaje pytanie, system najpierw znajduje w bibliotece fragmenty, które najlepiej do niego pasują.
- Odpowiedź z kontekstem. Model dostaje pytanie razem ze znalezionymi fragmentami i polecenie: odpowiadaj na ich podstawie. Dobrze zbudowany system potrafi przy tym wskazać, z którego dokumentu korzysta.
- Bramka niepewności. Jeśli biblioteka nie zawiera pokrycia dla pytania, system powinien powiedzieć „nie wiem” i przekazać sprawę człowiekowi — zamiast improwizować.
Punkt czwarty nie wynika z samej techniki — to decyzja projektowa. I właśnie po nim poznaje się solidne wdrożenie.
Czym RAG nie jest
- Nie jest treningiem modelu. Model pozostaje nietknięty; zmienia się tylko to, co dostaje na wejściu. To ważne dla danych firmy — nie muszą one wsiąkać w cudzy model, żeby chatbot znał ofertę.
- Nie jest gwarancją prawdy. Model nadal formułuje odpowiedź samodzielnie i może błędnie połączyć fragmenty. RAG obniża ryzyko halucynacji, ale go nie zeruje.
- Nie jest zamiennikiem porządku w treści. Jeśli odpowiedź na częste pytanie klientów nie istnieje w żadnym dokumencie, RAG jej nie wyczaruje. Wąskim gardłem wdrożeń chatbotów jest niemal zawsze treść, nie technologia.
Kiedy RAG wystarcza, a kiedy nie
RAG sprawdza się wszędzie tam, gdzie odpowiedź istnieje w materiałach i jest w miarę stabilna: pytania o ofertę, zasady współpracy, procedury, dokumenty, terminy. To typowy zakres chatbota obsługi klienta w małej firmie.
RAG przestaje wystarczać, gdy odpowiedź wymaga decyzji lub danych z systemów: „ile zapłacę w moim przypadku”, „na jakim etapie jest moja sprawa”, „czy zdążycie przed piątkiem”. Wtedy chatbot potrzebuje bezpiecznych integracji (odczyt statusu z CRM, kalendarza, cennika) albo — częściej — powinien zebrać kontekst i przekazać rozmowę człowiekowi z kompletem informacji.
Pytania kontrolne przed wdrożeniem chatbota
- Skąd dokładnie chatbot będzie brał odpowiedzi i kto zatwierdza te materiały?
- Co system robi, gdy nie znajduje pokrycia — improwizuje czy przekazuje człowiekowi?
- Czy odpowiedzi da się powiązać ze źródłem, gdy trzeba będzie sprawdzić, skąd wzięła się obietnica?
- Jak wygląda aktualizacja: kto i jak podmienia treść, gdy zmienia się cennik?
- Czy chatbot jawnie informuje, że jest AI — zgodnie z obowiązkami z AI Act?
Jeśli dostawca nie umie krótko odpowiedzieć na te pięć pytań, rozmawiacie o demie, nie o wdrożeniu.