AI / RAG

RAG na stronie: jak zaprojektować bazę wiedzy i fallback, żeby chatbot nie udawał źródła prawdy?

Retrieval-Augmented Generation może dostarczyć modelowi kontekst z zatwierdzonych materiałów, ale nie gwarantuje poprawnej odpowiedzi. Potrzebna jest kontrola źródeł, retrieval, instrukcji i sytuacji, w których system powinien odmówić.

1. Najpierw zdefiniuj publiczne źródło prawdy

Dokumenty, strony i dane używane przez RAG powinny być zatwierdzone i mieć właściciela. Jeżeli źródła są sprzeczne, retrieval tylko szybciej dostarczy modelowi sprzeczność.

2. Chunking powinien zachowywać kontekst

Dzielenie dokumentu na arbitralne kawałki może odciąć warunki od odpowiedzi. Segmentacja powinna odpowiadać strukturze informacji i zachowywać informacje potrzebne do prawidłowej interpretacji.

3. Retrieval trzeba testować oddzielnie od generacji

Jeżeli właściwy fragment nie trafia do kontekstu, zmiana promptu nie naprawi problemu. Warto mierzyć trafność wyszukiwania i jakość odpowiedzi jako osobne etapy.

4. Fallback jest częścią produktu

Gdy źródło nie zawiera odpowiedzi, bezpieczniejszym zachowaniem może być jawne `nie wiem`, wskazanie materiału lub przekazanie do człowieka zamiast generowania wiarygodnie brzmiącej odpowiedzi.

NASTĘPNY KROK / PROJEKT

Potrzebujesz przełożyć tę wiedzę na konkretną stronę?

Opisz projekt