RAG, který selhává: chyba v indexaci, o které nikdo nemluví

Než začnete stavět systém RAG (Retrieval-Augmented Generation), ujasněte si, co od něj skutečně potřebujete. Základní princip je jednoduchý: dokumenty rozdělíte na části, indexujete je do vektorové databáze a při dotazu vyhledáte relevantní úryvky, které předáte jazykovému modelu. Chyba ale bývá v tom, že se soustředíte na samotné vyhledávání a podceníte přípravu dat. Přitom právě kvalita rozdělení textu a indexace rozhoduje o tom, jestli vám systém vrátí smysluplné odpovědi, nebo nesouvislé střípky.

Typickou chybou bývá snaha o příliš lidské vystupování. Zákazníci nemají rádi, když se chatbot vydává za člověka, a když zjistí, že mluví s robotem, cítí se podvedeni. Otevřeně přiznejte, že jde o asistenta, a zároveň mu dejte jméno nebo vizuální styl, který zapadá do vaší značky. Druhým častým problémem je ignorování negativních reakcí – pokud zákazník píše rozzlobeně nebo píše „chci mluvit s člověkem", měl by chatbot okamžitě přepnout na operátora. Třetí chyba spočívá v příliš dlouhých odpovědích: chatbot má být stručný, dávat přesný návod, ne esej o historii e-shopu.

Nasazení začněte u jednoduchých scénářů, ne hned u plné automatizace. Ideální je nechat chatbota odpovídat na tři až pět nejčastějších dotazů: stav objednávky, doprava, vrácení zboží, záruční opravy. Připravte si pro něj přesné odpovědi vycházející z vašich reálných procesů. Vyhněte se obecným frázím typu „brzy vás spojíme" – pokud chatbot slíbí něco, co neumí splnit, ztratíte důvěru. Should you loved this post and you would want to receive more information about návod najdete zde assure visit our web site. Každou odpověď otestujte na reálných zákaznických dotazech, ne na vlastních představách o tom, co by se mohlo ptát.

Začněte tím, že si připravíte dokumenty v čisté textové podobě. PDF nebo Word soubory musíte převést na text, ale pozor na tabulky, hlavičky a patičky, které často rozbíjejí logickou strukturu. Zkontrolujte, jestli nástroj pro extrakci zachovává nadpisy a odstavce, protože ty jsou klíčové pro správný chunking. Pokud máte dokumenty ve více jazycích, oddělte je do vlastních kolekcí, jinak vám vyhledávání smíchá výsledky napříč jazyky a odpovědi budou nepoužitelné.

Prvním krokem je otestovat nástroj na reálných datech – ne na vzorových příkladech z webu. Vytvořte si zkušební účet, nahrajte do něj vzorek faktur a výpisů z banky a porovnejte, jak přesně rozpoznává české formáty, jako jsou čísla bankovních účtů, variabilní symboly nebo strukturu DPH. Většina nástrojů nabízí demo verzi, takže to nezabere víc než pár hodin. Zvlášť si všímejte, jak systém zvládá chyby – jestli vás upozorní na nesoulad, nebo mlčky vytvoří špatný zápis.

Při dotazování se vyhněte příliš dlouhým otázkám, které obsahují mnoho podmínek. Vyhledávač vrátí nejpodobnější chunky, ale pokud je dotaz rozvláčný, výsledky bývají roztříštěné. Raději dotaz rozdělte na menší části a postupně je kombinujte. Také si nastavte limit počtu vrácených chunků – obvykle 3 až 5 – a předávejte je modelu v kontextu. Pokud jich předáte příliš mnoho, model se ztratí v irelevantních detailech a odpověď bude nekvalitní.

Začněte tedy přípravou dat. Než cokoli uložíte, odstraňte hlavičky, patičky, opakující se navigační prvky nebo tabulky, které nemají hlavičku. Zkontrolujte, zda jsou čísla stran a nadpisy v dokumentu konzistentní. Pokud máte PDF, použijte nástroj, který umí zachovat strukturu odstavců a nerozbije text na jednotlivé řádky. Jinak se vám do vektorové databáze dostanou fragmenty vět, které nedávají smysl, a vyhledávání pak najde podobné shluky znaků, ne obsah.

Začněte konkrétním bodem, který vás pálí nejvíc. Pro malý e-shop to obvykle bývá vychystávání objednávek. Pokud máte 20 objednávek denně, nezavádějte hned dopravníkové pásy. Místo toho si pořiďte čtečky čárových kódů a naučte tým je používat. Změna se projeví okamžitě – méně špatně vychystaných položek a rychlejší odbavení. Až to pojede, přidejte další krok, třeba automatickou evidenci stavů. Klíčové je postupovat po malých krocích a každý krok vyhodnotit.

Po spuštění sledujte metriky, které mají smysl: míru vyřešení bez lidského zásahu, dobu odezvy a hlavně spokojenost zákazníků měřenou krátkým hodnocením po konverzaci. Pokud chatbot nevyřeší alespoň polovinu dotazů, vraťte se k úpravě odpovědí nebo k rozšíření scénářů. Neustále doplňujte nové otázky z reálných konverzací. Chatbot není projekt na jeden den – je to živý systém, který se musí postupně učit. Výsledkem není dokonalý robot, ale nástroj, který vašim zákazníkům usnadní nákup a vám uvolní ruce pro složitější práci.

Proč je chunking důležitější, než se zdá Velikost a způsob rozdělení textu přímo ovlivňují relevanci vyhledávání. Příliš krátké části (například jednotlivé věty) ztrácejí kontext, takže model nedokáže odpovědět na otázky, které vyžadují souvislosti. Příliš dlouhé části zase obsahují mnoho irelevantních informací, což zvyšuje šum a zhoršuje přesnost. Ideální je rozdělovat text podle logických celků – odstavců nebo nadpisů – a doplnit je o překrývání (overlap), aby nedošlo k přerušení důležité věty uprostřed. Testujte různé velikosti chunků (např. 200, 500 nebo 1000 tokenů) na vzorku dotazů a sledujte, jak zařídit malou kuchyni se mění kvalita odpovědí.