RAG a fine-tuning – jak přimět AI pracovat s vašimi daty a kdy použít které řešení

Univerzální chatbot toho zná hodně, ale nezná váš interní manuál, ceník, smlouvy, e-maily ani včerejší změnu pravidel. Pokud po něm chcete odpovědi z vlastních dat, máte v zásadě tři cesty: napsat dobré zadání a vložit do něj potřebný text (prompt), připojit k modelu vyhledávání ve vašich dokumentech (RAG), nebo model dolaďovat na vlastních příkladech (fine-tuning). Často se tyto přístupy pletou, i když řeší různé problémy: RAG dodá modelu znalosti (a zdroje), fine-tuning mění jeho chování (styl, formát, specializaci). Správná volba šetří peníze, snižuje chyby a chrání data.

V tomto článku vysvětlujeme, jak funguje RAG (embeddingy, vektorová databáze, vyhledávání), co je fine-tuning a LoRA, v čem se přístupy liší, kdy použít které či obě, jak snížit halucinace, jaká jsou rizika (soukromí, bezpečnost, kvalita), jak postupovat krok za krokem a jak ověřit výsledky. Čerpáme z původní publikace Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, práce LoRA: Low-Rank Adaptation of Large Language Models, přehledů AWS: Co je RAG, IBM: RAG, Google Cloud: RAG, KDnuggets: RAG vs. fine-tuning, Glean: RAG vs fine-tuning a Progress: RAG vs Fine-Tuning – When to Use Which (anglicky). Část zdrojů pochází od firem, které prodávají související produkty; doporučení berte jako orientační.

Další články najdete v kategorii Základy a principy AI, například Jak se trénuje AI model, Tokeny a kontextové okno a Proč AI halucinuje.

Aktualizováno: listopad 2026.

Tři cesty, jak modelu dát vaše znalosti

1. Prompting (vložení do zadání): do konverzace vložíte relevantní text či příklady. Jednoduché, ale omezené velikostí kontextového okna a nutností vybírat text ručně; viz Tokeny a kontextové okno.
2. RAG (retrieval-augmented generation): systém vyhledá relevantní části dokumentů a vloží je modelu do zadání; model pak odpovídá s oporou v nich.
3. Fine-tuning (dolaďování): model se dotrénuje na vašich příkladech, takže se upraví jeho váhy.

Zjednodušeně: RAG dává modelu „otevřenou knihu“, fine-tuning mu „mění návyky“.

Orientační schéma fungování RAG – vlastní infografika

Jak funguje RAG

Postup, který popisují i původní výzkumná práce a přehledy dodavatelů:

1. Příprava dat: dokumenty (PDF, webové stránky, wiki, e-maily, tabulky) se očistí a rozdělí na kratší části (chunky).
2. Embeddingy: každá část se pomocí speciálního modelu převede na vektor čísel, který zachycuje její význam. Podobné významy mají podobné vektory.
3. Vektorová databáze (či index): do ní se vektory uloží spolu s původním textem a metadaty (zdroj, datum, oprávnění).
4. Dotaz uživatele se také převede na vektor a systém vyhledá nejpodobnější části (často v kombinaci s klasickým klíčovým hledáním a přeřazením výsledků).
5. Sestavení zadání: nalezené části se vloží do zadání modelu s pokynem „odpovídej z těchto zdrojů“.
6. Generování odpovědi: model odpoví a ideálně uvede citace (odkazy na zdroje).

Výhody: aktuální data (po změně dokumentu se změní i odpověď bez přetrénování), možnost citovat zdroje, dokumenty zůstávají ve vaší databázi, nikoli ve váhách modelu, a řízení přístupu (každý uživatel vidí jen dokumenty, na které má oprávnění). Nevýhody: kvalita závisí na vyhledávání (špatně nalezený text → špatná odpověď), nutnost údržby dat a latence způsobená hledáním.

Co je fine-tuning a LoRA

Fine-tuning pokračuje v trénování již hotového modelu na vašich příkladech (například dvojicích zadání a ideální odpovědi). Hodí se, když model potřebuje:

• přijmout specifický styl či tón (hlas značky),
• dodržovat přesný formát výstupu (JSON, šablony),
• zvládnout doménovou terminologii a úlohy (právnické klauzule, lékařské kódy),
• spolehlivě provádět úzkou úlohu (klasifikace, extrakce) za nižší cenu s menším modelem.

Zdroje shodně upozorňují: fine-tuning se hodí na chování, nikoli na fakta. Fakta z tréninkových příkladů se spolehlivě nezapamatují a model je může zaměnit či zkreslit; navíc se po změně znalostí musí přetrénovat. LoRA (Low-Rank Adaptation) je úsporná varianta: místo úpravy všech miliard parametrů se trénují malé přídavné matice, takže je dolaďování levnější a rychlejší a lze mít více „adaptérů“ pro různé úlohy nad jedním základním modelem. Je to dnes běžný způsob dolaďování, zejména u otevřených modelů; viz Open-source AI modely.

Srovnání v praxi

Hlavní rozdíly shrnuje následující přehled:

• Co řeší: RAG znalosti a zdroje; fine-tuning styl, formát a specializované chování.
• Aktuálnost: RAG okamžitě po změně dokumentů; fine-tuning vyžaduje přetrénování.
• Citace zdrojů: RAG ano; fine-tuning obvykle ne.
• Halucinace: RAG je snižuje ukotvením v textu (ne zcela); fine-tuning je sám o sobě neřeší.
• Náklady: RAG má náklady na infrastrukturu a údržbu; fine-tuning náklady na přípravu příkladů a opakované trénování, ale může zlevnit provoz (menší model).
• Soukromí a oprávnění: RAG umožňuje řídit přístup k dokumentům; u fine-tuningu data „zapadnou“ do modelu, což vyžaduje opatrnost.
• Složitost: RAG vyžaduje kvalitní vyhledávání; fine-tuning kvalitní trénovací příklady.
• Rychlost nasazení: RAG obvykle rychleji; fine-tuning déle.
• Kombinace: často nejlepší: fine-tuning pro tón a formát, RAG pro aktuální fakta.

Kdy co použít

RAG zvolte, když: se znalosti často mění, potřebujete citace a ověřitelnost, pracujete s velkým množstvím dokumentů (interní wiki, smlouvy, podpora, manuály), každý uživatel má mít jiná oprávnění nebo nechcete data „vtisknout“ do modelu. Fine-tuning zvolte, když: potřebujete konzistentní styl a formát, úzkou úlohu s mnoha příklady, nižší cenu a latenci (menší model) či chování, které se nedá spolehlivě docílit zadáním. Oboje: například zákaznická podpora, kde model mluví tónem firmy (fine-tuning) a odpovídá z aktuální dokumentace (RAG). Nic z toho: pro jednorázovou úlohu s krátkým dokumentem stačí vložit text do zadání. Praktický postup: 1. vyzkoušejte dobrý prompt; 2. přidejte RAG, pokud chybí znalosti; 3. zvažte fine-tuning, pokud chybí chování či je třeba úspora; 4. měřte a iterujte.

Kontrolní seznam – vlastní infografika

Rizika a omezení

• Špatné vyhledávání = špatná odpověď: pokud se nenajde relevantní část, model si může „domyslet“.
• Halucinace zůstávají: RAG je snižuje, ale model může zdroje přečíst chybně či dodat nepodložené tvrzení; proto je potřeba kontrolovat citace; viz Proč AI halucinuje.
• Únik citlivých dat: dokumenty ve vektorové databázi a v zadání modelu mohou obsahovat osobní údaje či obchodní tajemství; je třeba řízení přístupu, šifrování a pravidla zpracování; viz Únik dat do AI chatbotů a AI a ochrana osobních údajů.
• Prompt injection: škodlivý text v dokumentu může modelu „podstrčit“ pokyny; viz Prompt injection.
• Zastaralá či protichůdná data v dokumentech vedou k nekonzistentním odpovědím.
• Fine-tuning a soukromí: model se může naučit části tréninkových dat a reprodukovat je; nedolaďujte na citlivých údajích bez pravidel.
• Zkreslení: data i příklady mohou nést zkreslení; viz Rizika AI: bias a diskriminace.
• Náklady a údržba: indexování, aktualizace, monitorování.
• Právní otázky: práva k dokumentům a dohody s poskytovatelem; viz Firemní politika používání AI.

Jak postupovat krok za krokem

1. Definujte úlohu a uživatele: na jaké otázky má systém odpovídat a komu?
2. Zmapujte zdroje a oprávnění: co smí být indexováno, kdo smí co vidět.
3. Připravte data: čištění, rozdělení na části, metadata (datum, autor, verze).
4. Zvolte nástroje: model, embeddingy, vektorová databáze či služba; zvažte, zda data smí opustit firmu (cloud vs. lokální provoz; viz Lokální AI doma: Ollama).
5. Nastavte vyhledávání: kombinace sémantického a klíčového hledání, přeřazení výsledků.
6. Navrhněte zadání modelu: odpovídej jen ze zdrojů, uveď citaci, přiznej nejistotu; viz Jak psát prompty pro AI.
7. Otestujte na reálných otázkách (sada s „správnými odpověďmi“) a měřte přesnost vyhledávání i odpovědí; viz Jak hodnotit AI modely.
8. Nasaďte s lidským dohledem a možností zpětné vazby.
9. Sledujte a aktualizujte: nové dokumenty, odstranění zastaralých, kontrola logů a incidentů.
10. Zvažte fine-tuning až po zjištění konkrétních slabin chování.

Praktické příklady

• Zákaznická podpora: RAG nad FAQ a dokumentací, tón firmy případně doladěný; viz AI chatboti pro klientský servis.
• Interní wiki a znalostní báze: dotazy nad procesy, směrnicemi a projekty.
• Právní a smluvní dokumenty: vyhledávání klauzulí a shrnutí s citacemi; viz AI v právu.
• Studium: nahrajete vlastní materiály a ptáte se; podobně funguje NotebookLM.
• Extrakce dat z faktur či formulářů: fine-tuning menšího modelu na úzkou úlohu.
• Odpovědi ve značkovém stylu: fine-tuning na příkladech textů.
• AI vyhledávače s citacemi využívají podobný princip: viz Perplexity AI.

RAG a fine-tuning v kostce

Základní údaje – vlastní infografika

Výhody a nevýhody

Souhrn pro týmy – vlastní infografika

Související články

Další články najdete v kategorii Základy a principy AI: Multimodální AI, Jak hodnotit AI modely, Historie umělé inteligence a Slovník pojmů umělé inteligence.

Shrnutí

RAG vyhledá relevantní části vašich dokumentů a vloží je modelu, takže odpovídá aktuálně a se zdroji; fine-tuning (včetně úsporné LoRA) mění chování modelu, nikoli spolehlivě jeho znalosti. Znalosti řešte RAG, styl a formát fine-tuningem, často obojím, a vždy chraňte data a testujte výsledky. Více najdete v přehledu AWS.

Často kladené otázky k RAG a fine-tuningu