# AI a cég saját dokumentumain (RAG), magyarul is

A Mesterséges Intelligencia Központ Kft. budapesti szoftverfejlesztő cég szerint a cég dokumentumaiból a RAG ad ellenőrizhető választ: a rendszer előbb megkeresi a releváns részleteket, a modell ezekből, forrással válaszol, magyarul is.

> **Lényeg:** Nem kell a modellt a saját adatainkra betanítani: a RAG a kérdés pillanatában adja oda neki a releváns részleteket, a válasz pedig megjelöli a forrást. A minőség a dokumentumok rendezettségén, a keresés pontosságán és a folyamatos mérésen múlik; magyarul is működik, de a saját magyar kérdéseinken kell lemérni.

## Mi a RAG, és honnan jön a kifejezés?

A RAG a retrieval-augmented generation rövidítése, magyarul nagyjából keresővel kiegészített szöveggenerálás. A kifejezés Patrick Lewis és szerzőtársai [2020-ban megjelent tanulmányából](https://arxiv.org/abs/2005.11401) ered, amelynek címe „Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”. A szerzők egy előtanított nyelvi modell úgynevezett paraméteres memóriáját egy nem paraméteres memóriával kapcsolták össze: a Wikipédia sűrű vektorindexével, amelyet egy neurális kereső ért el.

Ma a kifejezés tágabban azt a megoldást jelenti, amelyben a rendszer a kérdéshez először megkeresi a szükséges szövegrészeket egy dokumentumgyűjteményben, és a nyelvi modell ezekből fogalmazza meg a választ. A modell saját tudása közben nem változik: a cég anyagát a kérdés pillanatában kapja meg. Ebből következik a RAG három gyakorlati előnye: a tudás azonnal frissíthető, a válasz megjelölheti a forrását, és a kereséskor szűrni lehet arra, amit a kérdező láthat.

## Hogyan működik? Hat lépés

1. **Gyűjtés:** a forrásokat (dokumentumtár, wiki, jegykezelő, a levelezés kiválasztott része) egy helyre vezetjük.
2. **Feldarabolás:** a hosszú dokumentumokat kisebb, néhány bekezdésnyi részekre (chunk) bontjuk. Az OpenAI [keresési szolgáltatása](https://developers.openai.com/api/docs/guides/retrieval) például alapértelmezés szerint legfeljebb 800 tokenes darabokat képez, 400 tokenes átfedéssel.
3. **Beágyazás (embedding):** minden darabot egy beágyazómodell számsorrá, vektorrá alakít. Az OpenAI [leírása](https://developers.openai.com/api/docs/guides/embeddings) szerint a vektorok közötti kis távolság nagy, a nagy távolság kis tartalmi rokonságot jelez.
4. **Keresés:** a kérdést ugyanez a modell vektorrá alakítja, és a rendszer a hozzá legközelebb eső darabokat keresi meg. Az Anthropic a [Contextual Retrieval](https://www.anthropic.com/engineering/contextual-retrieval) leírásában a jelentés szerinti keresést a szó szerinti, kulcsszavas BM25-kereséssel egészíti ki, mert az a pontos kifejezéseket, például az azonosítókat, jobban megtalálja, majd egy újrarangsoroló (reranker) lépés csak a legrelevánsabb darabokat adja tovább a modellnek.
5. **Szűrés és összeállítás:** a talált darabok közül csak azok maradnak, amelyeket a kérdező is láthat, és ezek kerülnek a modell elé a kérdéssel együtt.
6. **Válasz forrásmegjelöléssel:** a modell a kapott részletekből válaszol, és megjelöli, honnan vette az állítást. Az Anthropic [citations funkciója](https://platform.claude.com/docs/en/build-with-claude/citations) PDF-nél oldalszámra, egyszerű szövegnél karakterpozícióra mutat; az OpenAI [fájlkeresője](https://developers.openai.com/api/docs/guides/tools-file-search) a válaszban a forrásfájlra hivatkozó jelölést ad.

A feldarabolásnál gyakori hiba, hogy a darab elveszíti az összefüggését; az Anthropic ugyanebben a leírásban erre is figyelmeztet. Egy „A határidő a kézhezvételtől számít” mondatból önmagában nem derül ki, melyik szerződésről és melyik határidőről van szó. Ezért érdemes minden darabhoz hozzáadni a dokumentum címét, a fejezet címét és a dátumát, hogy a keresés és a modell is lássa a környezetét.

## RAG vagy finomhangolás?

A finomhangolás (fine-tuning) a modell továbbtanítása feladatspecifikus adatokon. Az OpenAI [pontosságról szóló útmutatója](https://developers.openai.com/api/docs/guides/optimizing-llm-accuracy) szerint a RAG a feladathoz szükséges, szakterületi kontextust adja meg, és akkor kell, ha a modell tudása elavult, vagy a feladathoz a cég saját információja kell; a finomhangolás pedig akkor segít, ha a modell kimenete következetlen, rossz a formátuma vagy a hangneme. Az útmutató szerint a két módszer kiegészíti egymást, és együtt is használható.

| Szempont | RAG | Finomhangolás |
|---|---|---|
| Mire való | a cég tudásának átadására a kérdés pillanatában | a modell viselkedésének, formájának, hangnemének egységesítésére |
| Friss tudás | a dokumentum frissítése után az index frissítésével érvényes | új tanítás kell hozzá |
| Forrásmegjelölés | a válasz a megtalált részletre mutathat | a modell súlyaiba került tudáshoz nem tartozik forrásjelölés |
| Jogosultság | dokumentumonként szűrhető | a betanított tudás minden felhasználónál ugyanaz |
| Dokumentum visszavonása | a dokumentum kikerül az indexből | a hatása csak új tanítással szűnik meg |
| Mikor érdemes | céges dokumentumoknál szinte mindig ez a kiindulópont | ha a forma vagy a hangnem következetessége a gond, a RAG mellett |

Céges dokumentumokra ezért a RAG a természetes kiindulópont. A kérdés, hogy „be kell-e tanítani a modellt”, a legtöbbször valójában azt jelenti: hogyan kapja meg a modell a cég tudását. Erre pedig a RAG a válasz.

## Magyarul is? Nyelvi támogatás és vegyes nyelvű anyagok

### A válaszoló modell

A nagy szolgáltatók modelljei magyarul is jól értenek és írnak, de a nyelvi teljesítményről közzétett méréseik nem mindig terjednek ki a magyarra. Az Anthropic [többnyelvűségi oldala](https://platform.claude.com/docs/en/build-with-claude/multilingual-support) 14 nem angol nyelven közöl mérési eredményt, a magyar nincs köztük (ellenőrizve: 2026. október 17.); az oldal ugyanakkor kiemeli, hogy Claude a táblázatban szereplőkön túl is sok nyelven használható, azt javasolja, hogy az alkalmazás szempontjából fontos nyelveken teszteljenek, és hogy a válasz nyelvét a rendszerutasításban rögzítsék. Saját tapasztalatunk is ez: a főoldalunk Claude-alapú AI-asszisztense magyarul és további 13 nyelven beszélget, de minden új felhasználási módot magyar kérdéseken mérünk le.

### A beágyazómodell

A keresés minősége legalább annyira a beágyazómodellen múlik, mint a válaszolón. A nagy szolgáltatóknál (ellenőrizve: 2026. október 17.):

- a Google [Gemini Embedding 2 modellje](https://ai.google.dev/gemini-api/docs/embeddings) a dokumentáció szerint több mint 100 nyelven működik;
- az Anthropic [nem kínál saját beágyazómodellt](https://platform.claude.com/docs/en/build-with-claude/embeddings), hanem a Voyage AI modelljeit említi, amelyek közül a voyage-4 általános és többnyelvű keresésre optimalizált;
- az OpenAI beágyazási útmutatója a text-embedding-3 modelleket mutatja be, a támogatott nyelveket azonban nem sorolja fel.

A beágyazómodellt ezért a cég saját, magyar kérdés–dokumentum párjain választjuk ki, nem a szolgáltató általános mérései alapján.

### Magyar sajátosságok

- **Ragozás:** a „szerződés”, a „szerződésben” és a „szerződéseinkről” ugyanarról szól, a szó szerinti kulcsszavas keresés azonban szótövezés nélkül nem tekinti egyezésnek. A jelentés szerinti keresés ezen segít, a hibrid keresés pedig a kettőt ötvözi.
- **Szakszavak és belső nevek:** a cég rövidítései, termékkódjai és belső elnevezései nem szerepelnek a modell általános tudásában; egy rövid szójegyzék sokat javít a keresésen.
- **Vegyes nyelvű anyag:** ha a kérdés magyar, a kézikönyv pedig angol, többnyelvű beágyazómodell kell, és a válasz nyelvét rögzíteni kell; a forrásidézet eredeti nyelvű marad.
- **Hétköznapi fogalmazás:** az elírásokat, az ékezet nélküli kérdéseket és a köznyelvi kifejezéseket is be kell venni a tesztkérdések közé.

## Milyen dokumentumokból dolgozhat?

| Forrás | Mire figyeljünk |
|---|---|
| Szöveges PDF | jól feldolgozható; a forrásmegjelölés oldalszámra is mutathat |
| Szkennelt PDF | előbb szövegfelismerés (OCR) kell: az Anthropic dokumentációja szerint a kinyerhető szöveg nélküli szkennelt PDF-ből nem adható hivatkozás |
| Word és Excel | az Anthropic a DOCX- és XLSX-fájlok szöveggé alakítását javasolja, az OpenAI fájlkeresője a DOCX-et közvetlenül is fogadja; a táblázatok szerkezetét meg kell őrizni |
| Wiki és intranet | a hatályos változat számítson, a régi oldalak kerüljenek archívumba |
| Hibajegyek, helpdesk | sok bennük a személyes adat és az elavult megoldás, ezért szűrni kell |
| E-mailek | csak kiválasztott, rendezett körben; személyes adat és jogosultság szempontjából a legkényesebb forrás |

## Jogosultság dokumentumonként

A RAG legkényesebb pontja, hogy a rendszer nem adhat ki olyan részletet, amelyet a kérdező a forrásrendszerben sem nyithatna meg. Ezt nem a modellre bízzuk, hanem a keresésbe építjük:

- minden darab magával viszi a forrásdokumentum jogosultsági adatait metaadatként;
- a szűrés a keresés előtt vagy közben történik (az OpenAI keresési szolgáltatása például fájlattribútumok szerinti szűrést kínál a jelentés szerinti keresés előtt), így a modell elé el sem jut, amit a kérdező nem láthat;
- a jogosultságok változását a forrásrendszerből szinkronizáljuk, nem kézzel tartjuk karban;
- naplózzuk, ki mit kérdezett, és mely dokumentumokból kapott választ.

## Frissen tartott index

A RAG csak annyira jó, amennyire friss az indexe. Amire figyelünk:

- **Változásfigyelés:** az új és a módosított dokumentumot a rendszer automatikusan feldolgozza.
- **Törlés:** a forrásból törölt dokumentum az indexből is kikerül; az OpenAI dokumentációja szerint az eltávolítás fokozatosan érvényesül, így egy törölt fájl rövid ideig még megjelenhet a találatok között.
- **Változatok:** a hatályos és a visszavont változat megkülönböztetése, dátummal a metaadatokban.
- **Forrásgazda:** minden forrásnak van felelőse, aki szól, ha valami elavult.
- **Lejárat:** az ideiglenes anyagokhoz lejárati szabály; az OpenAI vektortáraihoz például lejárati idő állítható be.

## Kevesebb téves válasz: forrás, „nem tudom”, mérés

A nyelvi modell a megadott anyag mellett is tévedhet. Az Anthropic [útmutatója a téves válaszok csökkentéséről](https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/reduce-hallucinations) azt javasolja, hogy a modell kifejezetten engedélyt kapjon a „nem tudom” válaszra, szó szerinti idézetekre alapozzon, minden állításához keressen alátámasztó idézetet (és ha nem talál, vonja vissza az állítást), valamint csak a megadott dokumentumokból dolgozzon. Az útmutató hozzáteszi: ezek a módszerek csökkentik, de nem szüntetik meg teljesen a téves válaszokat, ezért a fontos információt ellenőrizni kell. Mi ezekre építünk:

- **Forrásmegjelölés:** minden válasz mellett látszik, melyik dokumentum melyik részéből származik.
- **„Nem tudom” és átadás:** ha a válasz nincs az anyagban, a rendszer ezt kimondja, és a kérdést munkatársnak adja át.
- **Csak a megadott anyagból:** a modell a cégről nem használja az általános tudását.
- **Értékelő készlet:** valódi kérdések a várt válasszal és a helyes forrással. Külön mérjük, hogy a keresés megtalálta-e a jó részletet, és hogy a válasz hű-e hozzá; az [OpenAI értékelési útmutatója](https://developers.openai.com/api/docs/guides/evaluation-best-practices) szerint a tesztadatban tipikus, szélsőséges és szándékosan félrevezető eseteknek is lenniük kell, és az értékelést minden változtatásnál újra kell futtatni.
- **Visszajelzés:** a felhasználók jelezhetik a rossz választ, és a naplóból új tesztesetek lesznek.

## Adatvédelem: hol tárolódnak a dokumentumok?

Egy RAG-rendszerben a cég anyaga három helyen fordul meg:

- **A forrásrendszer:** a dokumentumok ott maradnak, ahol eddig: a dokumentumtárban, a wikiben, a levelezőben.
- **Az index:** a darabok és a vektorok egy keresőadatbázisban. Ez futhat a cég saját környezetében vagy egy szolgáltatónál; az OpenAI fájlkeresőjénél például az [adatkezelési dokumentáció](https://developers.openai.com/api/docs/guides/your-data) és a keresési útmutató szerint a feltöltött fájlok addig maradnak tárolva, amíg nem törlik őket, vagy le nem jár a vektortár.
- **A modellhívás:** a modellhez csak a kérdéshez kiválasztott darabok jutnak el. Ilyenkor a szolgáltató adatkezelési feltételei érvényesek. Hogy mit mondanak ezek a tanításról, a tárolás idejéről és a feldolgozás helyéről, azt a [céges rendszerek AI-jal való összekötéséről](https://www.mestersegesintelligenciakozpont.hu/hu/tudastar/ceges-rendszerek-osszekotese-ai-jal) szóló cikk foglalja össze.

Ha a dokumentumokban személyes adat is van, az adatkezelésre a GDPR vonatkozik, és az adatfeldolgozó szolgáltatóval az [általános adatvédelmi rendelet](https://eur-lex.europa.eu/legal-content/HU/TXT/?uri=CELEX:32016R0679) 28. cikke szerinti szerződés kell. A jogi kérdésekről, így az átláthatóságról, az adattovábbításról és a hatásvizsgálatról, az [AI Act és GDPR egy céges chatbotnál](https://www.mestersegesintelligenciakozpont.hu/hu/tudastar/ai-act-es-gdpr-ceges-chatbot) cikkben írunk. Ez tájékoztatás, nem jogi tanács.

## Egy RAG-projekt lépései

1. **Cél és kérdéskör:** kik kérdeznek, miről, és mi számít jó válasznak.
2. **A források leltára és rendbetétele:** a duplikátumok, az ellentmondó és az elavult változatok kiszűrése.
3. **Jogosultsági modell:** ki melyik dokumentumból kaphat választ.
4. **Értékelő készlet:** valódi, magyar kérdések a várt válasszal és forrással.
5. **Prototípus:** a darabolás, a beágyazómodell és a keresés hangolása mérés alapján.
6. **Bekötés:** a felület, a forrásmegjelölés, az átadás munkatársnak és a naplózás.
7. **Kísérleti élesítés:** szűk felhasználói körben, a visszajelzések gyűjtésével.
8. **Üzemeltetés:** az index frissítése, folyamatos mérés és a modellváltások lemérése.

## Tipikus hibák

- **A dokumentumtár „ahogy van”:** ha ugyanannak a szabályzatnak három változata él, a rendszer bármelyikből idézhet.
- **Jogosultság utólag:** az első bemutatón minden látszik, élesben ez adatvédelmi incidens lehet.
- **Válasz forrás nélkül:** a felhasználó nem tudja ellenőrizni, és nem is bízik meg benne.
- **Tesztelés kitalált kérdésekkel:** a bemutató kérdései szépen működnek, a valódi, magyar, elírásos kérdések nem.
- **Egyszeri betöltés:** a tudástár hamar elavul, ha nincs frissítés.
- **Szkennelt PDF-ek szövegfelismerés nélkül:** a rendszer egyszerűen nem látja a tartalmukat.

## Gyakori kérdések

### Mi az a RAG?

A RAG (retrieval-augmented generation, keresővel kiegészített szöveggenerálás) olyan megoldás, amelyben a rendszer a kérdéshez előbb megkeresi a releváns részleteket a cég dokumentumaiban, és a nyelvi modell ezekből, a forrás megjelölésével válaszol. A kifejezés egy 2020-as kutatási tanulmányból ered.

### Válaszol magyarul a saját dokumentumainkból?

Igen. A mai nagy nyelvi modellek magyarul is jól értenek és írnak, és magyar dokumentumokból is dolgoznak; a főoldalunk AI-asszisztense is magyarul beszélget. Mivel a szolgáltatók közzétett mérései nem mindig terjednek ki a magyarra, a válaszoló és a beágyazómodellt is a cég saját magyar kérdésein mérjük le élesítés előtt.

### Be kell tanítani a modellt a saját adatainkra?

Általában nem. A RAG a kérdés pillanatában adja oda a modellnek a szükséges részleteket, így a tudás frissíthető, a forrás megjelölhető, és a jogosultság dokumentumonként szűrhető. Finomhangolás akkor jöhet szóba, ha a válaszok formája vagy hangneme nem elég következetes, de akkor is a RAG mellett, nem helyette.

### Mi történik, ha nem tudja a választ?

Úgy építjük, hogy ezt kimondja, és a kérdést átadja egy munkatársnak, ahelyett hogy kitalálna valamit. A modell kifejezett engedélyt kap a „nem tudom” válaszra, csak a megadott anyagból dolgozhat, és a megválaszolatlan kérdések a naplóból visszakerülnek a tudásanyag bővítéséhez.

### Hol tárolódnak a dokumentumaink?

A forrásrendszerben, ahol eddig; mellettük a keresőindexben, amely futhat a cég saját környezetében vagy egy szolgáltatónál; és a modellhez kérdésenként csak a kiválasztott részletek jutnak el, a szolgáltató adatkezelési feltételei szerint. Hogy melyik megoldás illik egy céghez, az a dokumentumok érzékenységétől és az adatvédelmi elvárásoktól függ.

## Hogyan segítünk?

A Mesterséges Intelligencia Központ Kft. a cég saját dokumentumaiból magyarul is válaszoló AI-chatbotot fejleszt, RAG-módszerrel, forrásmegjelöléssel, az OpenAI (ChatGPT), az Anthropic (Claude) és a Google (Gemini) nyelvi modelljeire építve. Az első egyeztetés díjmentes; a fejlesztés méretét COSMIC funkciópontban mérjük, és ebből készül az ajánlat és az ütemezés. Kérésre titoktartási szerződést (NDA) kötünk, átadás után pedig a tudásanyag frissítését és a működés figyelését is vállaljuk. A forráskódról és a felhasználási jogokról a szerződés rendelkezik.

A részletek az [AI-chatbot és AI-ügynök](https://www.mestersegesintelligenciakozpont.hu/hu/szolgaltatasok/ai-chatbot-es-ai-ugynok) és az [AI-integráció](https://www.mestersegesintelligenciakozpont.hu/hu/szolgaltatasok/ai-integracio) oldalon olvashatók; hogy chatbot vagy ügynök kell-e, abban a [Chatbot vagy AI-ügynök?](https://www.mestersegesintelligenciakozpont.hu/hu/tudastar/chatbot-vagy-ai-ugynok) cikk segít. Ha a cég dokumentumaiból válaszoló rendszert tervez, írjon nekünk a [Kapcsolat](https://www.mestersegesintelligenciakozpont.hu/hu/kapcsolat) oldalon megadott elérhetőségeken.

## Források

- [arXiv: Lewis és szerzőtársai, Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks](https://arxiv.org/abs/2005.11401)
- [OpenAI: Vector embeddings](https://developers.openai.com/api/docs/guides/embeddings)
- [OpenAI: Retrieval](https://developers.openai.com/api/docs/guides/retrieval)
- [OpenAI: File search](https://developers.openai.com/api/docs/guides/tools-file-search)
- [OpenAI: Data controls in the OpenAI platform](https://developers.openai.com/api/docs/guides/your-data)
- [OpenAI: Optimizing LLM Accuracy](https://developers.openai.com/api/docs/guides/optimizing-llm-accuracy)
- [OpenAI: Evaluation best practices](https://developers.openai.com/api/docs/guides/evaluation-best-practices)
- [Anthropic: Embeddings](https://platform.claude.com/docs/en/build-with-claude/embeddings)
- [Anthropic: Multilingual support](https://platform.claude.com/docs/en/build-with-claude/multilingual-support)
- [Anthropic: Citations](https://platform.claude.com/docs/en/build-with-claude/citations)
- [Anthropic: Reduce hallucinations](https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/reduce-hallucinations)
- [Anthropic: Contextual Retrieval](https://www.anthropic.com/engineering/contextual-retrieval)
- [Google Gemini API: Embeddings](https://ai.google.dev/gemini-api/docs/embeddings)
- [EUR-Lex: az általános adatvédelmi rendelet, (EU) 2016/679](https://eur-lex.europa.eu/legal-content/HU/TXT/?uri=CELEX:32016R0679)