AI a cég saját dokumentumain (RAG), magyarul is

A Mesterséges Intelligencia Központ Kft. budapesti szoftverfejlesztő cég szerint a cég dokumentumaiból a RAG ad ellenőrizhető választ: a rendszer előbb megkeresi a releváns részleteket, a modell ezekből, forrással válaszol, magyarul is.

Lényeg: Nem kell a modellt a saját adatainkra betanítani: a RAG a kérdés pillanatában adja oda neki a releváns részleteket, a válasz pedig megjelöli a forrást. A minőség a dokumentumok rendezettségén, a keresés pontosságán és a folyamatos mérésen múlik; magyarul is működik, de a saját magyar kérdéseinken kell lemérni.

Mi a RAG, és honnan jön a kifejezés?

A RAG a retrieval-augmented generation rövidítése, magyarul nagyjából keresővel kiegészített szöveggenerálás. A kifejezés Patrick Lewis és szerzőtársai 2020-ban megjelent tanulmányából ered, amelynek címe „Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”. A szerzők egy előtanított nyelvi modell úgynevezett paraméteres memóriáját egy nem paraméteres memóriával kapcsolták össze: a Wikipédia sűrű vektorindexével, amelyet egy neurális kereső ért el.

Ma a kifejezés tágabban azt a megoldást jelenti, amelyben a rendszer a kérdéshez először megkeresi a szükséges szövegrészeket egy dokumentumgyűjteményben, és a nyelvi modell ezekből fogalmazza meg a választ. A modell saját tudása közben nem változik: a cég anyagát a kérdés pillanatában kapja meg. Ebből következik a RAG három gyakorlati előnye: a tudás azonnal frissíthető, a válasz megjelölheti a forrását, és a kereséskor szűrni lehet arra, amit a kérdező láthat.

Hogyan működik? Hat lépés

Gyűjtés: a forrásokat (dokumentumtár, wiki, jegykezelő, a levelezés kiválasztott része) egy helyre vezetjük.
Feldarabolás: a hosszú dokumentumokat kisebb, néhány bekezdésnyi részekre (chunk) bontjuk. Az OpenAI keresési szolgáltatása például alapértelmezés szerint legfeljebb 800 tokenes darabokat képez, 400 tokenes átfedéssel.
Beágyazás (embedding): minden darabot egy beágyazómodell számsorrá, vektorrá alakít. Az OpenAI leírása szerint a vektorok közötti kis távolság nagy, a nagy távolság kis tartalmi rokonságot jelez.
Keresés: a kérdést ugyanez a modell vektorrá alakítja, és a rendszer a hozzá legközelebb eső darabokat keresi meg. Az Anthropic a Contextual Retrieval leírásában a jelentés szerinti keresést a szó szerinti, kulcsszavas BM25-kereséssel egészíti ki, mert az a pontos kifejezéseket, például az azonosítókat, jobban megtalálja, majd egy újrarangsoroló (reranker) lépés csak a legrelevánsabb darabokat adja tovább a modellnek.
Szűrés és összeállítás: a talált darabok közül csak azok maradnak, amelyeket a kérdező is láthat, és ezek kerülnek a modell elé a kérdéssel együtt.
Válasz forrásmegjelöléssel: a modell a kapott részletekből válaszol, és megjelöli, honnan vette az állítást. Az Anthropic citations funkciója PDF-nél oldalszámra, egyszerű szövegnél karakterpozícióra mutat; az OpenAI fájlkeresője a válaszban a forrásfájlra hivatkozó jelölést ad.

A feldarabolásnál gyakori hiba, hogy a darab elveszíti az összefüggését; az Anthropic ugyanebben a leírásban erre is figyelmeztet. Egy „A határidő a kézhezvételtől számít” mondatból önmagában nem derül ki, melyik szerződésről és melyik határidőről van szó. Ezért érdemes minden darabhoz hozzáadni a dokumentum címét, a fejezet címét és a dátumát, hogy a keresés és a modell is lássa a környezetét.

RAG vagy finomhangolás?

A finomhangolás (fine-tuning) a modell továbbtanítása feladatspecifikus adatokon. Az OpenAI pontosságról szóló útmutatója szerint a RAG a feladathoz szükséges, szakterületi kontextust adja meg, és akkor kell, ha a modell tudása elavult, vagy a feladathoz a cég saját információja kell; a finomhangolás pedig akkor segít, ha a modell kimenete következetlen, rossz a formátuma vagy a hangneme. Az útmutató szerint a két módszer kiegészíti egymást, és együtt is használható.

Szempont	RAG	Finomhangolás
Mire való	a cég tudásának átadására a kérdés pillanatában	a modell viselkedésének, formájának, hangnemének egységesítésére
Friss tudás	a dokumentum frissítése után az index frissítésével érvényes	új tanítás kell hozzá
Forrásmegjelölés	a válasz a megtalált részletre mutathat	a modell súlyaiba került tudáshoz nem tartozik forrásjelölés
Jogosultság	dokumentumonként szűrhető	a betanított tudás minden felhasználónál ugyanaz
Dokumentum visszavonása	a dokumentum kikerül az indexből	a hatása csak új tanítással szűnik meg
Mikor érdemes	céges dokumentumoknál szinte mindig ez a kiindulópont	ha a forma vagy a hangnem következetessége a gond, a RAG mellett

Céges dokumentumokra ezért a RAG a természetes kiindulópont. A kérdés, hogy „be kell-e tanítani a modellt”, a legtöbbször valójában azt jelenti: hogyan kapja meg a modell a cég tudását. Erre pedig a RAG a válasz.

Magyarul is? Nyelvi támogatás és vegyes nyelvű anyagok

A válaszoló modell

A nagy szolgáltatók modelljei magyarul is jól értenek és írnak, de a nyelvi teljesítményről közzétett méréseik nem mindig terjednek ki a magyarra. Az Anthropic többnyelvűségi oldala 14 nem angol nyelven közöl mérési eredményt, a magyar nincs köztük (ellenőrizve: 2026. október 17.); az oldal ugyanakkor kiemeli, hogy Claude a táblázatban szereplőkön túl is sok nyelven használható, azt javasolja, hogy az alkalmazás szempontjából fontos nyelveken teszteljenek, és hogy a válasz nyelvét a rendszerutasításban rögzítsék. Saját tapasztalatunk is ez: a főoldalunk Claude-alapú AI-asszisztense magyarul és további 13 nyelven beszélget, de minden új felhasználási módot magyar kérdéseken mérünk le.

A beágyazómodell

A keresés minősége legalább annyira a beágyazómodellen múlik, mint a válaszolón. A nagy szolgáltatóknál (ellenőrizve: 2026. október 17.):

a Google Gemini Embedding 2 modellje a dokumentáció szerint több mint 100 nyelven működik;
az Anthropic nem kínál saját beágyazómodellt, hanem a Voyage AI modelljeit említi, amelyek közül a voyage-4 általános és többnyelvű keresésre optimalizált;
az OpenAI beágyazási útmutatója a text-embedding-3 modelleket mutatja be, a támogatott nyelveket azonban nem sorolja fel.

A beágyazómodellt ezért a cég saját, magyar kérdés–dokumentum párjain választjuk ki, nem a szolgáltató általános mérései alapján.

Magyar sajátosságok

Ragozás: a „szerződés”, a „szerződésben” és a „szerződéseinkről” ugyanarról szól, a szó szerinti kulcsszavas keresés azonban szótövezés nélkül nem tekinti egyezésnek. A jelentés szerinti keresés ezen segít, a hibrid keresés pedig a kettőt ötvözi.
Szakszavak és belső nevek: a cég rövidítései, termékkódjai és belső elnevezései nem szerepelnek a modell általános tudásában; egy rövid szójegyzék sokat javít a keresésen.
Vegyes nyelvű anyag: ha a kérdés magyar, a kézikönyv pedig angol, többnyelvű beágyazómodell kell, és a válasz nyelvét rögzíteni kell; a forrásidézet eredeti nyelvű marad.
Hétköznapi fogalmazás: az elírásokat, az ékezet nélküli kérdéseket és a köznyelvi kifejezéseket is be kell venni a tesztkérdések közé.

Milyen dokumentumokból dolgozhat?

Forrás	Mire figyeljünk
Szöveges PDF	jól feldolgozható; a forrásmegjelölés oldalszámra is mutathat
Szkennelt PDF	előbb szövegfelismerés (OCR) kell: az Anthropic dokumentációja szerint a kinyerhető szöveg nélküli szkennelt PDF-ből nem adható hivatkozás
Word és Excel	az Anthropic a DOCX- és XLSX-fájlok szöveggé alakítását javasolja, az OpenAI fájlkeresője a DOCX-et közvetlenül is fogadja; a táblázatok szerkezetét meg kell őrizni
Wiki és intranet	a hatályos változat számítson, a régi oldalak kerüljenek archívumba
Hibajegyek, helpdesk	sok bennük a személyes adat és az elavult megoldás, ezért szűrni kell
E-mailek	csak kiválasztott, rendezett körben; személyes adat és jogosultság szempontjából a legkényesebb forrás

Jogosultság dokumentumonként

A RAG legkényesebb pontja, hogy a rendszer nem adhat ki olyan részletet, amelyet a kérdező a forrásrendszerben sem nyithatna meg. Ezt nem a modellre bízzuk, hanem a keresésbe építjük:

minden darab magával viszi a forrásdokumentum jogosultsági adatait metaadatként;
a szűrés a keresés előtt vagy közben történik (az OpenAI keresési szolgáltatása például fájlattribútumok szerinti szűrést kínál a jelentés szerinti keresés előtt), így a modell elé el sem jut, amit a kérdező nem láthat;
a jogosultságok változását a forrásrendszerből szinkronizáljuk, nem kézzel tartjuk karban;
naplózzuk, ki mit kérdezett, és mely dokumentumokból kapott választ.

Frissen tartott index

A RAG csak annyira jó, amennyire friss az indexe. Amire figyelünk:

Változásfigyelés: az új és a módosított dokumentumot a rendszer automatikusan feldolgozza.
Törlés: a forrásból törölt dokumentum az indexből is kikerül; az OpenAI dokumentációja szerint az eltávolítás fokozatosan érvényesül, így egy törölt fájl rövid ideig még megjelenhet a találatok között.
Változatok: a hatályos és a visszavont változat megkülönböztetése, dátummal a metaadatokban.
Forrásgazda: minden forrásnak van felelőse, aki szól, ha valami elavult.
Lejárat: az ideiglenes anyagokhoz lejárati szabály; az OpenAI vektortáraihoz például lejárati idő állítható be.

Kevesebb téves válasz: forrás, „nem tudom”, mérés

A nyelvi modell a megadott anyag mellett is tévedhet. Az Anthropic útmutatója a téves válaszok csökkentéséről azt javasolja, hogy a modell kifejezetten engedélyt kapjon a „nem tudom” válaszra, szó szerinti idézetekre alapozzon, minden állításához keressen alátámasztó idézetet (és ha nem talál, vonja vissza az állítást), valamint csak a megadott dokumentumokból dolgozzon. Az útmutató hozzáteszi: ezek a módszerek csökkentik, de nem szüntetik meg teljesen a téves válaszokat, ezért a fontos információt ellenőrizni kell. Mi ezekre építünk:

Forrásmegjelölés: minden válasz mellett látszik, melyik dokumentum melyik részéből származik.
„Nem tudom” és átadás: ha a válasz nincs az anyagban, a rendszer ezt kimondja, és a kérdést munkatársnak adja át.
Csak a megadott anyagból: a modell a cégről nem használja az általános tudását.
Értékelő készlet: valódi kérdések a várt válasszal és a helyes forrással. Külön mérjük, hogy a keresés megtalálta-e a jó részletet, és hogy a válasz hű-e hozzá; az OpenAI értékelési útmutatója szerint a tesztadatban tipikus, szélsőséges és szándékosan félrevezető eseteknek is lenniük kell, és az értékelést minden változtatásnál újra kell futtatni.
Visszajelzés: a felhasználók jelezhetik a rossz választ, és a naplóból új tesztesetek lesznek.

Adatvédelem: hol tárolódnak a dokumentumok?

Egy RAG-rendszerben a cég anyaga három helyen fordul meg:

A forrásrendszer: a dokumentumok ott maradnak, ahol eddig: a dokumentumtárban, a wikiben, a levelezőben.
Az index: a darabok és a vektorok egy keresőadatbázisban. Ez futhat a cég saját környezetében vagy egy szolgáltatónál; az OpenAI fájlkeresőjénél például az adatkezelési dokumentáció és a keresési útmutató szerint a feltöltött fájlok addig maradnak tárolva, amíg nem törlik őket, vagy le nem jár a vektortár.
A modellhívás: a modellhez csak a kérdéshez kiválasztott darabok jutnak el. Ilyenkor a szolgáltató adatkezelési feltételei érvényesek. Hogy mit mondanak ezek a tanításról, a tárolás idejéről és a feldolgozás helyéről, azt a céges rendszerek AI-jal való összekötéséről szóló cikk foglalja össze.

Ha a dokumentumokban személyes adat is van, az adatkezelésre a GDPR vonatkozik, és az adatfeldolgozó szolgáltatóval az általános adatvédelmi rendelet 28. cikke szerinti szerződés kell. A jogi kérdésekről, így az átláthatóságról, az adattovábbításról és a hatásvizsgálatról, az AI Act és GDPR egy céges chatbotnál cikkben írunk. Ez tájékoztatás, nem jogi tanács.

Egy RAG-projekt lépései

Cél és kérdéskör: kik kérdeznek, miről, és mi számít jó válasznak.
A források leltára és rendbetétele: a duplikátumok, az ellentmondó és az elavult változatok kiszűrése.
Jogosultsági modell: ki melyik dokumentumból kaphat választ.
Értékelő készlet: valódi, magyar kérdések a várt válasszal és forrással.
Prototípus: a darabolás, a beágyazómodell és a keresés hangolása mérés alapján.
Bekötés: a felület, a forrásmegjelölés, az átadás munkatársnak és a naplózás.
Kísérleti élesítés: szűk felhasználói körben, a visszajelzések gyűjtésével.
Üzemeltetés: az index frissítése, folyamatos mérés és a modellváltások lemérése.

Tipikus hibák

A dokumentumtár „ahogy van”: ha ugyanannak a szabályzatnak három változata él, a rendszer bármelyikből idézhet.
Jogosultság utólag: az első bemutatón minden látszik, élesben ez adatvédelmi incidens lehet.
Válasz forrás nélkül: a felhasználó nem tudja ellenőrizni, és nem is bízik meg benne.
Tesztelés kitalált kérdésekkel: a bemutató kérdései szépen működnek, a valódi, magyar, elírásos kérdések nem.
Egyszeri betöltés: a tudástár hamar elavul, ha nincs frissítés.
Szkennelt PDF-ek szövegfelismerés nélkül: a rendszer egyszerűen nem látja a tartalmukat.

Gyakori kérdések

Mi az a RAG?

A RAG (retrieval-augmented generation, keresővel kiegészített szöveggenerálás) olyan megoldás, amelyben a rendszer a kérdéshez előbb megkeresi a releváns részleteket a cég dokumentumaiban, és a nyelvi modell ezekből, a forrás megjelölésével válaszol. A kifejezés egy 2020-as kutatási tanulmányból ered.

Válaszol magyarul a saját dokumentumainkból?

Igen. A mai nagy nyelvi modellek magyarul is jól értenek és írnak, és magyar dokumentumokból is dolgoznak; a főoldalunk AI-asszisztense is magyarul beszélget. Mivel a szolgáltatók közzétett mérései nem mindig terjednek ki a magyarra, a válaszoló és a beágyazómodellt is a cég saját magyar kérdésein mérjük le élesítés előtt.

Be kell tanítani a modellt a saját adatainkra?

Általában nem. A RAG a kérdés pillanatában adja oda a modellnek a szükséges részleteket, így a tudás frissíthető, a forrás megjelölhető, és a jogosultság dokumentumonként szűrhető. Finomhangolás akkor jöhet szóba, ha a válaszok formája vagy hangneme nem elég következetes, de akkor is a RAG mellett, nem helyette.

Mi történik, ha nem tudja a választ?

Úgy építjük, hogy ezt kimondja, és a kérdést átadja egy munkatársnak, ahelyett hogy kitalálna valamit. A modell kifejezett engedélyt kap a „nem tudom” válaszra, csak a megadott anyagból dolgozhat, és a megválaszolatlan kérdések a naplóból visszakerülnek a tudásanyag bővítéséhez.

Hol tárolódnak a dokumentumaink?

A forrásrendszerben, ahol eddig; mellettük a keresőindexben, amely futhat a cég saját környezetében vagy egy szolgáltatónál; és a modellhez kérdésenként csak a kiválasztott részletek jutnak el, a szolgáltató adatkezelési feltételei szerint. Hogy melyik megoldás illik egy céghez, az a dokumentumok érzékenységétől és az adatvédelmi elvárásoktól függ.

Hogyan segítünk?

A Mesterséges Intelligencia Központ Kft. a cég saját dokumentumaiból magyarul is válaszoló AI-chatbotot fejleszt, RAG-módszerrel, forrásmegjelöléssel, az OpenAI (ChatGPT), az Anthropic (Claude) és a Google (Gemini) nyelvi modelljeire építve. Az első egyeztetés díjmentes; a fejlesztés méretét COSMIC funkciópontban mérjük, és ebből készül az ajánlat és az ütemezés. Kérésre titoktartási szerződést (NDA) kötünk, átadás után pedig a tudásanyag frissítését és a működés figyelését is vállaljuk. A forráskódról és a felhasználási jogokról a szerződés rendelkezik.

A részletek az AI-chatbot és AI-ügynök és az AI-integráció oldalon olvashatók; hogy chatbot vagy ügynök kell-e, abban a Chatbot vagy AI-ügynök? cikk segít. Ha a cég dokumentumaiból válaszoló rendszert tervez, írjon nekünk a Kapcsolat oldalon megadott elérhetőségeken.