RAG Anatomisi: 5 Adımlı Pipeline

Günümüzde modern kurumsal LLM uygulamalarının %90'ından fazlası tek bir temel mimari üzerinde inşa ediliyor: RAG (Retrieval-Augmented Generation - Geri Getirmeyle Zenginleştirilmiş Üretim).

ChatGPT'nin sadece kendi kapalı eğitim verisiyle "kendi başına" konuştuğu klasik LLM mimarisinden farklı olarak RAG, modelin hafızasını kurumun kendi iç belgeleriyle genişletmesine olanak tanır. Bir müşteri destek botu firmanın SSS (FAQ) sayfalarını okur; bir hukuk asistanı 50.000 sayfalık sözleşme arşivini saniyeler içinde tarar; bir şirket içi asistan Confluence sayfalarından bağlam çeker.

Bu eğitim yolculuğunda RAG'ın hem iş zekası için bir mucize hem de devasa bir saldırı yüzeyi olduğunu göreceksiniz. Bu ilk oda, işin güvenlik boyutuna geçmeden önce mimari iskeleti netleştirmek için tasarlandı.

RAG'ın 5 Adımı

Beş adımı teknik detaylarıyla inceleyelim:

1. EMBED (Vektöre Çevirme)

Belge kaynaklarınız (Confluence, SharePoint, PDF arşivi, Slack kanalları vb.) metin parçalarına ayrılır ve bir "embedding" modelinden geçirilir. Her bir metin parçası (chunk), matematiksel olarak yüksek boyutlu bir vektöre dönüştürülür.

Sektörde sık kullanılan embedding modelleri:

• OpenAI text-embedding-3-small/large: Kapalı kaynak, yüksek kaliteli ancak API maliyeti yaratır.
• BAAI/bge-large-en-v1.5: Açık kaynak, ücretsiz ve kurumsal self-host kurulumlarında çok popülerdir.
• all-MiniLM-L6-v2: Boyutu küçük ve hızlıdır, ancak performansı eski nesil kalır.
• Cohere embed-v3: Çok dilli (multi-lingual) yapısı güçlü, orta yol bir çözümdür.

2. STORE (Saklama)

Oluşturulan vektörler ve bu vektörlere karşılık gelen orijinal metin parçaları bir vektör veritabanında (Vector DB) saklanır.

Sektördeki başlıca seçenekler:

3. RETRIEVE (Geri Getirme / Çekme)

Kullanıcı sisteme bir soru sorduğunda olaylar zinciri şöyle başlar:

1. Kullanıcının sorusu aynı embedding modelinden geçirilerek bir soru vektörü elde edilir.
2. Vektör veritabanı, bu soru vektörüne matematiksel olarak en yakın K adet belgeyi (Top-K) bulup döndürür.
3. Tipik K değeri mimariye göre 3 ile 10 arasında değişir.

4. AUGMENT (Bağlam ile Zenginleştirme)

Veritabanından çekilen (retrieve edilen) bu belgeler, LLM'in prompt'una (istem) dinamik olarak eklenir.

Tipik bir RAG prompt şablonu şu şekildedir:

System: Sen kurumsal bir asistansın. Sadece aşağıdaki belgelerden faydalanarak
kullanıcının sorusunu cevapla. Aradığın bilgi belgelerde yoksa, kendi 
bilgini kullanma ve "bilmiyorum" de.

[BELGELER]
Belge 1: [Vektör DB'den çekilen parça 1]
Belge 2: [Vektör DB'den çekilen parça 2]
...

[SORU]
Kullanıcının sorusu: {kullanici_sorusu}

5. GENERATE (Üretim)

Son aşamada LLM, kurum içi belgelerle zenginleştirilmiş ve sınırları çizilmiş bu prompt'u işler, analiz eder ve kullanıcıya nihai cevabı üretir.

Güven Sınırları (Trust Boundaries)

Bir RAG mimarisindeki en kritik güven sınırı, Vektör Veritabanı ile LLM Context'i (Bağlamı) arasındaki geçiş noktasıdır. Bunun temel nedenleri şunlardır:

1. Vektör DB içeriği dinamiktir: Sürekli yeni belgeler eklenir, eskileri güncellenir veya silinir.
2. Belge kaynakları genellikle güvenilmezdir (untrusted): Confluence sayfaları ortaklaşa düzenlenir, SharePoint'e dışarıdan dosyalar yüklenebilir veya dışarıdan gelen (müşteri/üçüncü parti) PDF'ler sisteme beslenir.
3. Retrieval süreci otomatiktir: Model, veritabanından gelen belgeyi "matematiksel olarak alakalı" bulduğu için varsayılan olarak "iyi niyetli ve güvenilir" kabul eder.

İşte tam da bu yüzden RAG Poisoning (RAG Zehirlenmesi), Dolaylı Prompt Enjeksiyonu (Indirect Prompt Injection) ailesinin en popüler ve savunulması en zor saldırı türüdür. Bu tehdidi Yapay Zeka Temelleri ve Prompt Güvenliği eğitimlerinde yüzeyel olarak işlemiştik; bu modülde (Modül 2.1 ve 2.2) işin derin teknik detaylarına iniyoruz.

Pratik Mimari Kararlar ve Güvenlik Etkileri

Sahada RAG sistemi kurarken alınan temel mimari kararların güvenlik üzerindeki doğrudan etkileri:

OWASP Top 10 Eşleşmesi

Bu odada anlatılan kavramların OWASP for LLM standartlarındaki doğrudan karşılıkları:

Bölüm Özeti

• RAG (Retrieval-Augmented Generation): LLM'in genel ve kapalı dünyasını, kurumun dinamik ve özel belgeleriyle genişleten en popüler mimaridir.
• 5 Çekirdek Adım: Embed (Çevir) → Store (Sakla) → Retrieve (Getir) → Augment (Zenginleştir) → Generate (Üret).
• Vektör Veritabanları: Sektörde Pinecone, Qdrant, Chroma, pgvector ve Weaviate baskın araçlardır.
• Kritik Güvenlik Zafiyeti: RAG mimarisindeki en zayıf halka ve RAG Poisoning saldırılarının başlangıç noktası Vektör DB → LLM context geçişidir.
• OWASP Uyumluluğu: RAG sistemleri ağırlıklı olarak LLM01, LLM03, LLM06 ve LLM10 zafiyet eksenlerinde incelenmelidir.

Sıradaki Oda: RAG'ın görünmeyen arka planındaki matematiksel hesap mekanizmalarına — Embedding ve Vektör Uzayı Güvenliği'ne — geçiyoruz.