Türkçe LLM Security Sözlüğü

Modele/agent'a gereksiz yetki verilmesi. OWASP LLM08.

Saldırgan talimatın kullanıcı yerine bir belge, web sayfası, e-posta veya görselden modele ulaşması.

Modelin sınırlamalarını rol-değiş, hipotez, çok-adımlı manipülasyonla aşma denemesi.

Belirli bir verinin modelin eğitim setinde olup olmadığını çıkarsama saldırısı.

Kapalı modelin sorgular aracılığıyla davranışının kopyalanması. OWASP LLM10.

Kullanıcının modelin çıktısını sorgulamadan kabul etmesi. OWASP LLM09.

Saldırganın kullanıcı promptlarıyla sistem promptunu kelime kelime çıkarması.

Kullanıcı girdisinde gizli bir talimatla, modelin asıl talimatını ezme saldırısı. OWASP LLM01.

Vektör veritabanına saldırganın zehirli bir doküman sokarak modeli istediği talimatla beslemesi.

Modelin/kütüphanenin/embedding'in/dataset'in geçtiği tedarik zincirinde bir aşamayı bozma. OWASP LLM05.

Modelin eğitim verisine kasıtlı kötü örnekler eklenmesi. OWASP LLM03.

Sızdırılan embedding vektörlerinden orijinal metni geri elde etme saldırısı.

Eğitim verisine matematiksel olarak ölçülebilir miktarda gürültü ekleyerek bireysel kayıtların etkisini azaltma.

LLM giriş/çıkışını filtreleyen kural ve kontrol katmanı.

Bir LLM'in çıktısını başka bir LLM'in (genelde daha küçük/hızlı) güvenlik kurallarına göre değerlendirmesi.

Modelin döndürdüğü cevabın schema, format ve içerik açısından doğrulanması.

Bir AI sistemine, raporlama yetkisi alınmış kontrollü saldırı testi.

Belirli zaman aralığında yapılan istek sayısını sınırlama.

Bir LLM sistemine, gerçek saldırgan gibi düşünerek planlı ve dokümante saldırı denemeleri yapma süreci.

LLM'in döndürdüğü kod veya komutun izole bir ortamda çalıştırılması.

Kullanıcı girdisinden veya model çıktısından zararlı içeriği temizleme.

LLM çıktısına insan gözünün fark etmediği istatistiksel bir imza yerleştirme.

LLM'i çekirdek karar verici olarak kullanan, araç (tool) çağırabilen, çok-adımlı görev yapan sistem.

Anthropic'in açıkladığı, LLM'lerin standart bir protokolle dış araç ve veri kaynaklarına bağlanmasını sağlayan spec.

Modele cevap üretmeden önce vektör DB'den ilgili bilgileri çekip bağlama ekleme deseni.

LLM'in yapılandırılmış araç çağrıları yaparak dış sistemlerle etkileşmesi.

Yüksek boyutlu embedding vektörlerini benzerlik aramasıyla saklayan veritabanı.

Modelin tek seferde "görebildiği" toplam token sayısı.

Bir metni, anlamını koruyan yüksek boyutlu (örn. 1536) bir sayı vektörüne dönüştürme.

Modelin gerçekte var olmayan bilgileri özgüvenle uydurması.

Devasa metin korpuslarıyla eğitilmiş, doğal dilde tahmin yapan üretici yapay zeka modeli.

Modele verilen girdi metni; modelin davranışının %90'ını belirleyen tek değişkendir.

LLM'leri "yararlı, dürüst, zararsız" olacak şekilde insan tercihlerine göre fine-tune etme yöntemi.

Geliştiricinin modele verdiği, kullanıcıya gizli kalması beklenen talimat seti.

Modelin çıktısının ne kadar rastgele üretileceğini kontrol eden 0-2 arası parametre.

LLM'in metni böldüğü en küçük birim. Harf değil, "anlam parçası".

Modern LLM'lerin temel sinir ağı mimarisi; "attention is all you need" makalesinden gelir.

Avrupa Birliği'nin yapay zeka uygulamalarını risk seviyesine göre düzenleyen yasası (2024).

Verinin coğrafi/yargı olarak nerede tutulduğu/işlendiği — KVKK ve regülatif uyum için kritik.

6698 sayılı Kişisel Verilerin Korunması Kanunu — Türkiye'nin GDPR muadili.

AI sistemlerine karşı saldırı taktik ve tekniklerini sınıflandıran MITRE ATT&CK türevi çerçeve.

NIST'in AI sistemleri için yayımladığı risk yönetimi çerçevesi (AI 100-1).

LLM uygulamalarının en kritik 10 güvenlik riskini sıralayan, OWASP'ın 2023'te başlattığı liste.