Red Teaming (Kırmızı Takım)
İngilizce: AI Red Teaming
Bir LLM sistemine, gerçek saldırgan gibi düşünerek planlı ve dokümante saldırı denemeleri yapma süreci.
OpenAI, Anthropic ve Google'ın model lansmanlarından önce yaptığı şeydir. Bir bench'in (örn. TurkPI) otomatik denemesi tek başına red teaming değildir; insan yaratıcılığı, çoklu-tur, sosyal mühendislik ve sistem entegrasyonu içerir. AltayEdu lab'ları kişisel red teaming antrenmanıdır.