AI

Büyük dil modelleri (LLM) ve yapay zeka uygulamaları, klasik yazılımdan farklı bir saldırı yüzeyi getirir: doğal dil bir “kod” gibi davranabilir, model çıktısı güvenilmez veridir ve eğitim/bağlam verisi sızabilir. Bu bölüm OWASP Top 10 for LLM Applications temel alınarak Türkçe olarak hazırlanmıştır.

Saldırı yüzeyi haritası

Kullanıcı / API ──► uygulama katmanı ──► sistem prompt + araçlar + RAG
                         │
                         ▼
              LLM çıkarımı (inference)
                         │
         ┌───────────────┼───────────────┐
         ▼               ▼               ▼
   HTML/DB/shell    e-posta/HTTP     maliyet/kota
   (çıktı sink'leri)  (ajan eylemleri) (DoS / DoW)

Klasik web/app pentestinden farklar:

• Girdi = talimat. Metin, belge, görsel veya araç çıktısı model için hem veri hem komuttur; “sanitize edilmiş string” yeterli değildir.
• Çıktı = taint kaynağı. Model yanıtı XSS/SQLi/CMDi/SSRF sink’lerine gidebilir.
• Güven sınırı bulanık. Sistem prompt, araç şeması ve RAG belgesi aynı bağlam penceresinde karışır.
• Maliyet de etki alanıdır. Token/araç çağrısı tüketimi doğrudan para ve erişilebilirlik riskidir (denial of wallet).

Tipik uygulama mimarileri (hedef seçimi)

Mimari	Öncelikli test
Basit chatbot (UI → API → LLM)	Doğrudan injection, prompt leak, XSS çıktı
RAG asistan	Dolaylı poison, embedding IDOR, yetkisiz doc
Tool-using agent	Excessive agency, tool coercion, SSRF
Multimodal	Görsel/OCR stego, pahalı vision DoS
Fine-tune / özel model	Ezber sızıntısı, backdoor tetik, pickle yükleme

OWASP Top 10 for LLM (2025) — özet

ID	Risk	Bu bölümde
LLM01	Prompt Injection	Prompt Injection, Jailbreak
LLM02	Sensitive Information Disclosure	Veri sızıntısı
LLM03	Supply Chain	Supply chain
LLM04	Data and Model Poisoning	Supply chain
LLM05	Improper Output Handling	Güvensiz çıktı
LLM06	Excessive Agency	Excessive agency
LLM07	System Prompt Leakage	Veri sızıntısı
LLM08	Vector and Embedding Weaknesses	özet + supply/RAG notları
LLM09	Misinformation	OWASP özet
LLM10	Unbounded Consumption	Model DoS

Pratik red-team sırası

1. Yüzey envanteri — sohbet API’si, sistem prompt varlığı, araç/tool listesi, RAG kaynakları, dosya/URL okuma, çok modlu giriş.

2. Doğrudan injection — talimat sınırını kır; sistem prompt / araç şeması sızdır.

3. Dolaylı injection — modelin okuduğu belge/URL/e-postaya talimat göm.

4. Çıktı sink zinciri — üretilen HTML/SQL/URL/komutu alt sisteme taşı.

5. Ajan/tool abuse — yetkili araçlarla veri sızdırma veya yıkıcı eylem.

6. Tüketim — token flood, uzun zincir, pahalı özelliklerle maliyet/DoS.

Kanıt standardı: canary string, araç çağrı log’u, klasik sink PoC (alert/sleep/DNS) veya ölçülmüş token/maliyet artışı. “Model garip cevap verdi” tek başına bulgu değildir.

Bölümler

• OWASP Top 10 for LLM
• Prompt Injection
• Jailbreak Teknikleri
• Hassas Veri & Sistem Prompt Sızıntısı
• Güvensiz Çıktı İşleme (Insecure Output Handling)
• Excessive Agency & Tool Suistimali
• Model DoS & Unbounded Consumption
• Supply Chain & Data Poisoning

Tüm konu başlıkları

• Ai Assisted Fuzzing And Vulnerability Discovery
• Burp MCP: LLM-assisted traffic review
• AI Security Methodology
• 0. Basic LLM Concepts
• 1. Tokenizing
• 2. Data Sampling
• 3. Token Embeddings
• 4. Attention Mechanisms
• 5. LLM Architecture
• 6. Pre-training & Loading models
• 7.0. LoRA Improvements in fine-tuning
• 7.1. Fine-Tuning for Classification
• 7.2. Fine-Tuning to follow instructions
• LLM Training
• AI MCP Security
• AI Model Data Preparation
• AI Models RCE
• AI Prompts
• AI Reinforcement Learning Algorithms
• AI Risk Frameworks
• AI Supervised Learning Algorithms
• AI Unsupervised Learning Algorithms
• AI Security
• KYC Bypass Using AI
• Web Black-Box AI Pentester Bots