AI Risk Frameworks

ai offensive

AI Risk Frameworks LLM/AI saldırı notudur. Prompt, tool/MCP ve güvensiz çıktı işleme yüzeyine odaklan.

Metodoloji

1. Sistem prompt, tool şeması ve RAG sınırlarını haritala.

2. Prompt injection / jailbreak ile politika dışına çık.

3. Tool/MCP çağrılarını suistimal ederek veri veya RCE üret.

4. Çıktı sink’lerinde (HTML/shell/URL) taint etkisini kanıtla.

Yüzey haritası

system prompt · tools/MCP · RAG · bellek · çıktı sink

curl -s http://LLM/v1/models | jq

curl -s http://MCP/v1/tools | jq

ML pipeline

veri sızıntısı, model steal via API, reward hacking

curl -s https://API/v1/completions -H "Authorization: Bearer KEY" -d '{"prompt":"..."}'

Kanıt

system prompt sızıntısı, tool sonucu, iç URL/secret, sink PoC

mkdir -p evidence/ai && tee evidence/ai/notes.txt

Checklist

[ ] fingerprint / profil alındı
[ ] primitif veya erişim doğrulandı
[ ] PoC etkiyi gösterdi
[ ] kanıt paketlendi
[ ] sonraki pivot not edildi