Araştırma

Teknik merakı güvenli yayın disipliniyle birleştirin.

Bu alan; gerçek hedef veya özel bulgu yayınlamak için değil, güvenlik test kalitesini, AI sistemi sınırlarını ve sorumlu otomasyon tasarımını kamu metodolojileriyle tartışmak için tasarlandı.

Araştırma eksenleri

Üç soru, tek bir belirsiz “AI güvenliği” etiketi değil.

Teknik kabiliyet ile kamuya açık hizmet kanıtı ayrı tutulur. Her araştırma notu, desteklediği ve desteklemediği iddiayı açıkça belirtmelidir.

01 / Kanıt kalitesi

Bir sinyali karar verilebilir riske ne dönüştürür?

Yeniden üretilebilirlik, karşı-test, alternatif açıklama, iş etkisi ve bilinen sınırlar.

Yanlış pozitif azaltma prensipleri
Temsili kanıt ve redaksiyon
Giderim ve yeniden test kapanışı

02 / AI sistemi güvenliği

Modelin çevresindeki sistem hangi yeni güven sınırlarını açar?

Prompt, RAG, bellek, araç, MCP, ajan kimliği ve insan onayının birlikte değerlendirilmesi.

Çok adımlı ve stateful senaryolar
Araç ve veri yetkisi
Trace ve iş etkisi ilişkisi

03 / Güvenli otomasyon

Hangi karar otomasyona, hangisi insana ait olmalı?

Kapsam, etki, durma koşulu, kanıt kabulü ve teslimat sorumluluğunun sistem tasarımına işlenmesi.

Fail-closed kapılar
İzin ve görev yaşam döngüsü
Ölçülebilir operasyon sınırı

Araştırma notu / 29 Temmuz 2026

AI ile test yapmak ile AI sistemini test etmek farklı işlerdir.

Güncel OWASP değerlendirme yaklaşımı da geleneksel web/ağ testinde AI kullanımını, hedef AI sisteminin red team edilmesinden ayırır.

A / Test yürütücüsü

AI destekli güvenlik testi

AI veya ajanlar, geleneksel web/API/kod güvenlik testinde araştırma ve doğrulama işine yardımcı olur.

Hedef: Geleneksel uygulama veya kod
Ana risk: Yanlış karar, kapsam aşımı, gürültü
İnsan kapısı: Yetki, etki, kanıt ve teslimat

B / Test hedefi

AI / ajan sistemi red teaming

Hedef; model, prompt, RAG, bellek, araç, MCP ve insan onayından oluşan AI uygulamasıdır.

Hedef: AI destekli ürün ve ajan akışı
Ana risk: Veri, amaç, araç ve yetki sınırı
İnsan kapısı: Senaryo, iş etkisi ve güvenli durdurma

Kaynak: OWASP AI Red Teaming Vendor Evaluation Criteria v1.0

Terim disiplini

“Sürekli” kelimesi tek bir operasyon modeli anlatmaz.

Pazar dili; yüzey izlemeden zamanlanmış taramaya, tekrarlı PTaaS döngüsünden giderim yeniden testine kadar farklı davranışları aynı kelime altında toplayabiliyor.

Yüzey izleme

Varlık ve değişiklik sinyallerini gözleme.

Aktif doğrulama değildir

Zamanlanmış kontrol

Tanımlı aralıklarla seçili teknik kontroller.

Operasyon kanıtı ister

Periyodik doğrulama

Kapsamı yenilenen, uzman gözetimli değerlendirme penceresi.

OYI için planlanan

Yeniden test

Belirli bir giderimin aynı ölçütle tekrar sınanması.

Pilot kapsam adayı

OYI; scheduler, izleme, uyarı, destek ve güvenilirlik kanıtı oluşmadan kesintisiz operasyon iddiası kullanmaz.

Yayın güvenliği

Ne yayımlanabilir, ne yayımlanmaz?

Araştırma alanı, özel güvenlik verisini kamusal içerik bahanesiyle açığa çıkarmaz.

Yayınlanabilir

Genel metodoloji ve kalite prensipleri
Sentetik, sıfırdan üretilmiş örnekler
Kamu standartlarının kaynaklı yorumu
Güvenli otomasyon ve insan onayı tasarımı
Anonim ve kötüye kullanım riski taşımayan dersler

Yayınlanmaz

Gerçek hedef, kurum veya hesap bilgisi
Özel rapor, başvuru veya platform mesajı
Ham trafik, oturum, token veya ekran kaydı
İstismara hazır açıklanmamış bulgu ayrıntısı
Yayın izni olmayan başarı veya müşteri iddiası

Resmî kaynak defteri

Yayın öncesi yeniden doğrulanacak başlangıç kaynakları.

Sürüm, tarih ve kapsam değişebileceği için her kaynak site yayınından önce resmî sayfasından tekrar kontrol edilmelidir.

OWASP Web Security Testing Guide

Web güvenlik test senaryoları ve ortak test dili

NIST SP 800-115

Teknik testin planlanması, yürütülmesi ve bulgu analizi

OWASP Top 10 for Agentic Applications 2026

Ajan, araç, bellek, kimlik ve amaç sınırları için risk taksonomisi

NIST AI 100-2 E2025

Adversarial machine learning saldırı ve azaltım taksonomisi

MITRE ATLAS

AI sistemlerine yönelik adversarial taktik ve teknik bilgi tabanı

OWASP AI Red Teaming Vendor Evaluation Criteria v1.0

Çok adımlı test, araç/RAG/ajan kapsamı, insan doğrulaması ve yeniden üretilebilir iz için değerlendirme çerçevesi.

OWASP Secure MCP Server Development

MCP sunucularında kimlik, yetki, girdi/çıktı ve araç tasarımı için güncel uygulama rehberi.

NIST AI Risk Management Framework

Gönüllü AI risk yönetimi çerçevesi; resmî sayfaya göre revizyon sürecinde.

MITRE ATLAS Data

ATLAS içerik sürümlerinin ve makinece işlenebilir veri kaynağının resmî deposu.

Araştırma düzeyindeki bir kapsamı birlikte değerlendirin.

İlk görüşme, uygun test sorusunu ve güvenli laboratuvar sınırını tanımlamak içindir.

Araştırma ön görüşmesi