EKİPLERE ÖZEL

AI Red Teaming Masterclass

Genel Katılım · Kurumsal · 36+ saat

Yapay zeka sistemlerine saldırı ve savunma perspektifinden yaklaşın. Adversarial attack'lardan LLM red teaming'e, RAG exploitation'dan multi-agent saldırılarına kadar uçtan uca uygulamalı bir program.

Başvuru Yap Müfredatı İncele

300.000+

Öğrenci

7.000+

Saat Üretilmiş İçerik

250+

Etkinlik, Seminer ve Konferans

10+

Udemy Best Seller Eğitim

250+

Kurumsal Eğitim / Proje / Danışmanlık

20+

Yıl Sektör Tecrübesi

16+

Yıl Eğitmenlik Tecrübesi

Neden Şimdi

Neden şimdi yapay zeka öğrenmelisiniz?

AI artık rekabet avantajı değil, temel beceri

Bilgi çalışanlarının büyük çoğunluğu işlerinde yapay zeka araçlarını kullanmaya başladı. Kullanmayanlar geride kalıyor.

İş süreçleri hızla otomatikleşiyor

Mevcut iş görevlerinin önemli bir bölümü önümüzdeki yıllarda agentic AI sistemleriyle kısmen veya tamamen otomatize edilecek.

Yeni kariyer fırsatları ortaya çıkıyor

AI mühendisliği ve agent geliştirme rolleri en hızlı büyüyen pozisyonlar arasında. Talep, yetkin uzman arzının çok üzerinde.

Kimler İçin

Bu program kimler için?

Güvenlik Mühendisleri

Yapay zeka sistemlerine yönelik saldırı yüzeylerini anlamak ve red team/blue team pratikleri geliştirmek isteyenler.

AI/ML Mühendisleri

Geliştirdikleri modelleri ve sistemleri üretime almadan önce güvenlik açısından değerlendirmek isteyenler.

Kurumsal Ekipler

Yapay zeka güvenliği farkındalığını ve pratik yetkinliğini organizasyon genelinde yaygınlaştırmak isteyen şirketler ve kamu kurumları.

Bu program kimler için uygun değil?

Hazır şablonlarla tek tıkla zengin olmayı vadeden bir kestirme arayanlar.
Uygulamalı proje yapmadan sadece teori dinlemek isteyenler.
Temel bilgisayar kullanımına ve öğrenmeye zaman ayıramayacak olanlar.

Kazanımlar

Eğitim sonunda neler yapabileceksiniz?

Yapay zeka saldırı yüzeylerini anlamak

Geliştirilmiş ML, DL modelleri, LLM ve Agentic AI uygulamalarının saldırı yüzeylerini (attack surfaces) anlayabileceksiniz.

AI Red Teaming alanında uzmanlaşmak

Bir ML, DL, LLM ya da Agentic AI modelinin güvenlik zafiyetlerini gerçek bir hacker gibi pentest edebilir, bu zafiyetleri exploit edebilirsiniz.

Yapay Zeka Altyapı Güvenliği

Yapay zekaların bazı kritik zafiyetleri o yapay zeka sisteminin altyapısından (AI Infrastructure) kaynaklanır. Bu zafiyetleri anlamak, güvenliğini sağlayabilmek ya da exploit edebilmek için gereken teorik ve uygulamalı bilgilere sahip olacaksınız.

Yapay Zekanın güvenliğini sağlamak

Yapay zeka sistemlerini hacklemek bir hacker bakış açısı gerektirir, o altyapıların güvenliğini sağlamak ise bir siber güvenlik uzmanı bakış açısı... Bu eğitimde sadece saldırmayı değil, o zafiyetleri nasıl daha güvenli hale getirebileceğinizi öğrenirsiniz. Hem teorik hem de uygulamalı...

RAG, Vector DB güvenliği

Yapay zeka güvenliğinde her şey yapay zeka modeli ya da altyapısından ibaret değildir. Altyapıda yazılımın çalışması için uyguladığımız veri mimarisi, veritabanı yapısı ve teknolojileri, vector DB tasarımı, RAG mimarisi de ciddi şekilde güvenlik sorunlarına neden olabilmektedir. Bu başlıkları da bir siber saldırgan ve savunmacı olarak öğreneceksiniz.

Entegrasyon Güvenliği

Her şey model, altyapı ve veritabanın güvenliğinden ibaret değildir. İster bir ML, DL modeli geliştirin, isterseniz de LLM yada Agentic AI, geliştirdiğiniz yapay zekalar farklı API, sistem ya da yapay zekalarla birlikte çalışmak zorunda... Bu entegrasyonlar için geliştirilen protokollerden bazıları: MCP, ACP, A2A ve AP2'dur. Bu eğitimde tüm AI protokollerinin güvenliğini saldırgan ve savunmacı gözünden inceliyoruz.

Müfredat

Program İçeriği

What is AI Red Teaming?
AI Security vs. Security AI
AI Red Teaming vs. LLM Red Teaming vs. Agentic AI Red Teaming

Machine Learning & Deep Learning Foundations
Machine Learning Model Training
Simple Model Querying & Inference
Model Sensitivity: Model Sensitivity Analysis
FGSM Attack Analysis
Exercise: MNIST Classifier
Exercise: Model Queries
Exercise: Text Generator
Machine Learning Model Deployment

Adversarial AI Overview
What is Adversarial AI and Adversarial Attacks?
Physical Adversarial Attacks
Membership Inference
Shadow Models
Vulnerability Reporting
AI Hacker Mode: Membership Inference Investigation
AI Hacker Mode: Attack Decision Tree
AI Hacker Mode: Shadow Model
AI Hacker Mode: AI security research paper — read, extract, implement!

Evasion & Inference Attacks
WhiteBox Evasion Attacks
- FGSM Attack
- PDG Attack
- C&W Attack
BlackBox Evasion Attacks
- Understand BlackBox Threat Models
- Implement SimBA — Score-Based Attack
- Execute HopSkipJump — Decision-Based Attack
ART Evasion Attacks (ART library)
Cleverhans Evasion Attacks (CleverHans library)
Foolbox Evasion Attacks (Foolbox library)
Attack Comparison
Vulnerability Report

Model & Data Poisoning Overview
- Data Poisoning
- Poisoning Detection
LLM Poisoning
Backdoor Attack & Backdoor Triggers
Defense Testing
Defense Effectiveness

Adversarial NLP
Certified Defenses against Adversarial Examples
LLM Architecture
Prompt Injection
- Prompt Injection Chain
- Direct Injection
- Filter Bypass
- Guardrail Bypass
- Multilayer Bypass
Custom Garak Probe

Purple Team
Multi Vector
Model Comparison
Research Deepdive

Defense Implementation
Atlas Mapping
Security Evaluation
AI Pentest Report

Demonstrate complete AI Security workflow: Planning, Reconnaissance, Attack, Defense, Evaluation, and Reporting.

Build and systematically compromise a Retrieval-Augmented Generation (RAG) application. Poison its knowledge base, hijack retrieval, and exfiltrate sensitive data through the LLM. This lab demonstrates why RAG systems require end-to-end security.

Attack a multi-agent customer service system where three AI agents collaborate via shared memory to handle customer requests. The agents (Customer Service, Billing, and Technical Support) trust each other implicitly and share a Redis-backed memory store with no access controls.
Objective: exploit trust relationships between agents, manipulate shared memory, trigger unauthorized actions, and propagate attacks across the entire agent network.
This section contains 7 vulnerabilities.

Supply Chain Attack Overview
Serialization Attack: Pickle Exploit
ML Model Registry

Model Extraction Overview
LLM Extraction: LLM Training Data Extraction
Membership Inference Attack
Model Extraction Attack (Model Stealing)
Target API: Model Extraction & Inference Attacks

This lab deploys three industry-standard red teaming tools (garak, PyRIT, promptfoo) against a deliberately vulnerable chatbot target. Learn to run systematic vulnerability scans, compare tool strengths, and integrate automated red teaming into CI/CD pipelines.

Conduct a full red team assessment against an AI-powered enterprise platform, consisting of four interconnected services backed by shared infrastructure.
This section contains 6 vulnerabilities.

Bu eğitim Demo ve 'OWASP LLM Top 10' listesindeki konular için birçok uygulama örneği içerir.

Programa Başvur

Eğitmen

20+ yıllık sahadan gelen bir uzmanla öğrenin

Cihan Özhan; Safebox, AISecLab ve Runbit'in kurucusu. Offensive AI Security alanında araştırmacı ve geliştirici olarak çalışıyor; kamu kurumlarından üniversitelere ve global teknoloji şirketlerine kadar yüzlerce kuruma eğitim verdi. Bu programda 16+ yıllık eğitmenlik tecrübesini doğrudan agentic AI'a taşıyor.

Kuruculuk

Safebox, AISecLab ve Runbit kurucusu

Uzmanlık

Offensive AI Security, Araştırmacı & Geliştirici

Eğitmenlik

16+ yıl programlama, güvenlik ve yapay zeka eğitimleri

Konum

İstanbul · New York