AI050: KI Security Specialist UPDATE

Agenda:

• Grundlagen & Rahmenbedingungen
  
  • KI & ML Grundlagen
  • AI Act und regulatorische Anforderungen
  • Risk Management für KI-Systeme
    
    
• Offensive Security für KI
  
  • Einführung in AI Red Teaming
  • Angriffe auf KI-Modelle, Daten & Pipelines
  • Angriffe auf Vektordatenbanken und RAG-Systeme
  • LLM-spezifische Angriffstechniken (Prompt Injection, Jailbreaks etc.)
  • Angriffe auf KI-Agenten
  • Evasion-/Adversarial-Angriffe
  • MITRE ATLAS (offensive Perspektive)
    
    
• Defensive KI-Sicherheit (AI Application Security)
  
  • Grundlagen der KI-spezifischen Anwendungssicherheit
  • OWASP Top 10 für LLM und Agentic AI / MLSecOps
  • Security Controls über den gesamten KI-Lebenszyklus
  • Organisatorische & Governance-Maßnahmen
  • Trustworthy AI
    
    
• Sicherheitsmethoden & Betrieb
  
  • Threat Modelling für KI-Systeme
  • Logging & Monitoring
  • Incident Response für KI
    
    
• Zertifikatsprüfung

Ziele:

• Grundverständnis für KI und ML entwickeln
  • Kenntnisse über Funktionsweise, Modelle und typische Einsatzszenarien
  • Verständnis für Chancen und Risiken von KI-Systemen
    
    
• Offensive Security-Kompetenzen aufbauen
  • Angriffsflächen von KI-Anwendungen, LLMs, Agenten und RAG-Systemen erkennen
  • Praktische Angriffsstrategien verstehen (Red Teaming, Adversarial Attacks, Evasion)
  • MITRE ATLAS zur Klassifikation von Angriffen anwenden
    
    
• Defensive Security-Fähigkeiten entwickeln
  • Sicherheitskontrollen über den gesamten KI-Lebenszyklus implementieren
  • OWASP Top 10 LLM & Agentic AI verstehen und anwenden
  • Logging, Monitoring und Incident Response für KI-Systeme aufbauen
    
    
• Trustworthy AI und organisatorische Maßnahmen etablieren
  • Prinzipien vertrauenswürdiger KI in Organisationen verankern
  • Governance, Richtlinien und Prozesse zur KI-Sicherheit implementieren
    
    
• Praxisorientiertes Threat Modelling anwenden
  • Bedrohungen für KI-Systeme analysieren und priorisieren
  • Defensive Maßnahmen systematisch ableiten
    
    

Darüber hinaus bildet der Kurs AI050 KI Security Specialist eine gute Basis für weitere Aufbaukurse, z. B.:

• AI100 KI-Beauftragter
• AI135 KI-Auditor
• AI060 KI GRC Specialist

Zielgruppe:

• IT- und Cybersecurity-Fachkräfte
  • Security Engineers, Analysten und Penetration Tester
  • Verantwortliche für IT- und Applikationssicherheit
    
    
• KI- und ML-Verantwortliche
  • Data Scientists, ML Engineers, AI Architects
  • Verantwortliche für KI-Entwicklung und Betrieb
    
    
• Führungskräfte im Bereich IT, Security & AI
  • Chief Information Security Officers (CISO)
  • Chief Data / AI Officers
    
    
• Entwickler und DevOps / MLOps Teams
  • Entwickler, die KI-Systeme implementieren und betreiben
  • Teams für DevSecOps / MLSecOps

Voraussetzungen:

• AI020 KI-Implementierung Basics oder vergleichbare Vorkenntnisse

Beschreibung:

Der Kurs AI050 KI Security Specialist vermittelt praxisnahes Wissen zur Sicherheit von KI-Anwendungen, mit einem Schwerpunkt auf offensiven und defensiven Maßnahmen. Im offensiven Teil lernen die Teilnehmer, wie KI-Systeme gezielt getestet und Schwachstellen aufgedeckt werden. Dazu gehören Red Teaming-Methoden, Angriffe auf Large Language Models, KI-Agenten, Vektordatenbanken und Retrieval-Augmented-Generation-Systeme sowie datenbezogene Manipulationen und Evasion-Angriffe. Praktische Techniken wie Prompt Injection, Jailbreaks und Adversarial Attacks werden ebenso behandelt wie die Nutzung des MITRE ATLAS Frameworks zur Klassifikation und Planung von Angriffen.

Im defensiven Teil werden umfassende Strategien vermittelt, um KI-Systeme über den gesamten Lebenszyklus abzusichern. Dazu gehören die Umsetzung der OWASP Top 10 für LLMs und Agentic AI, die Implementierung von Sicherheitskontrollen auf Daten-, Modell- und Pipeline-Ebene, Logging und Monitoring sowie die Entwicklung effektiver Incident-Response-Prozesse. Ergänzend werden organisatorische Maßnahmen, Threat Modelling und Prinzipien von Trustworthy AI behandelt, um systematisch Risiken zu reduzieren und die Resilienz von KI-Anwendungen zu erhöhen.

Der Kurs AI050 KI Security Specialist verbindet praxisorientierte Angriffs- und Verteidigungsstrategien, sodass die Teilnehmer ein tiefes Verständnis für die Bedrohungslandschaft moderner KI-Systeme entwickeln und diese gezielt absichern und/oder angreifen zu können.

Prüfung:

Die Zertifizierungsprüfung ist computergestützt und wird vom unabhängigen Zertifizierungsinstitut Certible als „Remote-Proctored“ Online-Prüfung durchgeführt.
Für die 90minütige Prüfung können die Kandidaten die Prüfungstermine frei wählen und die Prüfung zu einem Zeitpunkt ablegen, der für sie zeitlich am besten geeignet ist.