Advanced Artificial Intelligence Security Training – Attacks and Defenses

Die fortschreitende Integration von Künstlicher Intelligenz (KI) in Geschäftsprozesse stellt Unternehmen vor neue Chancen und Herausforderungen. Unternehmen müssen sich nicht nur mit herkömmlichen Cyberbedrohungen auseinandersetzen, sondern auch mit spezifischen Risiken, die aus der Nutzung oder Entwicklung von KI-Technologien resultieren. Dazu gehören Manipulationen durch Injection Angriffe, Datenlecks, Bias in Entscheidungsprozessen und die potenzielle Verletzung von Datenschutz- und Urheberrechts-Aspekten. Eine umfassende Sicherheitsstrategie, die sowohl technische als auch organisatorische Maßnahmen umfasst, ist daher unerlässlich.
Ziel des Trainings ist es, fundiertes Wissen über die Grundfunktion und die Sicherheitsaspekte von KI-Systemen zu vermitteln. Dabei werden Managementsystem-Aspekte, Bedrohungsszenarien, Sicherheitsarchitekturen und Schutzmaßnahmen detailliert trachtet.
Die Teilnehmer lernen, wie sie Risiken erkennen, bewerten und mit adäquaten Maßnahmen begegnen können. Praxisnahe Fallstudien und interaktive Workshops ermöglichen es den Teilnehmern, das erworbene Wissen direkt anzuwenden und maßgeschneiderte Sicherheitsstrategien für ihre Organisation zu entwickeln. Somit wird ein ganzheitliches Verständnis für die sichere Implementierung und den Betrieb von KI-Systemen gewährleistet.

Das Training führt die Teilnehmer*innen schnell, kompakt und umfassend in das Thema Künstliche Intelligenz sowie damit zusammenhängende Risiken und notwendigen Sicherheitsmaßnahmen ein.
Aufbauend auf dem separat verfügbaren Basismodul („Advanced Artificiail Intelloigence Security Basics“) werden in diesem Training die Inhalte der ISO/IEC 42001:2024, welche die Zertifizierung von KI-Systemen ermöglicht, sowie damit zusammenhängende Sicherheitsmaßnahmen dargestellt, um den Teilnehmern einen ganzheitlichen Überblick zum Thema Management von KI-Systemen zu vermitteln.
Einen weiteren  Teil des Trainings stellt eine Einführung in vorsätzliche Angriffe und die Verteidigung gegen unterschiedliche Schwachstellen von KI-Systemen (wie Prompt Injection, Training Data Poisoning, etc.) dar, welche sowohl bei der Entwicklung als auch bei der Verwendung von KI-Systemen eine entscheidende Sicherheitsrolle spielen. Zudem erhalten die Teilnehmer eine Übersicht über die wichtigsten Regelungen der EU-Verordnung zu Künstlicher Intelligenz, welche einen ersten risikobasierten Ansatz für KI-Systeme und deren Überwachung bildet.
Im (separat verfügbaren) anwendungsorientierten Teil des Trainings wird ein klares Verständnis für neurale Netze aufgebaut, um weiters konkrete Anwendungen in den Bereichen Computer Vision und Natural Language Processing nachvollziehen zu können. Zudem werden Methoden wie moderne Reinforcement Learning Techniken für die Entwicklung von Agents betrachtet.
Im Zuge des Trainings werden explizit keine Softwareentwicklungs-Erfahrungen vorausgesetzt - es finden auch keine Coding-Übungen statt. Ein Grundverständnis der Konzepte in der Softwareentwicklung ist hilfreich, aber keine Voraussetzung.

Artificial Intelligence Management System

• AIMS Requirements
  • Context, Leadership, Planning, Support, Operation, Performance Evaluation, Improvement;
• Reference Controls, Guidance, Objectives & Risks, Domains & Sectors
  • Policies, Organization, Resources, Impact assessments, life cycle, data management, stakeholder management, use of AI, third-party and customer relationships
• Adversarial attacks on AI systems
  • Prompt Injection, Insecure Output Handling, Training Data Poisoning, Model Denial of Service, Supply Chain Vulnerabilities, Sensitive Information Disclosure, Insecure Plugin Design, Excessive Agency, Overreliance, Model Theft

• Geschäftsleitung/CIO/CTO/CRO
• IT-Verantwortliche
• Informationssicherheitsbeauftrage
• Risikomanager
• Incident Manager
• Datenschutzbeauftragte und –koordinatoren
• Manager
• Interessierte

• Grundlegende Kenntnisse bzgl. Artificial Intelligence (Detailinhalte siehe „Advanced Artificial Intelligence Security Basics”)