M71 - ONLINE WORKSHOP

Ein neuer zweitägiger Workshop in deutscher Sprache

Hacking AI: Angriffe und Abwehr für KI-Systeme und Infrastrukturs

Lernen von den Profis

Ihre Trainer sind Ahmad Abolhadid und Matthias Ortmann.

 

Eine Teilnahme am Workshop ist von jedem PC/Laptop/Tablet mit stabiler Internetverbindung aus möglich. Es wird keine zusätzliche Software benötigt, ein aktueller Browser genügt (aktueller Microsoft Edge, Google Chrome oder Firefox). Auch der Zugriff auf das Trainings-Lab erfolgt über den Browser. Übungen können also ebenfalls realisiert werden, ohne dass zusätzliche Software benötigt wird. Die Schulung wird selbstverständlich live aus dem ERNW-Studio übertragen. Das Workshopmaterial, sowie mögliche Demos und natürlich die Trainer sind stets sichtbar und werden je nach Erfordernis gezeigt bzw. hervorgehoben. Das Schulungsmaterial stellen wir Ihnen zusätzlich im Vorfeld elektronisch zur Verfügung. Fragen werden direkt von den Trainern beantwortet. Mikrofon und/oder Kamera sind optional, Sie können die Fragen auch über einen Chat stellen.

 

Kursbeschreibung

Dieses Training ist eine praxisorientierte Einführung in das Angreifen und Verteidigen
von agentischen KI-Systemen und Anwendungen auf Basis von Large Language Models (LLMs). Es werden verschiedene Techniken von Prompt-Injection-Angriffen vorgestellt, um das Verhalten von KI-Systemen zu manipulieren. Im Laufe des Trainings werden die Teilnehmer mit neuen Konzepten und Komponenten wie Guardrails und MCPs vertraut gemacht. Die Teilnehmer lernen, wie man diese angreift und wie man sie sicher implementiert. Der Kurs enthält Elemente der Gamifizierung, die das Lernen interaktiv, interessant und unterhaltsam gestalten.

 

Neben den offensiven und defensiven Techniken von LLM-Anwendungen behandelt
das Training auch die Infrastrukturseite von LLM-Systemen. Anhand ausgewählter
Komponenten der Plattform, die diesen Workshop betreibt – darunter Model Serving,
Chat-Oberflächen, RAG-Pipelines und API-Gateways – lernen die Teilnehmer, wie häufige Standardkonfigurationen ausgenutzt werden können und wie man sie absichert.

 

Die Lab-Umgebung ist einfach über den Browser zugänglich. Daher ist keine Vorinstallation nötig und keine Vorerfahrung im Hacking erforderlich.

 

In diesem Workshop lernt ihr:

Angreifen und Verteidigen von LLM-Anwendungen:

• Wie LLMs funktionieren und warum ihre Architektur von Grund auf unsicher ist
• OWASP Top 10 Schwachstellen von LLM-Anwendungen und KI-Agenten
• Direkte und indirekte Prompt-Injection-Techniken
• Abgreifen von vertraulichen Daten aus KI-Anwendungen
• Verstehen, Erfassen und Absichern von System-Prompts
• Implementierung von Guardrails zum Schutz von KI-Systemen sowie Techniken zu deren Umgehung
• Das Model Context Protocol (MCP) und seine Annahmen zum Vertrauensmodell
• Klassische Schwachstellen wie SQLi und RCE in KI-Systemen
• Defensive Muster für LLM-Pipelines und MCP-Server

 

Aufbau und Absicherung selbstgehosteter LLM-Infrastruktur:

• Selbstgehostete LLM-Komponenten im Überblic
  
  • Model Serving
  • Chat-Oberflächen
  • RAG-Pipelines
  • API-Gateway
• Wann und warum selbst hosten?
  
  • Datensouveränität
  • Kosten
  • Anpassbarkeit
  • Offline-Betrieb
  • Air-Gapped-Szenarien
• Warum reproduzierbare, deklarative Infrastruktur wichtig ist, wenn man auf von Natur aus nicht-deterministischen KI-Systemen aufbaut
• Praktische Abwägungen beim Selbsthosting: vom Single-GPU-Entwicklungssetup bis zur Multi-Node-Plattform
• Absicherung von LLM-Infrastrukturkomponenten:
  
  • Inferenz-Endpunkte
  • Vektordatenbanken
  • Agenten-Tools
  • Code-Interpreter

 

HM TRAINING SOLUTIONS ON-SITE SERVICE

Alle HM Training Solutions Seminare stehen auch firmenintern zur Verfügung. Sie können auf den Bedarf Ihrer Organisation zugeschnitten werden. Der Kurs kann auf Wunsch firmenintern in englischer Sprache gegen Aufpreis durchgeführt werden.

Weitere Details erhalten Sie unter der Telefonnummer +49 (0) 6022 508 200.

 

Was wir für euch vorbereitet haben

• Eine vollständige KI-Plattform, die die im Workshop besprochenen Infrastrukturmuster veranschaulicht
• Eine persönliche Lab-Umgebung pro Teilnehmer mit Open WebUI, einem live laufenden Open-Web-UI-Pipelines-Server und mehr – alles im Browser
• Viele praktische Übungen zum Einüben der im Training erklärten Angriffs- und Abwehrtechniken
• Deploy-Break-Harden-Infrastruktur-Szenarien: echte Fehlkonfigurationen aus selbstgehosteten LLM-Komponenten

 

Wer kann an diesem Workshop teilnehmen

Es sind keine Vorkenntnisse in LLMs oder KI-Sicherheit erforderlich. Der Workshop ist praxisorientiert und beginnt bei den Grundlagen. Er ist geeignet für:

• Penetrationstester und Red Teamer, die in Assessments auf LLM-integrierte Systeme treffen
• Application Security Engineers, die an KI- oder agentischen Produkten arbeiten
• Entwickler, die auf der Open-WebUI-API oder ähnlichen Backends aufbauen und die Risiken verstehen möchten
• Ingenieure und Architekten, die LLM-Infrastruktur für ihr Team oder ihre Organisation selbst hosten möchten
• Alle, die sich für die offensive Seite der KI-Sicherheit interessieren

 

Voraussetzungen

• Ein Laptop mit einem modernen Browser
• Grundlegende Python-Lesekenntnisse
• Die Bereitschaft, Dinge kaputtzumachen

 

Profile der Seminarleiter 

Ihr Trainer, Ahmad Abolhadid ist Senior Security Analyst bei
ERNW. Er verfügt über umfangreiche Erfahrung im Pentesting von Mobil- und Webanwendungen, Infrastrukturen und KI-Systemen. Er entwickelt spezialisierte Werkzeuge für Sicherheitstests und gestaltet mit Freude technische Trainings, um sein praktisches Wissen mit der Community zu teilen. Er hat einen Masterabschluss in Computer and Media Engineering der Hochschule Offenburg, Deutschland.

 

Ihr Trainer, Matthias Ortmann ist Security Consultant bei ERNW mit Schwerpunkt auf Webanwendungssicherheit, Netzwerkschutz und der Sicherheit von LLM-integrierten Systemen. Er hat einen Masterabschluss in IT-Sicherheit der TU Darmstadt. Bei ERNW führt er Penetrationstests durch, entwickelt Sicherheitswerkzeuge und konzipiert reproduzierbare Infrastruktur für KI-Sicher-
heitsforschung und Trainingsumgebungen – einschließlich der selbstgehosteten LLM-Plattform, die diesen Workshop betreibt.