Künstliche Intelligenz (KI) hat sich von einem unterstützenden Werkzeug zu einem zentralen Bestandteil moderner Softwareentwicklungsprozesse entwickelt. Mit der rasanten Zunahme von Large Language Models (LLMs), maschinellen Lernmodellen (ML) und generativer KI (GenAI) verschiebt sich die Bedrohungslage im Software‑Ökosystem grundlegend:
KI ist nicht länger nur Bestandteil der Lieferkette – sie ist selbst zur Lieferkette geworden.
Dies eröffnet Innovationspotenziale, bringt jedoch ebenso tiefgreifende sicherheitsrelevante Herausforderungen mit sich.
1. KI als Entwickler – Chancen und systemische Risiken
Moderne Entwicklungsprozesse nutzen KI‑Assistenten umfassend zur Code‑Generierung, Automatisierung und Optimierung. Der Anteil maschinell generierten Codes wächst exponentiell.
Sicherheitsrisiken:
- KI‑Modelle basieren auf historischen Code‑Korpora, die veraltete Bibliotheken oder schwache Kryptografie enthalten können.
- KI erzeugt häufig funktionalen, aber sicherheitlich unzureichenden Code (z. B. Verletzung sicherer Coding‑Standards).
- Alte Schwachstellen werden unbeabsichtigt „recycelt“.
Erforderliche Maßnahmen:
- KI‑Code Review inkl. statischer und dynamischer Analysen
- SBOM‑Validierung für KI‑generierten Code
- Richtlinien für „Secure GenAI Development“ gemäß NIST & ISO/IEC 42001
2. KI als Modell – Angriffsflächen in ML‑Modellen
ML‑Modelle sind selbst digitale Artefakte, die manipuliert oder kompromittiert werden können.
Aktuelle Forschung zeigt zahlreiche Angriffe:
Typische Angriffsszenarien:
- Model Poisoning:
Training wird gezielt manipuliert, um Backdoors zu integrieren.
- Supply‑Chain‑Manipulation via Pickle/Model Artefacts:
Fehlerhafte Deserialisierung (z. B. via Python pickle) ermöglicht Remote Code Execution.
- Malicious Models in Open‑Model‑Plattformen:
Beispiel: Verteilte ML‑Modelle, die beim Laden Schadcode ausführen.
Notwendige Schutzmechanismen:
- Integritätsprüfungen (Signaturen, Hash‑Verifikation)
- Forensische Modellanalyse
- Sandboxing für Modell‑Execution
- Ausschluss unsicherer Serialisierungsformate
3. KI als Angreifer – Automatisierte, skalierbare Cyberangriffe
GenAI und LLMs ermöglichen Angreifern, hoch skalierbare und personalisierte Cyberangriffe zu konzipieren.
Beispiele:
- KI‑generierte Malware‑Varianten, die Erkennungsmethoden umgehen
- Automated Code Scanning zum Auffinden unbekannter Schwachstellen
- LLM‑optimierte Social‑Engineering‑Kampagnen mit täuschend echten Deepfakes
- Reconnaissance‑Automatisierung (Infrastruktur‑Scans, Passwortrecherche, Target Profiling)
Konsequenz:
Die Eintrittsbarriere für komplexe Angriffe sinkt drastisch – KI professionalisiert die Angriffswelt.
Handlungsempfehlungen für Unternehmen – Moderne Supply‑Chain‑Security
Für sichere KI‑gestützte Softwareentwicklung müssen Unternehmen drei Perspektiven abdecken:
A. Sicherer Einsatz von KI‑Code‑Generatoren
- LLM Security Guidelines
- automatisierte Erkennung unsicherer Code Patterns
- GenAI‑SBOM‑Erstellung & ‑Analyse
B. Schutz von KI‑Modellen als digitale Assets
- Modell‑Härtung & Verschlüsselung
- Vermeidung unsicherer Formate (Pickle Hardening)
- Integritätsüberwachung der gesamten AI‑Pipeline
C. Abwehr KI‑gestützter Angriffe
- KI‑basierte Threat Detection
- Deepfake‑Erkennung
- Automatisierte Überwachung von Anomalien in großen Code‑ und Datenströmen
- „Adversarial AI Defense“-Programme
Fazit
Die Rolle von KI in modernen Lieferketten ist fundamental:
KI schreibt den Code, KI bildet die Modelle – und KI greift an.
Unternehmen benötigen daher robuste Sicherheitsarchitekturen, die:
- KI‑Artefakte prüfen,
- maschinell erzeugte Software absichern und
- KI‑basierte Angriffe erkennen.
AI ist nicht ein Teil der Supply Chain – AI ist die Supply Chain.
D‑Cyber Compliance unterstützt Sie dabei, Risiken zu identifizieren, zu priorisieren und langfristig zu beherrschen – technisch, strategisch und regulatorisch.
Vereinbaren Sie ein unverbindliches Beratungsgespräch, um zu analysieren, wie wir Ihre Software‑Supply‑Chain, KI‑Modelle und Sicherheitsarchitekturen auf ein modernes, resilienteres Niveau heben können.
