Im europäischen AI Act bezeichnet das systemische Risiko GPAI-Modelle, deren Trainings-Rechenleistung 10²⁵ FLOPs (Floating Point Operations) übersteigt. GPT-5, Claude Opus 4.5, Gemini 3.0 und andere große Modelle fallen in diese Kategorie. Diese Systeme unterliegen verstärkten Pflichten: Risikobewertung, Sicherheitstests, Vorfallsmeldung und Cybersicherheit.
Was ist das systemische Risiko?
Das Konzept des systemischen Risikos im AI Act erkennt an, dass bestimmte Modelle so leistungsfähig sind, dass sie weitreichende Auswirkungen auf die Gesellschaft, die Wirtschaft oder die Sicherheit haben können.
Klassifizierungsschwelle
Ein GPAI-Modell weist ein systemisches Risiko auf, wenn:
- Die kumulative Rechenleistung für sein Training 10²⁵ FLOPs übersteigt
- Oder es von der Europäischen Kommission auf der Grundlage qualitativer Kriterien als solches eingestuft wird
Betroffene Modelle (Schätzungen)
| Modell | Anbieter | Systemisches Risiko |
|---|---|---|
| GPT-5 | OpenAI | Wahrscheinlich |
| Claude Opus 4.5 | Anthropic | Wahrscheinlich |
| Gemini 3.0 Pro | Wahrscheinlich | |
| GPT-4o | OpenAI | Möglich |
| Llama 3.3 70B | Meta | Unter der Schwelle |
Spezifische Pflichten
Die Anbieter von Modellen mit systemischem Risiko müssen zusätzlich zu den Standard-GPAI-Pflichten:
1. Risikobewertung
- Systemische Risiken identifizieren und mindern
- Modellevaluierungen durchführen
- Adversariale Tests (Red Teaming) durchführen
2. Überwachung und Meldung
- Verfolgung schwerwiegender Vorfälle
- Dokumentation von Vorfällen und Korrekturmaßnahmen
- Meldung an die Europäische Kommission innerhalb von 2 Wochen bei Erreichen der Schwelle
3. Cybersicherheit
- Angemessener Schutz des Modells und seiner Infrastruktur
- Maßnahmen gegen unbefugten Zugriff
- Sicherheit der Modellgewichte
Beispiele für systemische Risiken
- Großangelegte Desinformation: Erzeugung viraler Falschinformationen
- Cyberangriffe: Unterstützung bei der Erstellung ausgeklügelter Malware
- Manipulation: Einflussnahme auf demokratische Prozesse
- Diskriminierung: Verstärkte Vorurteile im Maßstab von Millionen Nutzern
- Wirtschaftliche Konzentration: Unverhältnismäßige Wettbewerbsvorteile
Meldepflicht
Ein Anbieter muss die Europäische Kommission innerhalb von 2 Wochen benachrichtigen, wenn sein Modell die Schwelle von 10²⁵ FLOPs erreicht, auch wenn das Modell bereits auf dem Markt war.