EN
FR
ES
DE
IT
KO
JA
Dans l'IA Act européen, le risque systémique qualifie les modèles GPAI dont la puissance de calcul d'entraînement dépasse 10²⁵ FLOPs (floating point operations). GPT-5, Claude Opus 4.5, Gemini 3.0 et d'autres grands modèles entrent dans cette catégorie. Ces systèmes sont soumis à des obligations renforcées : évaluation des risques, tests de sécurité, signalement d'incidents et cybersécurité.
Qu'est-ce que le risque systémique ?
Le concept de risque systémique dans l'IA Act reconnaît que certains modèles sont si puissants qu'ils peuvent avoir des impacts à grande échelle sur la société, l'économie ou la sécurité.
Seuil de classification
Un modèle GPAI présente un risque systémique lorsque :
- La puissance de calcul cumulée pour son entraînement dépasse 10²⁵ FLOPs
- Ou s'il est désigné comme tel par la Commission européenne sur la base de critères qualitatifs
Modèles concernés (estimations)
| Modèle | Fournisseur | Risque systémique |
|---|---|---|
| GPT-5 | OpenAI | Probable |
| Claude Opus 4.5 | Anthropic | Probable |
| Gemini 3.0 Pro | Probable | |
| GPT-4o | OpenAI | Possible |
| Llama 3.3 70B | Meta | En dessous du seuil |
Obligations spécifiques
Les fournisseurs de modèles à risque systémique doivent, en plus des obligations GPAI standard :
1. Évaluation des risques
- Identifier et atténuer les risques systémiques
- Réaliser des évaluations de modèle (model evaluations)
- Tests adversariaux (red teaming)
2. Surveillance et signalement
- Suivi des incidents graves
- Documentation des incidents et mesures correctives
- Signalement à la Commission européenne sous 2 semaines si le seuil est atteint
3. Cybersécurité
- Protection adéquate du modèle et de son infrastructure
- Mesures contre les accès non autorisés
- Sécurité des poids du modèle
Exemples de risques systémiques
- Désinformation à grande échelle : Génération de fausses informations virales
- Cyberattaques : Aide à la création de malwares sophistiqués
- Manipulation : Influence sur les processus démocratiques
- Discrimination : Biais amplifiés à l'échelle de millions d'utilisateurs
- Concentration économique : Avantages compétitifs disproportionnés
Notification obligatoire
Un fournisseur doit notifier la Commission européenne dans les 2 semaines si son modèle atteint le seuil de 10²⁵ FLOPs, même si le modèle était déjà sur le marché.
Chaque question posée à ChatGPT sans citer la marque dans la réponse, c'est un concurrent qui est recommandé à sa place: mesuré sur 6 820 réponses d'IA réelles.