Risque systémique (IA)

Qu'est-ce que le risque systémique ?

Le concept de risque systémique dans l'IA Act reconnaît que certains modèles sont si puissants qu'ils peuvent avoir des impacts à grande échelle sur la société, l'économie ou la sécurité.

Seuil de classification

Un modèle GPAI présente un risque systémique lorsque :

• La puissance de calcul cumulée pour son entraînement dépasse 10²⁵ FLOPs
• Ou s'il est désigné comme tel par la Commission européenne sur la base de critères qualitatifs

Modèles concernés (estimations)

Modèle	Fournisseur	Risque systémique
GPT-5	OpenAI	Probable
Claude Opus 4.5	Anthropic	Probable
Gemini 3.0 Pro	Google	Probable
GPT-4o	OpenAI	Possible
Llama 3.3 70B	Meta	En dessous du seuil

Obligations spécifiques

Les fournisseurs de modèles à risque systémique doivent, en plus des obligations GPAI standard :

1. Évaluation des risques

• Identifier et atténuer les risques systémiques
• Réaliser des évaluations de modèle (model evaluations)
• Tests adversariaux (red teaming)

2. Surveillance et signalement

• Suivi des incidents graves
• Documentation des incidents et mesures correctives
• Signalement à la Commission européenne sous 2 semaines si le seuil est atteint

3. Cybersécurité

• Protection adéquate du modèle et de son infrastructure
• Mesures contre les accès non autorisés
• Sécurité des poids du modèle

Exemples de risques systémiques

• Désinformation à grande échelle : Génération de fausses informations virales
• Cyberattaques : Aide à la création de malwares sophistiqués
• Manipulation : Influence sur les processus démocratiques
• Discrimination : Biais amplifiés à l'échelle de millions d'utilisateurs
• Concentration économique : Avantages compétitifs disproportionnés

Notification obligatoire

Un fournisseur doit notifier la Commission européenne dans les 2 semaines si son modèle atteint le seuil de 10²⁵ FLOPs, même si le modèle était déjà sur le marché.