システミックリスク(AI)

システミックリスクとは?

AI Act におけるシステミックリスクの概念は、一部のモデルが非常に強力であり、社会、経済、またはセキュリティに大規模な影響を与える可能性があることを認識しています。

分類の閾値

GPAIモデルが以下の場合、システミックリスクを有します:

• トレーニングに使用された累積計算能力が10²⁵ FLOPsを超える場合
• または、質的基準に基づいて欧州委員会によって指定された場合

対象モデル(推定)

モデル	提供者	システミックリスク
GPT-5	OpenAI	可能性が高い
Claude Opus 4.5	Anthropic	可能性が高い
Gemini 3.0 Pro	Google	可能性が高い
GPT-4o	OpenAI	可能性あり
Llama 3.3 70B	Meta	閾値未満

特定の義務

システミックリスクを持つモデルの提供者は、標準的なGPAI義務に加えて以下を実施する必要があります:

1. リスク評価

• システミックリスクの特定と軽減
• モデル評価の実施
• 敵対的テスト(レッドチーム)

2. 監視と報告

• 重大なインシデントの追跡
• インシデントと是正措置の文書化
• 閾値に達した場合、2週間以内に欧州委員会へ報告

3. サイバーセキュリティ

• モデルとそのインフラストラクチャの適切な保護
• 不正アクセスに対する対策
• モデルウェイトのセキュリティ

システミックリスクの例

• 大規模な偽情報:バイラルな虚偽情報の生成
• サイバー攻撃:高度なマルウェアの作成支援
• 操作:民主的プロセスへの影響
• 差別:数百万人のユーザーに拡大されたバイアス
• 経済集中:不釣り合いな競争優位性

必須通知

提供者は、モデルが既に市場に出ていた場合でも、10²⁵ FLOPsの閾値に達した場合、2週間以内に欧州委員会に通知する必要があります。