機械学習モデルの透明性
モデルの意思決定プロセスが外部から観測可能であることを指します。特にディープラーニングにおける「ブラックボックス問題」への対策として、説明可能なAI(XAI)の導入が法的要件となりつつあります。
人工知能の開発および運用における法的規範、技術的定義、および国際的なコンプライアンス基準を体系化した専門用語集。
AI技術の急速な普及に伴い、法規制の枠組みは複雑化しています。本辞典は、欧州連合AI法(EU AI Act)や日本国内のガイドラインで用いられる主要概念を定義します。各用語は、技術的実装と法的リスク管理の観点から分類されています。
適切な用語理解は、企業におけるガバナンス構築の第一歩です。特に、高リスクAIシステムに該当するかどうかの判定には、厳格な定義の解釈が不可欠となります。本セクションでは、アルファベット順およびカテゴリー別に重要用語を整理しています。
モデルの意思決定プロセスが外部から観測可能であることを指します。特にディープラーニングにおける「ブラックボックス問題」への対策として、説明可能なAI(XAI)の導入が法的要件となりつつあります。
学習データに含まれる偏りを特定し、出力結果における差別的影響を最小化するプロセスです。
プライバシー保護を目的として、実データから統計的に生成された非実在のデータセットです。
AIモデルの誤作動を誘発するために意図的に操作された入力を指します。セキュリティ脆弱性の観点から、法的な安全基準での評価対象となります。
※2024年度の主要企業調査に基づく推定値です。規制の具体化に伴い、これらの数値は上昇傾向にあります。