要旨 機械学習システムには、ソフトウェア工学上の検証プロトコルとして多層化がますます求められており、単一の検査ではなく複数の検査が課されている。深刻なクラス不均衡、不十分な確率較正、根拠のない実行、「帰属」に関する問題など、多くの重大な故障モードは、自動コード生成、信用審査、臨床トリアージといった低水準の実環境導入において顕在化し、そこでの失敗は壊滅的な結果を招き得る。臨床トリアージ、信用審査、自動コード生成など、重大な結果を伴う状況では、深刻なクラス不均衡、不十分な確率較正、忠実でない帰属、根拠のない実行といった致命的な故障モードが常態的に現れるが、標準的なk分割交差検証および正則化ベースラインではまったく不十分である。本レビューは、41件の実証研究の知見を統合し、アーキテクチャの主要な3水準、すなわちデータ漏洩の防止とベースライン・ベンチマーキング(レベル1)、事後的な解釈可能性監査とグラスボックス比較(レベル2)、分布に依存しない不確実性定量化(レベル3)を特定する。特に注目すべきは、金融機械学習論文297本のメタ分析から、診断が全般的に軽視されていることが明らかになった点である。調査対象論文のうち、説明の忠実性を検証するRemove and Retrain(ROAR)ベンチマークを含んでいたものはわずか7.1%であった一方、93.9%が特徴量帰属にTreeSHAPを使用していた。これらの知見が示すように、安全性が重視されるソフトウェアシステムにおける潜在的な故障モードを防止するには、多層的な検証フレームワークの存在が特に重要である。クラス条件付きモンドリアン適合的較正は「少数クラス・カバレッジ崩壊定理」に対処し、少数クラスのカバレッジを61.7パーセントポイント回復させ(p < 10⁻⁸⁰)、適合化分位点回帰およびコスト最適な選択的人間委任(θ* = ch/CFN)と組み合わされる。レイヤー4は導入前ゲーティングである。AUROCが0.85を超え、静的ツールキットでは異常が報告されないモデルに対し、RISEDフレームワークは軽微な入力摂動下で49.1%から64.2%の判定閾値反転率を明らかにする。レイヤー5は、実行に基礎づくマルチエージェント検証を扱う。これには、トランザクション的ロールバックを伴う閉ループの抽象構文木検証(ExecuGraph)、軽量なマルチベクトル・スクリーニング(TriEval)、アリティを一致させた行動公平性監査(AgentFairBench)、および自由形式の出力を採点するためにこれらのパイプラインが依存するLLM判定器のプロンプト感度ベンチマーキング(JudgeSense)が含まれる。さらに、各レイヤーがどのように連携するかを形式化し、それらを実行すべき順序を提示する。
https://doi.org/10.21203/rs.3.rs-10875799/v1