要旨 安全性が重視される運用環境全般にAI支援システムがますます統合されるなか、自動化への依存、監督の断片化、介入の遅延、独立した検証能力の低下に対する懸念が高まっている。既存の社会技術的安全性およびAIガバナンスの枠組みは、複雑なシステム挙動を理解するうえで重要な理論的基盤を提供している。しかし、自動化が進む人間・機械環境において生じる再帰的な運用劣化を検討するための分析能力は、しばしば限定的である。この限界に対処するため、本研究は、AI支援システムにおける再帰的な運用上の脆弱性を検討するために設計された社会技術的分析構造であるT3-DEF（三層型の歪曲および障害の埋め込み）枠組みを提案する。本枠組みは、相互接続された社会技術的運用環境における知覚の歪曲、意思決定の増幅、制度的埋め込み、分散型監督の断片化、検証多様性の低下の相互作用から生じる再帰的過程として劣化を概念化する。本研究では、公開されている調査報告書、組織の安全文書、運用事例分析から収集した海事運用事故100件と、複数領域にわたるAI支援運用シナリオ70件を対象に、比較社会技術分析を実施する。本枠組みを操作化するため、二つの発見的分析指標を導入する。すなわち、運用ワークフロー内における自動化された意思決定権限の集中度を表す自動化密度（AD）と、システム内における独立した人的・組織的・技術的検証経路の分布を表す検証多様性（VD）である。分析対象となった運用事例全体において、自動化密度の上昇と検証多様性の低下との間に、反復して現れる逆相関関係が示唆された。特に、AD ≈ 0.58付近で移行傾向が観察され、この水準では監督の断片化、介入の遅延、再帰的な運用上の脆弱性がより急速に増大するように見受けられた。さらに、AI支援システムのレジリエンスは、技術的な自動化能力のみに依存するのではなく、適応的な監督と介入能力を支え得る分散型検証構造の維持にも依存することが結果から示された。提案する枠組みは、社会技術的安全性およびAIガバナンスの研究に三つの点で貢献する。第一に、AI支援環境全般における運用劣化を検討するための再帰的分析構造を導入する。第二に、自動化が進む状況下で分散型監督能力を評価するための、レジリエンス志向の社会技術的概念として検証多様性を提案する。第三に、個別要素レベルの障害分析を超えて、再帰的な運用上の脆弱性を検討するための拡張可能な分析枠組みを提供する。総じて、T3-DEF枠組みは、自動化が進むAI支援システムにおける再帰的な運用劣化を分析するためのレジリエンス志向の社会技術的視点を提供し、安全性が重視される運用環境において、分散型の検証多様性と適応的な監督構造を維持することの重要性を強調する。
https://doi.org/10.21203/rs.3.rs-10881279/v1