合成アイデンティティ犯罪の時代におけるデジタル人格との闘い

AIを利用した犯罪は、個人情報窃盗を主として手作業または半自動で行われる活動から、拡張性と説得力を備え、ますます自律化する脅威へと変容させている。生成AIおよびエージェント型AIの近年の発展により、攻撃者は多言語のフィッシングメッセージ、合成音声・映像によるなりすまし、適応型マルウェア、ならびに個人、組織、社会的信頼を損ない得るデータポイズニング攻撃を生み出せるようになった。AIを活用したフィッシング、ディープフェイク詐欺、AI駆動型マルウェア、モデル操作、犯罪用LLMは、企業の攻撃対象領域を拡大させ、デジタル上の信頼を損なっている。AIを利用した個人情報窃盗の時代において、アイデンティティ、尊厳、自律性、適正手続、情報自己決定権を保護するため、人権を中心に据えたプライバシー枠組みが必要である。本章では、プライバシー強化技術、AI部品表、ディープフェイク検出、複数チャネルによる検証、ゼロトラスト型アイデンティティ・ガバナンス、従業員の意識向上、権利に基づく政策統制を組み合わせた多層防御モデルを提案する。最後に、市民的自由と人権を守りながら合成アイデンティティ犯罪への防御を図る組織に向けて、実践的なガバナンス枠組みを提示する。

https://doi.org/10.20944/preprints202608.2271.v1