生成AI等を活用したサイバーセキュリティ対策強化

事業の目的

あらゆる分野において生成AIの実装が急速に進んでいる一方で、生成AIを巡るリスクとして、偽誤情報の拡散、プライバシーの侵害、知的財産権の侵害等に加えて、サイバー攻撃への悪用等によるサイバーセキュリティのリスクが新たに指摘されている。 他方、サイバー攻撃の大規模化・複雑化・巧妙化に伴い、サイバーセキュリティ対策の業務負荷が課題となっている中、サイバー攻撃対策への生成AI等の利活用が期待されている。 こうした背景を踏まえ、生成AI等のAI技術を巡る最新動向を把握しつつ、AIに起因するセキュリティリスクを可能な限り回避・低減するための「Security for AI」に取り組むとともに、AIをセキュリティ対策に効果的に活用するための「AI for Security」に取り組む。

事業の概要

上記目的を達成するため、以下の取組を実施する。 ①生成AIをはじめとするAI技術がサイバーセキュリティに与える影響について、国内外の事例調査を行い、脅威と対策を洗い出す。複数のAIモデル、AIモデルを含んだAIシステムを用いて、それらの対策の有効性を検証・整理し、チェックリスト化を行う。検証・実証結果を元に、セキュリティ分野におけるAIの安全かつ効果的な開発･提供に向けたガイドラインの策定や、 最新情報の発信・普及啓発を実施する。 ②AIの安全性確保において主導的な役割を担い、米国政府などから資金拠出を受ける非営利団体MITREを始め、複数の専門機関と連携を深めるため、国立研究開発法人情報通信研究機構（NICT）サイバーセキュリティ研究所の研究拠点を北米に設立し、これら専門機関との共同研究事業を推進する。 ③様々な情報源を自動的に収集し、特定のキーワードの出現数等を特徴量として学習したAIを用いて我が国へのサイバー脅威情報に該当するかを判定するとともに、過去のサイバー脅威情報とサイバー攻撃実績との照合結果を学習したAIを用いて当該脅威情報の重要度を判定する。必要な情報を抽出し、グローバル・データベースを構築する。 ④我が国の通信分野等の重要インフラ分野におけるサイバーセキュリティ対策強化のため、生成AI等を効果的に活用し、通信情報を用いた攻撃インフラ分析の精緻化・迅速化を図るとともに、当該分析結果等を踏まえた対処オペレーション業務の高度化を図るための技術的な検証を行う。

同一事業コードで継続されている年度ごとの予算比較

支出先の記載がない事業（直接執行分を含む）です。