ＡＩの安全性確保に資する取組の推進

事業の目的

〇生成AIの登場により、AIのリスクは多様化・増大しており、AIを安全・安心に利用できるように、AIの安全性向上のための研究開発、検証・実証を一層推進することが極めて重要である。 〇生成AIのリスクは、製品・サービスの安全性に関するリスク、人権侵害に関するリスク、犯罪増加のリスクなど多岐に亘る。これらのリスク低減のため、分野横断的な対応と、ロボット、インフラ、防災、ヘルスケア等の分野ごとの対応が想定され、安全なAIを開発するための手順や、AIの安全性を検証する手法の開発・検証等が不可欠である。​ 〇また、AIの安全性確保は国際的な課題でもあり、諸外国のAIの安全性向上に取り組む機関と連携しつつ推進することが重要であり、我が国では今年２月に情報処理推進機構（IPA）に設置したAIセーフティ・インスティテュート（AISI）が中心となり対応することとしており、AISIの機能・体制の強化も重要である。​ 〇更に、大規模基盤モデルだけではなく、小型・軽量でニーズに合ったAIモデルが必要とされており、安全で利便性の良いAIを開発するスタートアップ等を支援することも重要である。​

事業の概要

生成AIの登場により、AIのリスクは多様化・増大しており、AIを安全・安心に利用できるように、AIの安全性向上のための研究開発、検証・実証を一層推進することが極めて重要であり、安全なAIを開発するための手順や、AIの安全性を検証する手法の開発・検証等を行う。 １）安全性評価に係る調査、評価手法の検討 AIの安全性に係る国内外の調査を実施し、安全性の評価手法を検討する。国内については、研究開発動向を把握するとともに、日本の強みとなる安全性の評価手法、基準等を確立するため、安全性に関する検証・実証のための調査等を実施する。 ２）英米のAI Safety Institute等との国際連携の強化 海外機関での検討が猛烈に進んでおり、日本が遅れを取らないために、上記１）の取組を強化することにより、日本の強みをアピールすることで海外機関との調整・交渉を円滑に進めていく。 ３）AISIの体制強化 上記の活動を本格化するにあたり、必要な人員を補強する。

支出先の記載がない事業（直接執行分を含む）です。