# ＡＩの安全性確保に資する取組の推進（内閣府・令和6年度）

## 基本情報
- 事業ID: 0b71f204-4071-4bf5-a3b5-9687fdd18037
- 事業番号: 020509
- 年度: 令和6年度（2024年度）
- 所管府省庁: 内閣府
- 担当部局: 参事官（重要課題担当）
- 最終決定額: 未公表 / 該当なし
- 概算要求額: 8億円
- 支出先名: 記載なし
- 国税庁法人番号: 未登録
- 検証済み支出額: 未表示 / 該当なし
- 出典（行政事業レビュー見える化サイト）: https://rssystem.go.jp/project/0b71f204-4071-4bf5-a3b5-9687fdd18037
- データ基準日: 2026-09-02

## この事業のまとめ
ＡＩの安全性確保に資する取組の推進は内閣府が所管する事業で、令和6年度（2024年度）の概算要求額は8億円です。

## 同じ府省庁の事業と比べるとどう？
内閣府の令和6年度の事業は266件、決定額の合計は4兆6,045億円です。

## 事業の目的
〇生成AIの登場により、AIのリスクは多様化・増大しており、AIを安全・安心に利用できるように、AIの安全性向上のための研究開発、検証・実証を一層推進することが極めて重要である。
〇生成AIのリスクは、製品・サービスの安全性に関するリスク、人権侵害に関するリスク、犯罪増加のリスクなど多岐に亘る。これらのリスク低減のため、分野横断的な対応と、ロボット、インフラ、防災、ヘルスケア等の分野ごとの対応が想定され、安全なAIを開発するための手順や、AIの安全性を検証する手法の開発・検証等が不可欠である。​
〇また、AIの安全性確保は国際的な課題でもあり、諸外国のAIの安全性向上に取り組む機関と連携しつつ推進することが重要であり、我が国では今年２月に情報処理推進機構（IPA）に設置したAIセーフティ・インスティテュート（AISI）が中心となり対応することとしており、AISIの機能・体制の強化も重要である。​
〇更に、大規模基盤モデルだけではなく、小型・軽量でニーズに合ったAIモデルが必要とされており、安全で利便性の良いAIを開発するスタートアップ等を支援することも重要である。​

## 事業の概要
生成AIの登場により、AIのリスクは多様化・増大しており、AIを安全・安心に利用できるように、AIの安全性向上のための研究開発、検証・実証を一層推進することが極めて重要であり、安全なAIを開発するための手順や、AIの安全性を検証する手法の開発・検証等を行う。
１）安全性評価に係る調査、評価手法の検討
AIの安全性に係る国内外の調査を実施し、安全性の評価手法を検討する。国内については、研究開発動向を把握するとともに、日本の強みとなる安全性の評価手法、基準等を確立するため、安全性に関する検証・実証のための調査等を実施する。
２）英米のAI Safety Institute等との国際連携の強化
海外機関での検討が猛烈に進んでおり、日本が遅れを取らないために、上記１）の取組を強化することにより、日本の強みをアピールすることで海外機関との調整・交渉を円滑に進めていく。
３）AISIの体制強化
上記の活動を本格化するにあたり、必要な人員を補強する。

## 関連ページ
- [内閣府の事業一覧](/agencies/cao): https://zeikin-dokoitta.com/agencies/cao
- [行政事業レビュー検索](/projects): https://zeikin-dokoitta.com/projects
- [運営者情報・出典について](/about): https://zeikin-dokoitta.com/about
- [MCPサーバー連携](/mcp): https://zeikin-dokoitta.com/mcp

本サイトは公開データを集計・整理した民間のサイトで、政府の公式発表ではありません。