第5回先進的AI利活用アドバイザリーボード

最終更新日:: 2026年8月25日

概要

本委員会の概要は、先進的AI利活用アドバイザリーボードをご覧ください。

開催情報

日時：: 令和8年（2026年）7月14日（火）13時00分から15時00分まで
場所：: 庁議室・オンライン

議事次第

1. 開会
2. 議事
- 1．各府省庁生成AIシステム定期報告概要
- 2．我が国及び諸外国における生成AIに係る動向
- 3．政府における生成AI利活用事例
- 4．佐久間構成員からのご説明
- 5．今後の予定
3．閉会

資料

参考資料

参考資料1：先進的AI利活用アドバイザリーボード構成員名簿（PDF／89KB）

議事要旨

（1）各府省庁生成AIシステム定期報告概要

事務局より、各府省庁による生成AIの利活用状況の分析結果について資料1により報告した。

質疑及び意見

出席者の主な質疑、意見等は、以下のとおり。

（岡田構成員）2ページの注釈において、「利用者の範囲の記載がない2件は除いている」との記載があるが、これらの2件はどのような目的で使用されているAIを想定しているのか、ご存じであれば教えていただきたい。
- （事務局）案件によっては利用者の範囲の記載そのものがなされていないものがあったが、特段意図的に記載がないものではない。
（佐久間構成員）民間実務において、「シャドーAI」をはじめとして、AIツールが導入されていること自体を把握できていないパターンが多々見られる。AIガバナンス協会において50社程度に対しアンケートを取ったところ、AIとして調達していないシステムに新しくアップデートでAI機能が組み込まれるなどの事情で、自社のAIユースケースを十分把握できていないケースが非常に多く、64%が把握漏れの認識を示していた。また、外部パートナーのAI利用状況については、全体の87%程度が把握漏れがあるとのことだった。暗数の話となってしまうが、現時点で把握漏れ等のヒヤリハットがあったか伺いたい。また、今後把握漏れがないかをチェックしていくような体制を構築していくことは非常に重要であると考える。
- （事務局）定期報告では、情報システムを対象にしているため、生成AIシステムに関しては今回の報告でひと通り報告いただいている。他方で、約款同意のサービス等は、各府省庁における情報システム担当部局等が利用における監督をし、サービスの動向を見ている状況である。機密性1情報については、外部のサービスも手続きを実施すれば利用できる状況である。資料1において、課室単位で件数が減ったと報告しているが、これらはネット上の情報を調べて整理するといった用途で利用されている無償のAI等であり、手続きの敷居が比較的低いケースも含まれている。また、業務システムにおいても、外部のプロダクトを利用しているものについても、報告が上がっている状況である。このようなことから、各府省庁において利用されているAIについては認識されていると考える。把握漏れがないかは今後もしっかりと確認していく必要がある。
- （門林座長）サプライヤーの管理等、見えないAI機能の管理については、CAIOを設置しリスクを適切に管理すべきとしているものの、今後も留意が必要である。

（2）我が国及び諸外国における生成AIに係る動向

事務局より、我が国及び諸外国における生成AIに係る動向について資料2より報告した。

質疑及び意見

出席者の主な質疑、意見等は、以下のとおり。

（岡田構成員）9ページに関して、諸外国の文書等でAIエージェントとエージェンティックAIがどのような定義で議論されているか、非常に重要な観点と考える。それぞれの文書間で定義は一致しているか。この場で分からない場合には、今後定義の詳細についても触れていただきたい。
- （事務局）今回は導入ということで、概略のみの紹介となっている。次回以降のアドバイザリーボードにおいては、議論を具体化していくため、個々の項目を対比した詳細版を作成しご紹介したい。
（吉永構成員）12ページの企業・組織におけるAIエージェントの導入状況の比較において、日本の導入割合が各国に比べてやや低いことについて、慎重な姿勢が表れているとの認識である。製薬会社にインタビューをしたところ、AIエージェントの導入による情報漏えい等のサイバーセキュリティリスクを気にしているとのことであった。そのあたりの不安が払拭されるとよりAIエージェント導入が進むと考える。そのためには、国からの支援が必要であり、どの程度のサイバーセキュリティを実施する必要があるか、リスクを少しでも軽減するような政策が必要と考えている。特にヘルスケアのセクターはAIの可能性が一番ある分野であり、新薬の開発や治療法の発見等に活用できるため、AIエージェントの利活用を進める必要がある。一方で、データは資産であるため、サイロ化も起きている。このような状況の解決策として、米国の国立衛生研究所（NIH）のように、中央にデータを集約していくようなメカニズムも新たに検討していく必要があると考える。
- （事務局）1点目に、AIエージェントにおいて参照できる情報と外部からの操作が噛み合わさると漏えいのリスクが高まるというのは、OWASP等においても認識されている状況である。我々のガイドラインにおいては、政府におけるAIエージェントのガバナンスという観点で、Normativeに対策を一意に定められるかどうかが、今年度のトピックの一つであり、ガイダンス等を通して、ガイドラインにおいてNormativeな要素を具体化することを目指すものと考えている。ゼロから議論するというよりは、OECDやAISI、AI事業者ガイドライン等における議論も参照しつつ、政府内で適用するにはどうしたらよいかという観点で取り組んでまいりたい。2点目に、AI基本計画においても、「バーティカルAI」という観点で、分野別に特化したAIを国として育成支援していく方針が示されており、まずはこういったものを基に、政府全体として取組が具体化されていくものと考えている。
（柴山構成員）AIエージェントの導入にあたって、ガバナンスの観点では権限の範囲や参照する情報の範囲のコントロールが重要である。AIエージェントの利用促進の観点では、ヒューマンインザループの観点において、人の確認を過度に求めないことも重要であると思っている。今回の改定では、読み手が人の確認をとりあえず入れれば問題ないと解釈しないよう、ご留意いただきたい。
- （事務局）ヒューマンインザループのバリエーションとしてオンザループやアウトオブザループ等の考え方もあるため、おっしゃるとおりタスク等に応じて段階を設けることは重要と考えている。
- （門林座長）AI for Scienceの文脈で、文科省の取組等もあるが、そういったところでは人の介入を最小化することを検討している。一方で、本ガイドラインのスコープは行政のAI利活用であるため、無謬性が中心となってくる。そのため、人の介入を誘導する形になると考える。人の介入の濃淡は、今後も検討していく必要がある。
（鳥澤構成員）12ページについて、日本企業の3割がAIエージェントを導入しているとのことだが、実感と乖離がある。原典を確認したところ、大企業のみに限られているという印象。このような母数に関する限定的な条件は記載いただきたい。
- （事務局）承知した。ご指摘を反映する。

（3）政府における生成AI利活用事例

防衛省発表者より、AIエージェントの活用も含む、防衛省内の先進的な生成AI利活用事例について資料3により報告し、構成員より質疑及び意見があった。

（4）佐久間構成員からのご説明

佐久間構成員より、民間におけるAIエージェントのガバナンスの在り方等について、資料4により報告した。

質疑及び意見

出席者の主な質疑、意見等は、以下のとおり。

（永沼構成員）全体として、経団連の考えと一致している。AIエージェントのガバナンスについては、発表いただいた内容のとおりと理解している。その中で、民間企業においては、「人がどのように意思決定に関与するか」が一番の課題になると考えている。資料2で示されたように、海外では、提供企業の「こうあるべき」という情報が出てきている一方で、日本では民間の各社が方向性を模索している状況である。海外企業は動きが早く、国際標準、フォーラム、サミット等において既に議論を始めているところもある。定義やフレームワークが海外において先行して形成されることを懸念しており、早期の対応が必要と考えている。AIガバナンス協会では、国際的にどのような活動をしているのか伺いたい。また日本国内の企業で、エージェント型AIのガイドラインを詳細に示していたり、人間の関与について定めていたりする企業はまだ少ない印象だが、具体的な取組を行っているところがあれば伺いたい。
- （佐久間構成員）1点目の国際的な取組について、全体としてはまだ今後の課題と認識している。標準化については、我々の団体においてもISOを運用している会員や企業単位で国際標準化に関わっている事業者もおり、適宜連携している。今後国際標準化のボード等にもしっかりと関わっていかねばならないと考えている。また、事務的なレベルでも国際機関の議論に入る等の取組は進めていきたい。グローバルで活動する金融リスク管理の団体GARPとのパートナーシップ等、業界単位での連携は既に行っているため、日本企業としての考え方の発信は今後も更に実施していきたい。2つ目に、今着手している企業がどのような取組を実施しているかについてだが、例えば資料4の20ページのように、自律性のレベルを分ける等の取組を実施している事例もある。これまでのAIガバナンスのプロセスではAIの出力の使い方に着目していたところ、そこに掛け算として自律性の考え方を追加し、ルール作りを行っている事例もある。一方で、まだ人の関与を過剰に求め、効率化できていないケースも見られる。どこまでヒューマンオーバーサイトが必要なのかは引き続き検討が必要である。
（吉永構成員）先日、東アジアにおけるAIガバナンスと中小企業への支援制度について国際会議で議論した。中小企業における人材育成については、一般的なセキュリティ研修ではAIのリスクを十分にカバーできておらず、どこまでコストをかけるべきかという課題が見られた。また、AI特有の脆弱性を理解し、安全なコードを書けるエンジニアがほとんどいない状況であるとの指摘もあった。AIガバナンス協会においては、大企業が得た知見を中小企業に還元するとともに、円滑な人材交流を促進することが、我が国全体のAIエージェント利活用の促進につながると考える。
- （佐久間構成員）実態として、AIガバナンス協会の会員は大企業が多い。ご指摘のとおり、大企業からの知見発信は非常に重要であると考えている。資料13ページに示したとおり、AIガバナンス専門人材の育成に向けたレポート「AIガバナンス専門人材（AIGist）の職能確立に向けて ―1次レポート：現状分析と論点整理―」を公表しているが、AIガバナンスを社内で担う人材は、大企業・中小企業を問わず不足しているのが現状である。コアとなるスキルセットの整理、各分野の専門家との協業や新たな技術のキャッチアップは重要であり、AIガバナンス人材の協業事例等についても、今後発掘・紹介していきたい。
- （永沼構成員）人材については、AI基本計画でも触れられており、専門調査会でもどの領域にどのような人材が必要とされるかを検討している。民間における取組と、AI基本計画等の政府の動きとで連携し、整合が図られることが望ましい。最終的に中小企業にも良い影響が及ぶよう、検討いただきたい。
（生田目構成員）最近、特に海外企業との対話において、AIエージェントに伴う企業リスクについて議論する機会が増えている。自社でAIを利用する場合の管理が重要であることは言うまでもないが、同時に、顧客がAIエージェントを利用する社会も進展している。一般消費者がスーパーマーケットでAIエージェント経由により購入するケースや、Agent to Agentで経済活動を行うケースも見られる。他律的なAIエージェントに対する企業側の責任についても、今後検討していく必要がある。
（柴山構成員）JDLAにおいてもガバナンスに関する取組を進めている。AIガバナンス協会の取組と重なる部分もあり、最低限講じるべき対策等について、一定の相場観が見えてきた印象である。政府調達においても、委託先が企業として安全性やガバナンスにどの程度取り組んでいるかを確認することが重要である。本ガイドラインの改定にも反映できる内容であると考える。
- （佐久間構成員）企業としての信頼が担保されていることは重要である。行政側で詳細な調査を行うことは難しいため、リスクの度合いも踏まえつつ、一定のヒューリスティクスとして活用できる信頼性のあるフレームワークを民間側からも取り入れながら検討していきたい。
- （門林座長）ガバナンスは組織論として語られることが多いが、クラウドガバナンスの時と同様に技術面も踏まえて検討を進めることが必要である。資料2では、AI管理基盤等のエンタープライズ向け機能にガバナンスが組み込まれていることが示されていた。こうした技術を適切にコントロールできる人材が必要になる。ガバナンスに関する免許や資格制度のようなものも、今後整備されていくと認識している。クラウド事業者等とも対話し、AIエージェントに係る資格制度の拡充についても検討できるとよい。
- （佐久間構成員）ご指摘のとおり、企業側において、ガバナンスの知見を持ち、AIガバナンスを中核的に担える人材を育成することが必要である。
（岡田構成員）資料28ページでは、AIガバナンスナビの取組項目が整理されているが、これは会社・組織として対応を求めているものか、特定の生成AIシステムやAIエージェントを想定した対応を求めているものか。
- （佐久間構成員）「各リスク領域における対策」の項目についてはユースケースによって対応すべき事項が異なるため、各社の代表的なユースケースを基に回答いただいている。ルールの明文化、人材育成、組織体制整備、透明性等の項目は組織単位で判定ができるため、組織として取組を実施しているかを聞いている。組織全体としての活動については、グループガバナンス（子会社等）も含まれており、資料35ページではその結果を整理している。
- （岡田構成員）企業による領域別の自己診断では、透明性・アカウンタビリティ確保の点数が比較的低いとのことだった。特に低い項目について、公共部門で留意すべき等の観点があればご教示いただきたい。
- （佐久間構成員）そもそも取組項目自体が難しいのではないかという議論が内部であった。例えば「透明性の確保」については、EU AI Actで求められているような内容を念頭に置いているが、方法論がまだ十分に確立されていない面があり、そこまで点数が高くなっていない。「第三者目線でのリスク管理に対する評価を行っているか」という項目は特に点数が低くなりやすく、中小企業にとっては対応が難しい場合もある。他方で、ユーザーからの継続的なフィードバック等により代替的に対応できるケースもあるため、今後改善の余地がある。
- （岡田構成員）AIガバナンス協会では、AIアライメント問題についてどのような取組を行っているか。例えば、コンスティテューショナルAIに関する取組等を実施しているのか、あるいは現時点では未着手なのか伺いたい。
- （佐久間構成員）AIに人間の意図を反映させるアプローチについては、二つの層に分けて考える必要がある。第一に、企業のポリシー等をAIに直接組み込むダイレクト（直接的）アライメント、第二に、それらのポリシーを外部ステークホルダーの権利・利益と整合させるためのソーシャル（社会的）アライメントである。後者のソーシャルアライメントについては、ステークホルダーのリスク認識を捉えることが、透明性・アカウンタビリティの重要な役割であると考えている。この点については、各社でポリシー策定等が進められているものの、まだ発展途上であり、当協会としても企業間やステークホルダーとの勉強会等を通じて改善を図っている。一方、ダイレクトアライメントについては、資料42ページで示した各リスク領域への対策が該当する。具体的には、個人情報保護のためのガードレールの整備や、バイアス対策としてのレッドチーミングテストの実施等、ユースケースのリスクに応じた個別の対策が進められている。一方で、ファウンデーションモデルの開発におけるアライメントについては、今後さらに議論を深めていく必要がある。
- （門林座長）AI提供者とユーザー企業の責任分界等も重要であると認識している。

（5）今後の予定

事務局より、今後の予定について資料5により報告した。

質疑及び意見

今後の予定に関する出席者からの質疑及び意見等はなかった。

閉会にあたり、川崎デジタル大臣政務官より、政府におけるAIガバナンスとデータの在り方について検討を深めるとともに、デジタル庁においてもAIエージェントの利活用を進めながら、デファクトスタンダードを踏まえた議論を深めていきたい旨の発言があった。

以上