皆さんの会社では、AIエージェントに「発注」や「顧客対応の最終回答」まで任せる議論は、どこまで進んでいるでしょうか。2026年3月31日、総務省と経済産業省は「AI事業者ガイドライン」を第1.2版に改訂しました。2024年4月の初版公表から数えて2度目の改訂となる今回は、自律的に行動する「AIエージェント」と、ロボットやIoT機器を通じて物理世界にまで意思決定の実行が及ぶ「フィジカルAI」を新たに定義に加えたことが最大の特徴です。技術の進化にガイドラインがようやく追いついてきた形ですが、企業側の体制整備はまだ追いついていないのが実情ではないでしょうか。本稿では第1.2版の改訂ポイントを整理しながら、ITストラテジストが果たすべきガバナンス設計の役割を考えます。
AIエージェントとフィジカルAI、なぜ今「定義」が必要なのか
これまでのガイドラインが主に想定していたのは、人間の指示に応じて文章や画像を生成する生成AIでした。しかし現場では、経理伝票の処理や在庫調整、顧客対応の一次回答などを自律的にこなす「タスク特化型AIエージェント」の実装がすでに進んでいます。さらに一歩進んで、ロボットや搬送機器、IoTセンサーと連携し、倉庫内のピッキングや工場設備の制御といった物理空間での作業判断にまで関与するものが「フィジカルAI」です。人間の介在なしに複数のアクションが連鎖して実行されるという設計思想は共通しており、従来のRPAや単発の生成AI活用とは、誤作動が起きた際の影響範囲が桁違いに大きくなります。ガイドラインがこの二つをあえて明確に定義したのは、対象を厳密に切り分けなければガバナンス設計そのものが成り立たないという、規制側の危機感の表れとも読み取れます。
Human-in-the-Loopの義務化 ― 「人間が必ず最終判断できる仕組み」をどう設計するか
今回の改訂で実務上もっとも重い意味を持つのが、重要な判断や不可逆的な操作を行う場面では、必ず人間による確認・承認プロセスを経る設計、いわゆるHuman-in-the-Loopを求めた点です。承認フロー、権限やアクセス範囲を段階的に広げる「段階的自律性」、そしていつでも人間がAIエージェントの判断を覆せる「オーバーライド機能」の三点が、設計上の柱として示されています。皆さんの現場でこれを落とし込むとすれば、まず着手すべきは業務ごとの影響度評価でしょう。問い合わせの一次回答案の作成のように後から人が修正できる業務と、発注確定や与信判断のように取り消しが難しい業務とでは、求められる承認階層もログ・監査証跡の粒度もまったく異なります。ITストラテジストには、事業部門の「早く広く使いたい」という要求と、統制部門の「安全に使いたい」という要求の間で、この権限設計とエスカレーションルートを具体的な業務フローに落とし込む調整力が求められます。
EU AI Actとの整合 ― 2026年8月の適用拡大が突きつける「国際標準」への対応
もう一つの注目点は、国際的な整合性への配慮です。ガイドライン別添が示すAIリスクの分類は、EUのAI規則(AI Act)における高リスクAIシステムの考え方を参考に見直されており、単なる国内向けの指針にとどまらない設計になっています。折しもEU AI Actは2026年8月2日から高リスクAIに関する規定の適用が一部拡大されており、対象となる用途に応じて適用時期が段階的に広がっています。EU域内に拠点や利用者を持つ日本企業であれば、国内のガイドラインへの対応だけでなく、この国際規制の動向も同時ににらむ必要があります。ガイドライン自体も「Living Document」として今後も継続的に更新される前提で作られており、一度整備した社内規程を固定化するのではなく、定期的な見直しサイクルをあらかじめ組み込んでおくことが、変化への対応コストを抑える鍵になりそうです。
まとめ
AI事業者ガイドライン第1.2版は、AIエージェントとフィジカルAIという新しい対象を定義し、Human-in-the-Loopという具体的な設計原則を示すことで、企業に「使うかどうか」ではなく「どう統制しながら使うか」を問うています。EU AI Actとの整合も進む中、この分野は今後、国内外の規制動向を継続的に追いながら社内体制をアップデートし続ける、息の長い取り組みになるでしょう。皆さんの組織では、AIエージェントの権限設計とその見直しサイクルを、誰がどのような体制で担っていますか。
参考情報
- AI事業者ガイドライン(第1.2版)概要(総務省・経済産業省、令和8年3月31日)
- AI事業者ガイドライン(第1.2版)別添(付属資料)(総務省、令和8年3月31日)
- AI事業者ガイドライン第1.2版(森・濱田松本法律事務所)
（当記事に関するご注意事項）本記事は、AIによる情報収集と文書作成の試行として作成しております。参照文献を添付するなど事実関係については留意しておりますが、記事内の情報についての事実確認は保証しかねますことをご了承願います。
