ラクタノ AI編集部
AIを活用して毎日最新情報をお届けしています
概要
AI（人工知能）のビジネス活用が当たり前になる中、経済産業省と総務省が策定した「AI事業者ガイドライン」が改定され、第1.2版として今年（2026年）5月より本格的な適用が始まっています。
今回の改定で最も注目すべきポイントは、AIが自律的に業務をこなす「AIエージェント」や、現実のロボット等と連動する「フィジカルAI」を利用する際、AIが最終的な行動を起こす前に「人間が内容を確認し、承認する仕組み（Human-in-the-Loop：ヒューマン・イン・ザ・ループ）」を設けることが、事実上の標準ルールとして明記された点です。
「うちはAIを開発しているわけではなく、外部のサービスを使っているだけだから関係ない」と思われるかもしれません。しかし、このガイドラインは外部のAIサービスを利用するだけの中小企業も対象となります。対応が遅れると取引先からの信頼低下や、思わぬトラブルに巻き込まれるリスクがあるため、経営者として正しい理解と早めの対策が求められています。
背景
なぜ今、このようなガイドラインの改定が行われたのでしょうか。その背景には、AI技術の急速な進化と、それに伴う新たなリスクの台頭があります。
これまで、AIの活用といえば「人間が質問を入力し、AIが回答を生成する」といった対話型AI（ChatGPTなど）が主流でした。しかし現在では技術が一歩進み、人間の指示がなくてもAIが自ら考えて複数のタスクを連続して実行する「AIエージェント」や、工場のカメラやロボットとAIが連動して物理的な作業を行う「フィジカルAI」の実用化が進んでいます。
例えば、AIが取引先からのメールを読み取り、自動で見積書を作成して返信まで行ってしまうような仕組みです。大変便利で業務効率化の大きな武器になりますが、もしAIが勝手に間違った金額で発注してしまったり、誤った顧客情報を送信してしまったりしたらどうでしょうか。大きな損害や信用失墜につながりかねません。
日本政府は、こうしたAIの進化による恩恵を中小企業にも最大限に享受してもらう一方で、暴走や権利侵害といったリスクを未然に防ぐため、「安全・安心なAIの利用環境」の整備を急ピッチで進めています。その一環として、昨年（2025年）から今年（2026年）にかけて法整備の議論が活発化しており、今回の「AI事業者ガイドライン（第1.2版）」の本格運用へと至ったのです。
ポイント解説
今回のガイドライン改定において、中小企業の経営者・実務担当者が押さえておくべき重要なポイントを3つに噛み砕いて解説します。
1. 外部サービスを使うだけの企業も「AI利用事業者」になる
ガイドラインでは、AIの開発者や提供者だけでなく、AIを業務に組み込んで利用するすべての企業を「AI利用事業者」と定義しています。ここには、従業員数や資本金による「中小企業の除外規定」はありません。つまり、市販のAIツールや業務SaaSを導入しているだけでも、適切な管理体制を敷くことが求められるということです。
2. 「人間の介在（Human-in-the-Loop）」が必須要件に
今回の改定の最大の目玉が、この「人間の介在」です。専門用語で「Human-in-the-Loop（HITL：ヒューマン・イン・ザ・ループ）」と呼ばれます。
これは、AIが外部（顧客や取引先など）に影響を与える操作を行う前に、必ず人間が内容を理解し、最終的な実行ボタンを押す（承認する）工程を組み込まなければならないというルールです。事後報告で「AIが間違えました」では済まされないため、実行前のストッパーとして人間の判断を必須としています。
3. 実務で求められる「3段階のチェックフロー」
「人間の介在」を確実に行うため、実務レベルでは以下の3つのステップで確認を行うことが推奨されています。
- ① 論理と根拠の妥当性確認（Traceability：追跡可能性）
AIが「なぜその結論に至ったのか」を確認します。AIがもっともらしい嘘をつく現象（ハルシネーション）や、偏ったデータに基づく差別的な判断（バイアス）が含まれていないか、社内のルールに反していないかをチェックします。
- ② 外部影響と安全性の評価（Safety Check：安全確認）
AIの出力結果が、他社の著作権や個人のプライバシーを侵害していないかを確認します。また、ロボット等のフィジカルAIの場合は、物理的な安全装置や緊急停止機能がきちんと働く状態かを評価します。
- ③ 最終的な意思決定（Human Approval：人間の承認）
「誰が責任を持つのか」を明確にした上で、担当者が最終的な承認を行います。万が一AIが予期せぬ動きをした場合に、人間がすぐに介入して操作を取り消せる（オーバーライドできる）体制が必要です。
今回の改定内容だけでなく、ガイドラインの全体像や中小企業が優先すべき基本対策については、過去記事「経産省・総務省の「AI事業者ガイドライン（第2.0版）」発表！中小企業が今すぐやるべき3つの対策」で詳しく解説しています。
企業への影響
では、これを受けて中小企業は具体的にどのようなアクションを起こすべきでしょうか。焦る必要はありませんが、以下のステップで着実に準備を進めることが大切です。
1. 「AI利用方針（社内ルール）」を早急に策定する
まずは、社内でAIをどう使うか、何をしてはいけないかを定めた「AI利用方針」を作りましょう。高度なIT知識がなくても大丈夫です。経済産業省などの公式サイトでは、中小企業向けのテンプレートが公開されています。これを活用し、「機密情報や個人情報は入力しない」「AIが作った文章は必ず人間がチェックしてから外部に出す」といった基本的なルールを明文化し、従業員に周知してください。
2. 政府提供のチェックリストやツールを活用する
専門のIT人材がいなくても、政府機関が用意している支援ツールを活用することで安全な体制を構築できます。
例えば、2024年4月に策定された「AI事業者ガイドライン（第1.0版）」の付録には、自社の状況を確認できる「チェックリスト」が用意されています。また、独立行政法人情報処理推進機構（IPA）に設置された「AIセーフティ・インスティテュート（AISI）」からは、中小企業向けの「自己診断ツール」や「業種別リスク評価シート」の提供が進められています。これらを定期的に活用し、自社のAI利用に危険な点がないかを点検しましょう。
3. 取引先からの「サプライチェーン排除リスク」に備える
現在、ガイドラインを守らなかったことによる直接的な法律上の罰則はありません。しかし、ビジネス上のリスクはすでに生じ始めています。
政府の公共調達（国や自治体の仕事の入札など）では、AIの安全性に配慮しているかが条件になりつつあります。さらに、大企業は自社のコンプライアンスを守るため、取引先である中小企業に対しても「AIを安全に使っているか」を厳しく問うようになっています。もしガイドラインに沿った体制ができていないと、ある日突然「おたくとは取引できない」と言われてしまう（サプライチェーンからの排除）リスクがあるのです。
ガイドライン遵守と業務効率化を両立させる「AIエージェント」の具体的な活用事例については、過去記事「【士業向け】単なる「下書き」はもう古い！AIエージェントで事務を月120時間削減する具体策」をぜひ併せてご覧ください。
今後の見通し
日本政府のAI政策は、これまでのような「企業にお願いする自主的なガイドライン」から、法律に基づく「義務」へと少しずつ移行しています。今年（2026年）から来年（2027年）にかけては「AI基本法（仮称）」といった法律の整備が進むと見込まれており、企業規模を問わず、適正なAI運用のルールが法的に求められるようになる可能性が高いです。
また、技術の進歩に合わせてルールも毎年見直される「アジャイル・ガバナンス」という方針がとられています。一度ルールを作って終わりではなく、常に最新の状況に合わせて社内体制をアップデートしていく姿勢が求められます。
一方で、国もただ厳しいルールを押し付けるわけではありません。AIの安全な導入や社内体制の構築を支援するため、最大数千万円規模の補助金制度や、専門家を派遣する支援策も拡充されています。
中小企業の皆様におかれましては、AIを「リスク」として遠ざけるのではなく、ガイドラインという「安全な道しるべ」に沿って正しく活用することで、業務効率化や新たなビジネスチャンスの創出につなげていただければと思います。まずは手軽なチェックリストの活用や、社内ルールの策定といった、身近な一歩から始めてみてはいかがでしょうか。
情報元
- meti.go.jp 【公式】
- 経済産業省 【公式】
- 経産省 AI政策 【公式】
- 総務省 【公式】
- 総務省 情報通信政策 【公式】
- AI戦略会議 【公式】
- deloitte.com
- prtimes.jp
