ラクタノ AI編集部
AIを活用して毎日最新情報をお届けしています
ビジネスの現場でAI（人工知能）の活用が当たり前になる中、国が定めるAIの安全利用に関するルールも日々アップデートされています。
経済産業省と総務省は2026年3月末、「AI事業者ガイドライン」を第1.2版へと改定しました。今回の改定では、AIが自ら考えて業務を遂行するような最新技術への対応が盛り込まれ、企業規模を問わずすべての事業者に「安全なAI運用」が求められるようになっています。
「ガイドラインが変わったと言われても、うちのような中小企業には関係ないのでは？」「専門用語が多くて何をすればいいのかわからない」と感じる経営者の方も多いかもしれません。しかし、AIを業務で使っている以上、決してひとごとではありません。
この記事では、新しいAI事業者ガイドラインの要点と、中小企業が安全かつ積極的にAIを活用するために「今すぐ取るべき具体的なアクション」をわかりやすく解説します。
概要
今回の政策をひとことで言うと、「AIが勝手に行動してトラブルを起こさないよう、重要な場面では必ず『人間による最終確認』を挟むルールを明確にしたもの」です。
政府はこれまでも、AIを安全に使うための指針として「AI事業者ガイドライン」を定めてきました。今回公表された「第1.2版」では、従来の内容に加えて、自律的にタスクをこなす「AIエージェント」や、工場などで動くロボットなどの「フィジカルAI」に関するリスク管理が新たに追加されました。
特に強調されているのが、「Human-in-the-Loop（ヒューマン・イン・ザ・ループ＝人間による介在）」という考え方です。AIにすべてを丸投げするのではなく、お金が動く場面やデータが消える場面など、取り返しのつかない操作の直前には、必ず人間がチェックして承認する仕組みを作りなさい、というメッセージが込められています。
背景
なぜ今、このようなガイドラインの改定が行われたのでしょうか。
その背景には、AI技術の急速な進化があります。昨今までのAIは、人間が質問したことに答えてくれたり、文章の要約をしてくれたりする「アシスタント」のような存在でした。しかし今年に入り、AIは「自ら計画を立てて、複数のシステムを操作し、業務を完結させる」という自律的な存在（AIエージェント）へと進化を遂げています。
例えば、「在庫が減ったら自動で発注システムにログインし、取引先に注文メールを送る」といった作業を、AIが全自動で行えるようになってきているのです。
これは業務効率化の観点からは夢のような技術ですが、一方で「AIが誤認識をして、100個でいい備品を1万個発注してしまったら？」「AIが不要だと判断して、顧客の重要データを勝手に消去してしまったら？」といった新たなリスクを生み出します。また、製造業や物流業などで活躍する「フィジカルAI（自律型ロボットなど）」が誤作動を起こせば、従業員の身体的な危険にも直結します。
日本政府は、こうした新しいAIのポテンシャルを最大限に引き出し、企業の生産性向上を後押ししたいと考えています。そのためには「安全・安心」の土台が不可欠であるとし、技術の進歩に合わせたスピーディーなガイドライン改定が行われたのです。
ポイント解説
今回の「AI事業者ガイドライン（第1.2版）」において、中小企業の経営者が押さえておくべきポイントは以下の3つです。
1. 「AIエージェント」と「フィジカルAI」への対応
今回の改定の目玉は、自律的に動くAIに対するルールが明記されたことです。
- AIエージェント：人間の指示を待たずに、自律的にソフトウェアやインターネット上のサービスを操作してタスクを実行するAIのこと。
- フィジカルAI：現実世界で物理的に動くAIのこと。工場の自律走行ロボットや、AI搭載の重機などが該当します。
これらを導入する際は、従来のAI以上に「暴走した時のリスク」を想定した設計と運用体制が求められます。
2. 最重要キーワード「Human-in-the-Loop（人間による介在）」
ガイドラインの中で最も強く推奨されているのが「Human-in-the-Loop」です。これは直訳すると「人間の輪の中への参加」となりますが、要するに「AIの自動処理の途中に、人間の判断・確認プロセスを挟み込むこと」を指します。
具体的には、以下の3つのような「重大な影響を及ぼす操作」をAIが行う前には、必ず人間が最終ボタンを押す（承認する）設計にすることが強く求められています。
- 外部への注文・決済：10万円以上の決済や、外部との契約行為など、誤作動が直接的な経済的損失につながる操作。
- 重要データの削除：顧客リストや社外秘ファイルなど、一度消してしまうと復旧が困難なデータの抹消操作。
- 物理的危険を伴う操作：工場ラインの起動・停止や、重機の操作など、人の命や安全に関わる物理的な動き。
3. 中小企業も「AIプロバイダー」としての責任を負う可能性
これまで、多くの中小企業は「AIを利用するだけの立場（AI利用者）」でした。しかし、自社の業務に合わせてAIエージェントを細かくカスタマイズして社内運用する場合、ガイドライン上では単なる利用者にとどまらず、AIを提供する側である「AIプロバイダー」に近い責任（透明性の確保やリスク評価など）を求められる可能性があります。自社がどの立ち位置にいるのか、意識を変える時期に来ています。
企業への影響
では、この新しいガイドラインを受けて、中小企業は具体的にどのような対応をすべきでしょうか。明日から取り組める3つのアクションをご紹介します。
① 社内規程の改定と「AI資産台帳」の作成
まずは、社内のAI利用ルール（社内規程）を最新の状況に合わせてアップデートしましょう。顧客の個人情報や未公表の営業秘密など「AIに入力してはいけないデータ」を明確にリストアップし、従業員に周知徹底します。
さらに、社内のどの部署で、何の業務に、どのようなAIツールを使っているのかを一覧にした「AI資産台帳」を作成することを強くおすすめします。誰が何のAIを使っているか（シャドーAIの防止）を経営陣が把握しておくことが、ガバナンスの第一歩です。
② 業務フローへの「人間の確認」の組み込み
前述した「Human-in-the-Loop」の原則を、実際の業務フローに落とし込みます。AIが作成した対外的なメールや見積書、あるいはAIによる発注作業については、「そのまま自動送信せず、必ず担当者が目視で確認してから送信ボタンを押す」というルールを徹底してください。最終的な責任はAIではなく、人間（企業）が負うという意識を社内で共有することが重要です。
③ システム発注・ベンダー選定時のチェック
今後、外部のITベンダーにAIシステムや自律型ツールの開発・導入を依頼する際は、「経産省のAI事業者ガイドラインに準拠した設計になっているか？」を必ず確認してください。
契約書を結ぶ際にも、学習データの著作権クリアランスはどうなっているか、トラブルが起きた際の責任の所在（責任分界点）はどこにあるのかを明確にしておくことが、将来の法的リスクを回避する鍵となります。
※注意すべきビジネスリスク
現時点では、このガイドライン自体に直接的な罰則はありません。しかし、ガイドラインを無視してずさんなAI運用を行い、万が一顧客情報の漏洩などを起こしてしまった場合、「個人情報保護法」の安全管理措置義務違反に問われ、最大1億円以下の罰金が科されるリスクがあります。
また、大企業を中心にAIガバナンスへの要求は厳しくなっており、ガイドラインに準拠していない企業は、サプライチェーン（取引先ネットワーク）から外されてしまうというビジネス上の信用リスクも高まっています。
今後の見通し
日本政府は、AIの安全性をさらに確実なものにするため、2025年から2026年にかけて従来の「お願い（ソフトロー）」ベースのガイドラインから、より実効性のある法的枠組み（ハードロー：いわゆるAI基本法など）への移行を検討しています。来年以降、一定のリスクを伴うAI利用に対しては、さらに明確な法的ルールが整備されていく見通しです。
一方で、政府は「ルールを守って正しくAIを活用する企業」に対して、非常に手厚い支援制度を用意しています。中小企業が安全なAIシステムを導入するためのコストは、国がしっかり後押ししてくれます。
活用できる主な支援制度（2026年時点）
- IT導入補助金2026「AI導入・ガバナンス枠」：AIの導入費用だけでなく、ガイドラインに沿ったセキュリティ対策やリスク評価機能の実装にかかる費用も補助の対象となります。セキュリティ要件を満たせば、補助率が引き上げられる有利な仕組みが用意されています。
- ものづくり補助金：製品やサービスの高付加価値化を目指す枠組みの中で、AIの安全性を担保するための第三者認証取得費用やシステム監査費用が経費として認められる見込みです。
- AISI（AIセーフティ・インスティテュート）の技術評価ツール：総務省・経産省の連携により、自社のAIシステムが安全基準を満たしているかを客観的にチェックできるツールが、補助金受給企業向けに無償提供される取り組みも進んでいます。
まとめ
AIエージェントやフィジカルAIといった最新技術は、人手不足に悩む中小企業にとって強力な武器となります。しかし、強力な武器だからこそ、暴発を防ぐための「安全装置（人間の確認）」が欠かせません。
まずは自社の「AI資産台帳」を作成し、業務フローに「Human-in-the-Loop」の仕組みを組み込むことから始めましょう。そして、国の補助金を賢く活用しながら、ガイドラインに準拠した安全で信頼されるAI運用体制を構築していくことが、これからの時代を生き抜く企業の必須条件と言えるでしょう。
情報元
- 経済産業省 【公式】
- 経産省 AI政策 【公式】
- 総務省 【公式】
- 総務省 情報通信政策 【公式】
- AI戦略会議 【公式】
