AI法見直し議論がスタート！中小企業が今すぐ知っておくべきAI活用ルールと対策

概要

AI法（人工知能関連技術の研究開発及び活用の推進に関する法律）の見直しに向けた議論が政府内でスタートしました。一言で言えば、「AIの急速な進化に伴う新たなリスク（サイバー攻撃の高度化やAIの逸脱など）にしっかりと対応し、より安全にAIを活用できる社会をつくるため、ルールをアップデートしよう」という前向きな動きです。

現時点で、AIを業務利用する中小企業に新たな罰則や厳しい義務が直ちに科されるわけではありません。しかし、AIを安全かつ効果的にビジネスに活用していくためには、政府のガイドラインに沿った社内体制づくりがこれまで以上に重要になってきています。本記事では、この政策動向の背景やポイント、そして中小企業が今すぐ取り組むべき具体的なアクションについて、わかりやすく解説します。

背景

日本政府は、AI技術のイノベーションを促進しつつリスクを管理するため、昨年に「AI法」を全面施行しました。これまでは、企業の自主的な取り組みを促す「ソフトロー（ガイドラインなどの緩やかなルール）」を中心にAI政策を進めてきました。

しかし、ChatGPTをはじめとする生成AIの爆発的な普及や、人間の指示なしに自律的に判断して行動する「エージェント型AI」の登場により、AIを取り巻く環境は劇的に変化しています。それに伴い、リスクの性質や変化のスピードも大きく変わってきたため、包括的な法制度の基盤を強化する方向に舵を切りました。

政府がルールの見直しを進める背景には、主に以下の2つの大きなリスクがあります。

AIを使えば、極めて自然な日本語の詐欺メールを大量に自動作成したり、企業のシステムの弱点（脆弱性）を自動で探し出したりすることが容易になります。これにより、セキュリティ対策の人材や予算が限られている中小企業が直接的な被害に遭うリスクが高まっています。さらに恐ろしいのは、中小企業がターゲットにされるだけでなく、取引先である大企業のネットワークに侵入するための「踏み台」として悪用されるケースが増加していることです。

これは、AIが人間の意図から外れた予測不能な動作をしてしまうリスクです。例えば、顧客からの問い合わせに対して不適切な自動返答をしてしまったり、誤ったデータを元に大量の商品の自動発注を行ってしまったり、あるいは社内の機密情報を外部に送信してしまったりと、人間の監視が及ばないところで予期せぬ損失が生じる懸念が高まっています。

このような新しい課題に対応するため、政府はルールの見直しに向けたワーキンググループを新設し、官民が連携して安全対策を強化するための議論を始めました。

政府によるAI政策の全体像や、中小企業が活用できる支援策・補助金については、過去記事経産省・デジタル庁が動く！政府の最新AI政策と中小企業が今すぐ活用できる補助金・支援策まとめで詳しく解説しています。

ポイント解説

現在、政府のワーキンググループ等で議論されている見直しのポイントは、大きく以下の4つです。専門用語も噛み砕いて解説します。

1. 人間の介在（Human-in-the-Loop）の義務的要件化

AIに業務をすべて任せきりにするのではなく、重要な判断を下す際や、外部へ情報を送信する直前には、必ず「人間が最終確認（承認）する」プロセスを組み込むことが求められる方向です。これを専門用語で「Human-in-the-Loop（ヒューマン・イン・ザ・ループ）」と呼びます。人間が間に入ることで、AIの暴走や誤作動を防ぐ狙いがあります。

2. 安全性評価（AISI基準）の連携強化

AIセーフティ・インスティテュート（AISI）という国の安全機関が策定する基準をもとに、AIの安全性をしっかりチェックする体制づくりが進められています。例えば、わざとAIにサイバー攻撃を仕掛けて弱点を見つける「レッドチーミング」と呼ばれるテスト手法などを活用し、AIを導入する前と後の両方で安全性を検証する仕組みが具体化されつつあります。

3. トレーサビリティ（追跡可能性）と説明責任の確保

AIが「なぜその結論に至ったのか」が誰にも分からない（ブラックボックス化）状態を防ぐためのルールです。AIが学習したデータの出所や、どのような推論を経て行動を起こしたのかという記録（ログ）を文書として残し、後からしっかりと追跡できるようにすることが検討されています。

4. サイバー対処能力とインシデント報告の枠組み

最先端のAIモデルを悪用したサイバー攻撃に備えるための仕組みです。万が一、AIに関する安全上の不具合や悪用事例（インシデント）が発生した際に、関係機関へスムーズに情報を共有し、報告できる体制の標準化が進められています。これにより、社会全体で迅速に脅威に対処できるようになります。

自社のデータや知財を守りながら安全にAIを活用する具体的な対策については、過去記事【テックトレンド】主要AI4社が学習拒否の統一シグナルに対応！中小企業のWeb知財を守る新基準もあわせてご参照ください。

企業への影響

「法律が見直されると、うちの会社にも厳しい規制や罰則が来るのでは？」と心配される経営者の方もいらっしゃるかもしれません。しかし、ご安心ください。

現行のAI法において、ChatGPTなどの外部AIサービスを業務に導入・利用している中小企業は「AI利用者（または活用事業者）」に位置づけられています。AI法では、活用事業者に対して「国の施策に協力する責務（努力義務）」は定められているものの、新たな許認可の取得や届出の義務、直接的な禁止事項、あるいは行政罰といった厳しい罰則規定は設けられていません。

また、総務省と経済産業省が今年3月に公表した「AI事業者ガイドライン（第1.2版）」でも、AI利用者に対しては、機密情報の入力制限や、人間による出力結果の確認（Human-in-the-Loop）といった自主的なガバナンス（管理体制）の構築が推奨されている段階です。

つまり、単にAIツールを利用する中小企業において、当面の事業運営で直接的な義務や負担が急に増えるわけではありません。実務上最も注意すべきなのは、AI法そのものではなく、AIを利用する過程で既存の「個人情報保護法」や「著作権法」をうっかり違反してしまわないようにすることです。

専門部署や専門家がいない中小企業でも、政府が提供する公式ツールを使って、以下の手順で前向きに対応を進めることが推奨されます。

まずは、現場の社員がどのようなAIツールを業務で使っているかを把握しましょう。その上で、入力したデータがAIの学習に利用されない設定（オプトアウト機能など）になっているかを直ちに確認してください。

「AI事業者ガイドライン（第1.2版）」には、別添7として「チェックリスト・ワークシート」が用意されています。これを活用して、「個人情報や顧客の機密情報はAIに入力しない」「AIの生成物は必ず人間が正確性や他者の著作権を侵害していないか最終確認する」といった基本的な社内ルール（規程）を定めましょう。

策定したルールを全従業員に周知するため、短時間でもよいので社内研修を実施しましょう。また、不審な出力が出た場合やトラブルが生じた際の社内報告窓口を決めておくことで、安心してAIを活用できる環境が整います。

今後の見通し

日本政府は、AIによるイノベーションの促進とリスク対応の両立を目指し、段階的かつスピーディに制度構築を進めています。昨年末にはAI法に基づく初の「人工知能基本計画」が策定され、技術革新のスピードに合わせて今年7月には早くも改定が行われるなど、機動的な対応が取られています。

今後のスケジュールとしては、以下のような動きが予定・想定されています。

• 今年末（予定）：今年10月に発足した政府横断組織「AI・デジタル改革推進会議」にて、「AIを活用した社会変革（AX）の具体像」や「AI・デジタル改革原則」などに関する「中間整理」が取りまとめられる見通しです。
• 現在〜：人工知能戦略専門調査会などの場で、現行のAI法の見直し議論が本格化しています。従来の自主性・努力義務を中心とした枠組みから、悪質な事業者への規律やガバナンス強化が必要かどうかが検討されています。
• 来年以降（見通し）：これらの議論を踏まえ、年明け以降に残されたAIガバナンス強化策が具体化され、基本計画の改定や、AI法を含む関連法令の改正に向けた法案策定へと順次進んでいくと見込まれます。

中小企業としては、今後の法改正の動向を注視しつつも、まずは現行の法令（個人情報保護法や著作権法など）に則した安全なAI活用体制を構築することが重要です。政府のガイドラインやチェックリストを上手に活用し、社内のルール整備と従業員教育から着実に進めていきましょう。それが、AI時代を生き抜くための最も確実で建設的な第一歩となります。

情報元

• cao.go.jp 【公式】
• mext.go.jp 【公式】
• sangiin.go.jp 【公式】
• meti.go.jp 【公式】
• soumu.go.jp 【公式】
• digital.go.jp 【公式】
• kantei.go.jp 【公式】
• 内閣府 【公式】
• 内閣府 科学技術・イノベーション 【公式】
• 経済産業省 【公式】