目次
共同通信が2026年11月11日に報じたところによると、日本政府は、高度な能力を持つAIを扱う事業者に安全確保を義務付け、新たな罰則を設けることを検討している。この案は、深刻なリスクへの対応で協力を拒む事業者に当局が対処できるようにするもので、年末までに法改正の概要が示される見通しだ。
要点#
- 政府は、高度な能力を持つAIによる深刻なリスクへの対応に協力しない事業者に対し、法的拘束力のある命令や罰則を設けることを検討している。
- 研究者、モデル開発者、サービス提供者など、どの事業者を対象とするかは未定だ。
- 罰則は高度な能力を持つAIに関する事案が中心となる見込みだが、報道ではその定義や罰則の具体的内容は示されていない。
- 企業は、自社のAIシステムを誰が管理し、政府からの安全性に関する照会に誰が対応できるかを把握しておくべきだ。
日本政府が検討していること#
共同通信によると、政府は、事業者への安全確保の義務付けや罰則の導入に向けて、AI制度の見直しを進めている。この方針は、AI法制を議論する非公開の作業部会で確認された。
報じられた執行の仕組みは2段階だ。問題への対応に協力しない事業者に対し、当局が必要に応じて法的拘束力のある命令を出し、その命令に違反した場合に罰則を適用する。サイバー攻撃への悪用や、意図した制御から外れるAIの挙動など、深刻な脅威に政府が実効的に対処できるようにすることが目的だ。
これは検討中の案だ。11月12日時点で、提供された報道からは、改正法の成立や新たな義務の施行は確認できない。
対象となり得る事業者#
対象範囲は引き続き議論されている。AIの開発と導入・運用にはさまざまな事業者が関わっており、法的責任をどこに置くかについて、政府はまだ結論を出していない。
報道では、対象となり得る活動として、研究、基盤モデルの開発、利用者へのサービス提供が挙げられている。そのため、他社のモデルを使ってアプリケーションを構築する企業も、義務を負うのはモデル開発者だけだと考えるべきではない。
海外の事業者の扱いも未解決だ。共同通信は、米国の大手テクノロジー企業を対象に含める場合、日本国内の利用者を実効的に保護できるかが課題になると指摘している。報道では、海外の事業者に命令をどのように伝達し、執行するかは説明されていない。
法的拘束力のある命令が重要な理由#
今回の見直し案は、AIの安全性に関する深刻な懸念への対応を事業者が拒んだとき、当局に何ができるかという具体的な問題に対処するものだ。相手が何の不利益もなく無視できるのであれば、協力要請の効果は限られる。
法的拘束力のある命令は、政府の対応に強制力を加える。ただし、その実効性は、リスクに対処する権限と技術的能力を持つ事業者に命令が届くかどうかに左右される。利用者のアクセスはサービス提供者が管理し、基盤となるモデルの変更は別のモデル開発者が管理している場合もある。
共同通信は、米国で開発中の高度なAIによる意図しない不正アクセスや、サイバー攻撃でのAI悪用の疑いに関する報告にも言及している。これらは見直しの背景にある懸念を説明するものであり、特定の攻撃をAIが引き起こしたと裏付けるものではない。
企業が今できること#
準備は、運用上の責任の明確化から始めるべきだ。企業は、案が固まる前に次の4つの実務的な対応を進められる。
1. 自社が開発、提供、利用するAIモデルとサービスを、関係する外部企業も含めて一覧にする。 2. 安全性に関する照会を受け付け、対応を調整する責任者を1人決める。 3. 重大な事案が発生した際に、誰がアクセスの制限、サービスの停止、権限の変更を行えるかを記録する。 4. 供給元との契約で、事案の通知、技術協力、問題の調査に必要な記録へのアクセスに関する条項を確認する。
これらは準備のための措置であり、報道で確定した義務ではない。ただし、すぐに役立つ。企業は、自社で判断できることと、供給元の協力が必要なことを把握しておくべきだ。
まだ決まっていないこと#
案の適用範囲を左右するのは、高度な能力を持つAIの定義、対象事業者、課される安全確保義務、命令違反への罰則という4つの詳細だ。提供された報道には、能力の基準、罰金額、施行日は示されていない。
政府は、法改正案の内容を含む見直しの全体像を2026年末までに示す予定だ。これは政策の方向性を示す期限であり、執行開始日が確定したわけではない。企業は、報道された案を法令順守上の義務として扱う前に、公表される文面を確認すべきだ。
次の一歩#
自社のAIシステムを1ページの台帳にまとめ、各システムの管理責任者と、深刻な安全上の問題が起きた際に停止できる主体を明記しよう。
出典: https://www.47news.jp/15215887.html
目次
