はじめに

2022年11月に無料公開した米国の新興企業オープンAI（OpenAI）の対話型生成AI「ChatGPT」が世界的に大きな反響を呼び、文章・画像・動画・音声などを自動生成する「生成型AI」は急速に国際社会を席捲、様々な分野でその利活用が急拡大している。利便性の向上が期待される一方、偽情報や誤情報の拡散などで日常的な生活の場で弊害が生じてきており、グローバルな対応が急務の課題となっている。そうした中、欧州連合（EU）理事会(閣僚理事会)は2024年5月21日に生成型AIを含むAIの包括的枠組み規則案(AI規制法案、以下AI法)を承認、AI法は正式に成立した。2026年からの本格的施行を目指す。EUは域内で提供されるAIシステムの安全性や基本的権利、民主主義、倫理原則、法の支配などのEUの価値観を保護することを目的とし、他国に先駆けてEUのAI法が世界標準（グローバルスタンダード）となることを目指す。

先駆的なAI包括規制

EU理事会は2024年5月21日、世界初のAIの開発や運用を包括的に規制するAI法の最終案を承認した。AI法は数日以内に官報に掲載され、20日後に施行される(注1)。すでにEUの立法機関の欧州議会も3月13日に採択している。AI法は文章や画像、動画、音声などを自動生成する「生成型AI」の基本モデルを提供する基盤モデル開発事業者に対して、開発手順の透明化や著作権関連規則などの順守を義務付け、違反者には巨額の制裁金を科すことが柱だ。

AI法は、EU法の範囲内にある分野に限り適用され、軍事・防衛専用システムや研究・イノベーション目的のシステムを適用除外する他に、個人の利用目的も対象外と規定している。また、社会に及ぼすリスクが高いほど規制が厳しくなる手法（「リスクベース・アプローチ」）を取り入れている。施行から24か月後の26年に全面的な適用開始を見込む。禁止事項は6か月後に発効するなど一部の規制は前倒しして適用するほか、全面適用までの経過措置として、事業者などにはAI法に近い自主的ルールの順守を求める。

EUは巨大市場の先駆的な規制として、域外諸国の法規制に影響を与える可能性もある。欧州委員会のウルズラ・フォンデアライエン委員長は「EUが先駆者としてAI(基盤モデル開発事業者)に対して鮮明な『ガードレール』（安全対策）を設けた」との声明を出している。

AI法の主要なポイントは以下の通りである(表1、表2参照)。

1. 対話型サービス「ChatGPT」などの生成型AIについては、利用目的のリスクの高さに応じて4つのレベルに分類する。最もリスクの高いケースとして、未成年者に危険な行動を誘導し、思想を植え付ける（サブリミナル）手法などの利用を禁じる
2. 不当または不適切なソーシャルスコアリング（社会的行動や個人的特性による信用格付け)の運用を禁じる
3. 政治的信条、社会的地位、宗教、性的指向、人種などを推定、分類して差別を助長するAIの利用を禁じる
4. インターネット、監視カメラからの映像や画像の無差別抽出を禁じる
5. 顔認証など遠隔生体認証技術の公共の場でのリアルタイムの使用を禁じる（テロ攻撃の脅威の防止や幼児虐待など重大犯罪の捜査は対象外）
6. 研究開発や業務とは関係ない個人のAI利用は規制の対象外とする
7. 高リスクのAIに関しては、適合性評価や透明性要件など厳格な義務が課される
8. 限定的リスクのAIに関しては、軽度の情報開示を義務付ける
9. 汎用目的型AI（GPAI）に関しては、透明性とリスク管理の義務を課す
10. AI法違反の事業者には、最大3,500万ユーロか、年間売上高の7％の制裁金を科す
11. 欧州委員会の管轄下に「AIオフィス」と呼ぶ監督・執行機関を設置し、AI法の順守状況を調査し、想定外のシステミック・リスクを生じる恐れのある「汎用目的型AIモデル」（general purpose AI,GPAI）」の課題に集中的に取り組む体制を作る

欧州委員会は2024年5月29日、「AIオフィス」の詳細を公表した。6月にも本格的な業務を始める。IT(情報技術)分野の専門家や法律家など140人体制で取り組む。EU加盟国の規制当局と連携し、AI法の順守状況を調査する。また、AIを活用した企業の革新的な研究をバックアップするための資金を提供する業務も担う。

表1. AI法の概要

表2.　AI法の4段階のリスク

開発優先の独仏伊と議論白熱

AI規制法案は、米オープンAIの生成型AI「ChatGPT」が登場する前の2021年4月に欧州委員会から提案されている(注2)。欧州委員会のマルグレーテ・ベステアー委員（デジタル・競争政策担当）は「EUは信頼できる新たなAIの世界基準の開発を主導する」と発言している。その後22年12月にEU理事会は修正案を採択。23年6月、欧州議会がChatGPTなどの生成型AIを含む基盤モデルへの規制を追加した修正案を採択し、最終案に向けて協議を続けていた(注3) 。

欧州議会は生成型AIに対して規制強化の立場をとり、AIで生成した事実を明示するよう事業者に要求し、EU法に違反するコンテンツ(内容)の生成を禁止するとした。法違反の罰金は当初の売上高の最大６％または最大3,000万ユーロから7％または3,500万ユーロに引き上げることを主張。一方、世界的にAIの開発競争が激化する中で、ドイツ、フランスなどは過度の規制による自国企業の競争力低下を懸念して「開発優先」の主張を曲げなかった。フランスは「ミストラルAI」、ドイツは「アレフ・アルファ」と国内に有力なAIスタートアップを抱えており、厳しい規制が自国産業育成の足かせになることを恐れた。また、早い段階で欧州有力企業のトップらも厳格な規制の導入は避けるべきだと欧州委員会に書簡を送っていた。

23年12月、EU理事会、欧州議会、欧州委員会の三者協議(トリローグ)は3日間40時間近い延長を繰り返し、ようやく暫定的な政治的合意にこぎつけた。EU理事会議長国のスペイン政府高官は「苦しみとストレスに満ちたプロセスだった」と振り返った。

三者協議は生成型AIに対して強い規制を求める欧州議会と、過度の規制に難色を示すEU理事会との激しい対立があった。まず、AI法案の適用範囲に関わるAIシステムの定義に関して、OECD(経済協力開発機構)提案のアプローチと一致させることで合意。さらに、EU理事会の要求により、軍事・防衛専用システムを適用除外とした。研究・イノベーションが目的の場合や業務と関係ない個人の利用目的も適用されない。

協議で最大の争点となった、将来的にシステミック・リスクを生じさせる恐れのある影響の大きい生成型AIなどの「汎用目的型AI」（以下、GPAI）については、欧州委員会の原案にはなかったGPAI条項を追加。GPAIモデル及びそれが組み込まれたGPAIシステムに関して、透明性要件を課すことで最終的に合意した。顔認証などの生体認証技術を巡っても議論が紛糾した。欧州議会は全面禁止を主張したが、フランスなどはテロ対策などで例外を認めるよう要求した結果、テロ防止や重大犯罪捜査などに限り認める規定を設けた（注４）。

また、欧州委員会内に「AIオフィス」が設置され、AI法の順守状況を調査する他、すべての加盟国で共通のルールを施行する任務などを負うこととなった

米国も規制、対応が遅れる日本

米国でも2023年10月30日、ジョー・バイデン大統領がAIの安全性を確保するための大統領令を発令し、サービス提供や利用開始前に政府による評価を受けることを義務付けるなど、初めての法的拘束力のある規制が導入された。大統領令の主要な柱は、①安全性とセキュリティーの新基準、②米国民のプライバシー保護、③公平性と公民権の推進、④消費者、患者、学生の権利保護、⑤労働者の支援、⑥イノベーションと競争の促進、⑦国外における米国のリーダーシップの促進、⑧政府によるAIの責任ある効果的な利用の保証の8項目となっている(注５)。バイデン政権が規制制定に動いたのは、偽情報や誤情報の拡散などへの米国民の不安が高まっているためだ。ホワイトハウスは大統領令で大まかな規制を導入した後、米議会での立法措置でルールを整備する道筋を想定している。

ところで、先行する欧米に対して、日本政府の取り組みはどうなっているのだろうか。日本は先進7か国（G７）の(2023年の)議長国として、AIの国際ルール作りをまとめてきた。G7首脳は 2023年12月、「広島AIプロセス包括的政策枠組み及び当該プロセスを前進させるための作業計画」に合意した。また、G7首脳は、AI関係者に対して、広島プロセス国際指針及び国際行動規範を支持することを求めている(注6)。

他方、日本国内のAIに特化した規制については、EUや米国と比べて遅れている現状だ。日本政府は生成型AIの法規制の検討に向けて、ようやく一歩を踏み出したが、今後数年間かけて導入の是非を議論するという。EUや米国で強まる規制の動きを受けた対応だが、政府内にはなお「強い規制は技術革新を阻害する」として法規制の導入に反対する慎重論も根強いという。政府の有識者会議「AI戦略会議」が24年4月に開催され、AI法規制の議論を開始した。具体的な対応を検討すべきリスクとして、①人権侵害、②安全保障・犯罪増加、③知的財産権の侵害などがある。政府はAI事業者に「安全性」などを挙げ、リスクの高いAIへの法規制や大規模開発事業者に情報開示などを求める制度を検討するとしている。政府は24年4月にAI事業者ガイドライン（注7）を策定したが、強制力はなく、事業者の自主性に委ねる方向になっている（注8）。

いずれにしても、先行する欧米の動きにキャッチ・アップしていくうえで、スピード感が求められる。

注

1. EU理事会（プレスリリース、2024.05.21）
   （https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-ai-gives-final-green-light-to-the-first-worldwide-rules-on-ai）
   ジェトロビジネス短信（EU）（2024.05.27）
   （https://www.jetro.go.jp/biznews/2024/05/4a706cd3034c4706.html)
2. 欧州委員会（プレスリリース、2021.04.21）
   （https://www.ec.europa.eu/commission/presscorner/detail/en/ip_21_1682）
   ジェトロビジネス短信（EU）（2021.04.23）
   （https://www.jetro.go.jp/biznews/2021/9be84601921a1d7f.html）
3. 欧州議会（プレスリリース、2023.06.14）
   （https://www.europarl.europa.eu/news/en/press-room/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparant-ai）
4. EU理事会（プレスリリース、2023.12.09）
   (https://www.consilium.europa.eu/en/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai）
   ジェトロビジネス短信（EU）（2023.12.13）
   （https://www.jetro.go.jp/biznews/2023/12/8a6cd52f78d376b1.html）
   日本経済新聞（2023.12.09）
5. ジェトロビジネス短信(米国)（2023.11.01）
   （https://www.jetro.go.jp/biznews/2023/11/495833ae70119dbf.html）
6. 外務省HP：G7首脳テレビ会議（2023.12.07）
   （https://www.mofa.go.jp/mofaj/ecm/ec/pageit_000001_00046.html）
7. 総務省・経済産業省：AI事業者ガイドライン(1.0)(2024.4.19月)
   （https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html)
8. 読売新聞(2024.05.23)、日本経済新聞（2024.05.23）

フラッシュ一覧に戻る