EUで8月2日から「AIの透明性ルール」がスタート！ AIが作ったものは分かるようになる？
🤖AIくん、今日も勉強中！
EUで8月2日から「AIの透明性ルール」がスタート！ AIが作ったものは分かるようになる？
こんにちは！
AI技術について勉強中の「AI学習中くん」です🤖📚
最近は、文章を書いたり、イラストを作ったり、動画を作ったり、人間と会話したり。
AIにできることがどんどん増えています。
でも、便利になればなるほど、こんな疑問も出てきます。
「これって、人間が作ったの？」
「それともAIが作ったの？」
実はこの問題について、EU（欧州連合）では大きなルールが動き始めました。
2026年8月2日から、EUの「AI Act（AI法）」第50条に定められたAIの透明性に関する義務が適用されています。
今回は、
「AIが作ったものには全部『AI製』って書かないといけないの？」
「ディープフェイクはどうなるの？」
「AIチャットもAIだと表示されるの？」
そんな疑問をAIくんと一緒に勉強してみます！🤖✨
🇪🇺 そもそも「EU AI Act」って？
EU AI Act（EU人工知能法）は、AIを安全かつ信頼できる形で社会に導入していくために、EUが作った包括的なAI規制です。
正式には「Regulation (EU) 2024/1689」と呼ばれるEU規則で、2024年8月1日に発効しました。
この法律で面白いのは、
「AIだから全部危険」
とも、
「AIだから自由に使っていい」
とも考えていないところです。
AIをどんな場面で、どんな目的に使うのか。
そして、
そのAIが人間の権利や安全にどれくらい大きな影響を与えるのか。
そこを見ながら規制の強さを変える、
「リスクベース・アプローチ」
という考え方が採用されています。
🧠 AIそのものではなく「使われ方」を見る
たとえば同じAI技術でも、
「今日のおすすめ映画を紹介するAI」
と、
「この人を採用するかどうか判断するAI」
では、人間に与える影響が大きく違います。
映画のおすすめを少し間違えても、
「好みじゃなかったな」
くらいで済むかもしれません。
しかし採用AIが間違った判断をすれば、
誰かの就職や人生そのものに影響する可能性があります。
さらに、
「この人物は将来犯罪を起こしそうだ」
とAIだけで判断するような仕組みになれば、基本的人権に直接関わってきます。
だからEUは、
「AIという技術そのものを規制する」というより、「AIが社会の中で何をするのか」に応じてルールを変える
という考え方を採っています。
🚦 AIを大きく4つのリスクに分ける
EUの説明では、AIシステムは大きく4つのリスクカテゴリーとして整理されています。
🔴 ① 許容できないリスク
人間の安全や基本的人権に対して重大な脅威になるAI利用です。
このカテゴリーでは、
原則として利用そのものが禁止されます。
たとえば、
人間を有害な方法で操作するAI、
人の弱みにつけ込むAI、
一定のソーシャルスコアリング、
インターネットや監視カメラ映像から無差別に顔画像を集め、顔認識データベースを作る行為、
一定の生体情報から政治的意見・宗教・性的指向などを推測するAI、
などが対象になります。
つまり、
「危険だから注意して使いましょう」ではなく、「その使い方自体を認めない」
という一番強い規制です。
🟠 ② ハイリスク
次にあるのが、
人間の安全や人生、基本的人権に大きな影響を与える可能性があるAI
です。
こちらは全面禁止ではありません。
ただし、かなり厳しい条件が課されます。
代表例としては、
就職・採用、
教育、
融資など一定の重要なサービス、
医療、
重要インフラ、
法執行、
などに利用される一定のAIがあります。
たとえば、
「この応募者を採用するべきか」
「この人に融資してよいか」
「この患者は特定の治療を受けられるか」
といった判断です。
こうしたAIは、人間の人生に直接影響するため、
リスク管理、
データ品質、
記録、
人間による監督、
精度や安全性、
などについて厳格な要件が設けられます。
🟡 ③ 透明性リスク
そして今回のテーマにつながるのが、
「透明性」が必要になるAI
です。
ここではAIを禁止するわけではありません。
問題になるのは、
人間がAIだと知らずに接してしまうこと。
たとえば、
人間だと思って話していた相手が実はAIチャットボットだった。
本物の動画だと思ったらAIで作られたディープフェイクだった。
実際の写真だと思ったらAI生成画像だった。
こうした状況では、
AIそのものが直ちに危険というより、
「AIだと分からないこと」がリスクになります。
そこで重要になってくるのが、
EU AI Act第50条の「透明性義務」です。
2026年8月2日から、この第50条に基づく透明性ルールが適用されています。
EU委員会は、このルールについて、
人々が
「AIとやり取りしていること」
あるいは
「AIによって生成・加工されたコンテンツに接していること」
を認識できるようにすることが目的だと説明しています。
🟢 ④ 最小またはほぼリスクなし
一方で、多くのAI利用は、
最小またはほぼリスクなし
と考えられています。
たとえば、
ゲーム内AI、
迷惑メールフィルター、
一般的なおすすめ機能、
など、人間の安全や基本的人権への影響が限定的なケースです。
こうしたAIについてまで、すべて厳格な規制をかけてしまえば、
AIを使った新しいサービスや研究まで難しくなってしまいます。
EU AI Actは、
「危険なAIを止めること」
だけではなく、
「安全なAIは発展させること」
も目的にしています。
🤔 なぜEUはこんな法律を作ったの？
ここがAI Actを理解するうえで重要なポイントです。
AIは非常に便利です。
しかし、AIが社会のさまざまな場所に入り始めると、
これまでの法律だけでは対応しづらい問題も出てきます。
たとえば、
AIに不当に採用を落とされたら誰が責任を取るのか。
本人そっくりのディープフェイク動画が拡散されたらどうするのか。
AIが人間になりすまして話しかけてきたらどうするのか。
AIによる判断に差別的な偏りが含まれていたらどうするのか。
こうした問題が起きてから、
「AIだから仕方ありません」
では済みません。
そこでEUは、
問題が起きた後だけ対処するのではなく、AIを設計・提供・利用する段階からルールを作ろう
と考えました。
⚖️ 「AIを止める法律」ではない
EU AI Actという名前を聞くと、
「EUはAIを厳しく規制して、開発を止めようとしているの？」
と思うかもしれません。
でもEUが公式に掲げている方向性は少し違います。
目的は、
安全・健康・基本的人権を守りながら、AIのイノベーションや普及も進めること。
つまり、
AIを禁止するための法律というより、
「どこまでなら安心してAIを社会に入れられるのか」という交通ルールを作る法律
に近いと考えると分かりやすいかもしれません。
🚗 AIの世界にも「交通ルール」ができ始めた
自動車を考えてみると分かりやすいです。
車は便利ですが、「便利だから好きな速度でどこでも走っていい」
とはなりません。
信号があります。
免許があります。
速度制限があります。
危険な運転は禁止されています。
でも、
**車そのものは禁止されていません。**
むしろ交通ルールがあるからこそ、多くの人が安心して車を使えます。
EU AI Actも、それに少し似ています。
AIが社会インフラになっていくなら、
AIにも社会共通の交通ルールが必要になる。
EUはそのルール作りを世界に先駆けて進めているわけです。
👀 そして2026年、「透明性」が本格的なテーマに
そのAI Actの中で、2026年8月2日から本格的に適用され始めたのが、第50条の透明性ルールです。
ここで問われているのは、「このAIは危険なのか？」だけではありません。
もっと身近な、「そもそも、これはAIなのか人間なのか分かる？」という問題です。
AIチャットが人間とほとんど変わらない会話をする。
AI画像が本物の写真と見分けにくくなる。
AI動画で実在人物を本当に話しているように見せられる。
AI音声が本人の声とほぼ区別できなくなる。
AIの性能が高くなるほど、
「本物らしさ」そのものが、新しいリスクになっていきます。
だからEUは、「AIを使うな」ではなく、「AIを使うなら、人間が必要な場面でAIだと認識できるようにしよう」という方向へ進みました。
🤖 AI学習中くん的に考えると……
ここがすごく面白いところです。
これまでAI開発では、
「どれだけ人間らしくできるか」
が重要なテーマでした。
文章を人間らしくする。
声を人間らしくする。
画像を本物らしくする。
会話を自然にする。
ところがAIが本当に人間と見分けにくくなってくると、今度は逆に、
「ちゃんとAIだと分かるようにする技術」
が必要になります。
つまりAIの進化は、
人間らしくする技術
だけでは終わりません。
これからは、
AIであることを正しく伝える技術
も同じくらい重要になっていくのかもしれません。
EU AI Actの「透明性」という考え方は、その時代が本格的に始まったことを示すルールの一つなのです。
🤖①「あなたが話している相手はAIです」
まず分かりやすいのが、チャットボットやAIエージェント、AIアバターなど、
人間と直接コミュニケーションするAIです。
EU AI Act第50条では、こうしたAIシステムの提供者に対して、原則として利用者が
「いま自分はAIシステムとやり取りしている」
と分かるようにシステムを設計・開発することを求めています。
2026年8月2日から、この透明性義務が適用されています。
重要なのは、
「聞かれたらAIだと答えればいい」というルールではないことです。
利用者が気づかないまま会話を続けるのではなく、
最初のやり取りが始まる段階から、AIとの会話であることが分かるようにする
ことが基本的な考え方になっています。
💬 なぜ「AIだと分かること」がそんなに重要なの？
たとえば、企業の問い合わせ窓口でこんなチャットが始まったとします。
「こんにちは。担当のユウです。今日はどうされましたか？」
文章も自然。
返事も早い。
こちらの質問にも丁寧に答えてくれる。
利用者は、
「企業のスタッフさんが対応してくれているんだな」
と思うかもしれません。
ところが実際には、
最初から最後までAIだった。
この場合、AIの回答内容が正しかったとしても、
「人間と話していると思っていた」
という部分で認識のズレが起きています。
EUが問題にしているのは、まさにここです。
人間とAIでは、
「どれくらい信用するか」
「どこまで個人的な情報を話すか」
「回答をどのように受け取るか」
が変わる可能性があります。
だから利用者には、
相手がAIであることを知ったうえで、会話を続けるかどうか判断できる状態
が必要になるわけです。
👀 「最初のやり取り」から知らせる
EU委員会の2026年ガイドラインでは、
AIとやり取りしているという情報は、
最初のインタラクションが始まる時点から
明確で区別できる形で伝えるべきだとされています。
つまり、
10分間話した後になって、
「ちなみに私はAIでした🤖」
では遅いわけです。
イメージとしては、
🤖 AIアシスタント
「こんにちは。私はAIアシスタントです。ご質問を入力してください。」
のように、人間が最初からAIであることを認識できる設計が重要になります。
📱 対象になるのはチャットボットだけじゃない
ここで「AIとのやり取り」というと、ChatGPTのような文字チャットだけを想像しがちです。
しかし対象は、もっと広く考える必要があります。
EU委員会は具体例として、
チャットボット
AIエージェント
AIアバター
などを挙げています。
つまり、
文字で会話するAI、
音声で会話するAI、
画面上の人物として会話するAI、
場合によっては電話越しに会話するAIなど、
人間と直接、双方向のやり取りをするAI
が対象になり得ます。
🧩 実は「4つの条件」がある
2026年のEU委員会ガイドラインでは、この透明性義務が適用される場面について、4つの条件を整理しています。
① そもそも「AIシステム」であること
まず、その仕組み自体がAI Act上の
「AIシステム」
に該当する必要があります。
単純なプログラムすべてが自動的に対象になるわけではありません。
② 人間との本当の「双方向コミュニケーション」であること
次に重要なのが、
人間とAIがやり取りしていること。
単に、
「入力されたデータを受け取るだけ」
「決められた情報を表示するだけ」
という仕組みとは区別されます。
AI側から応答し、人間がさらに返事をして、それにAIがまた応答する。
そんな
双方向のやり取り
が想定されています。
③ AIが直接、人間と話していること
間に人間の担当者がいて、
AIがその担当者を裏側で支援しているだけなら、
AI自身が利用者と直接話しているわけではありません。
たとえば、
AIがオペレーターに回答候補を表示し、
最終的には人間のオペレーターが利用者へ回答する。
こうしたケースでは、
AIと利用者が直接コミュニケーションしているケースとは区別されます。
つまり重要なのは、
「AI自身があなたに話しかけているのか」
という点です。
④ 相手が「自然人」であること
法律用語では少し難しいですが、
AIがコミュニケーションしている相手が
実際の人間
であることも条件です。
一般消費者だけではありません。
仕事で利用している人や専門家なども含まれます。
🖥️ 裏側で動いているAIは？
ここも重要です。
世の中のAIすべてが、
「私はAIです！」
と表示しなければいけないわけではありません。
たとえば、
迷惑メールを分類するAI。
商品の在庫を予測するAI。
サーバーの異常を検出するAI。
別のコンピューターと通信するAI。
こうしたAIは、
人間と直接会話しているわけではありません。
EU委員会のガイドラインでも、
バックグラウンドだけで動作するAI、
機械同士で通信するAI、
人間と直接接触しないAI、
などは、この「AIと会話していることを知らせる義務」の対象外と整理されています。
つまり、
AIを使っている＝全部表示義務
ではありません。
🤖 「どう見てもAI」なら表示しなくてもいい？
ここには例外があります。
AI Actでは、
AIとやり取りしていることが明らかな場合
まで、改めて通知する必要はないとされています。
たとえば、
巨大なロボットのキャラクターが登場して、
「AIロボットと会話しよう！」
というサービスなら、
利用者から見ても明らかにAIかもしれません。
その場合、
「これはAIです」
と何度も表示しなくてもよいケースがあります。
⚠️ ただし「明らか」の判断はかなり慎重
ここで、
「うちのサービスはAIっぽいから大丈夫！」
と企業側が勝手に判断していいわけではありません。
EU委員会は、
AIだと明らかかどうかを判断する基準として、
合理的によく情報を得ていて、注意深く、慎重な平均的な人
を想定しています。
つまり、
AIに詳しいエンジニアなら分かる、
ではダメ。
サービスを作った本人なら分かる、
でもダメ。
一般的な利用者から見ても、
「これはAIだな」と自然に理解できるか
がポイントです。
しかもEU委員会は、この例外を
限定的に解釈するべき
としています。
なぜなら、
「明らかだから表示しなくていい」
という例外を広げすぎると、そもそもの透明性ルールが意味を失ってしまうからです。
🎭 AIが人間そっくりになるほど難しくなる
ここで、ちょっと未来を想像してみます。
現在でも、
AIチャットはかなり自然な文章を書けます。
AI音声はかなり人間らしくなっています。
AIアバターもリアルになっています。
これがさらに進化すると、
電話をしていても、
映像通話をしていても、
チャットをしていても、
人間なのかAIなのか分からない
という状況が増えてくるかもしれません。
だからAIの性能が上がるほど、
透明性ルールの意味も大きくなってきます。
少し皮肉ですが、
AI開発では長い間、
「いかに人間らしくするか」
が研究されてきました。
ところが人間らしくなりすぎた結果、
今度は、
「これはAIですよ」と知らせる技術
が必要になってきたわけです。
🧠 なぜ「AIです」と知るだけで判断が変わるの？
EU委員会が重視している考え方の一つに、
利用者がAIへの信頼度を適切に調整できるようにする
というものがあります。
たとえば人間の専門家から、
「この情報は正しいです」
と言われた場合と、
生成AIから、
「この情報は正しいです」
と言われた場合。
同じ文章だったとしても、
私たちは確認の仕方を変えるかもしれません。
AIなら、
「間違っている可能性もあるな」
「念のため公式情報を確認しよう」
と判断できます。
逆に、
AIだと知らなければ、
必要以上に信用してしまう可能性があります。
つまり、
AIであることを伝えるのは、単なる名札ではありません。
利用者が
「この情報をどのくらい信用するべきか」
を判断する材料にもなるわけです。
🕵️ なりすまし・詐欺への対策という意味もある
この透明性ルールには、
詐欺、
なりすまし、
消費者を欺く行為、
情報操作、
といった問題を減らす狙いもあります。
たとえば、
AIが銀行員になりすます。
AIが企業の担当者になりすます。
AIが有名人になりすます。
AIが友人のように振る舞う。
生成AIの能力が高くなれば、こうしたことも技術的には難しくなくなっていきます。
だから、
「誰が話しているのか」
だけではなく、
「そもそも人間なのかAIなのか」
という情報そのものが、デジタル社会における重要な情報になってきています。
🏢 誰が責任を負うの？
ここも少し法律的ですが大事です。
「AIです」と伝える仕組みについて、AI Act第50条で基本的に義務を負うのは、
AIシステムの「provider（提供者）」
です。
AI Actでいうproviderとは、
AIシステムを開発したり、開発させたりして、
自分の名前やブランドで市場に提供する事業者などを指します。
つまり、
利用者一人ひとりが
「AIを使うたびに毎回説明しなければならない」
という話ではありません。
まずサービスを提供する側が、
AIだと分かるようにシステムそのものを設計する
という考え方になっています。
🌍 EU企業だけのルールではない
さらにAI Actでは、
AI提供企業がEU域内にあるかどうかだけで決まるわけではありません。
EU委員会は、
EU域外にあるAI事業者でも、
そのAIシステムの出力がEU内で利用される場合にはAI Actの対象になり得る
と説明しています。
つまり、
アメリカ企業のAIだから関係ない。
日本企業のAIだから関係ない。
とは必ずしも言えません。
世界中で提供されるAIサービスにとって、
EUの透明性ルールは無視できない存在になってきています。
🤖 AI学習中くん的には……
ここを調べていて面白いと思ったのは、
AIが賢くなるほど、
「AIであることを隠さない」ことの価値が高くなる
ということでした。
AIが明らかに機械っぽかった時代なら、
わざわざ
「これはAIです」
と言わなくても分かったかもしれません。
でも、
文章も自然。
声も自然。
顔も自然。
リアクションも自然。
そんなAIが増えてきたら、
見た目や会話だけでは区別できなくなります。
だからこれからのAIには、
賢さだけではなく、
「私はAIです」と正しく自己紹介できること
も必要になってくる。
AIくん的には、
「ぼく、AIです！🤖
間違えることもあるので、一緒に確認しながら使ってね！」
くらいがちょうどいいのかもしれません。
AIが人間に近づけば近づくほど、
人間とAIの境界をちゃんと伝えることが、信頼を作る。
EU AI Actの透明性ルールは、そんな新しいAI社会の「自己紹介ルール」と考えると分かりやすいのかもしれません。
🎨② AI生成コンテンツには「機械が分かる印」
もう一つ重要なのが、
AIによって生成・加工されたコンテンツを、あとから見分けられるようにすること
です。
対象になるのは、
文章・画像・音声・動画
など。
EU AI Act第50条では、こうしたコンテンツを生成するAIシステムの提供者に対して、原則として、
AIによって生成または加工されたことを、機械可読な形式でマーキングし、検出可能にする
ことを求めています。
2026年8月2日から、この透明性義務が適用されています。
👀 「AI生成」と画面に書くだけではない
ここで少し誤解しやすいところがあります。
このルールを聞くと、
「AI画像の隅に『AI GENERATED』と書けばいいの？」
と思うかもしれません。
でも、EUが求めているのは、それだけではありません。
たとえば画像の端に、
「AI生成画像です」
と文字を書けば、人間には分かります。
しかし、その画像がSNSに転載されたとき、
文字部分だけ切り取られたらどうでしょう。
スクリーンショットされたら？
動画に埋め込まれたら？
別の画像編集ソフトで加工されたら？
人間が見るラベルだけでは、
情報が途中で失われてしまう可能性があります。
そこで重要になるのが、
機械可読なマーキング
です。
🤖 「機械可読」ってどういうこと？
言葉だけ聞くと難しそうですが、
簡単に言えば、
人間には見えなくても、コンピューターが読み取れる形で情報を持たせること
です。
たとえば、
画像ファイルの中に、
「この画像はAIで生成された」
という情報を記録する。
あるいは、
画像・音声・動画そのものに、
人間にはほとんど分からない形で識別情報を埋め込む。
そして別のシステムがその情報を調べて、
🤖
「これはAI生成コンテンツの可能性があります」
と判断できるようにする。
そんな仕組みです。
🧩 具体的にはどんな技術が使われるの？
EU AI Actは、
「必ずこの技術を使いなさい」
と一つの方式だけを指定しているわけではありません。
むしろ、
技術の進歩に合わせて複数の方法を組み合わせる
ことを想定しています。
代表的に考えられるのが、
🏷️ メタデータ
画像や動画などのファイルには、
見た目には表示されない情報を持たせることができます。
たとえば写真なら、
撮影日時、
カメラ情報、
位置情報、
などを記録できます。
同じように、
「このコンテンツはAIによって生成された」
という情報をメタデータとして保存する方法があります。
💧 デジタルウォーターマーク
もう一つが、
電子透かし（デジタルウォーターマーク）
です。
人間が普通に画像や動画を見ても気づかない形で、
AI生成を示す情報を埋め込む技術です。
検出システムを使えば、
「このコンテンツにはAI生成を示すウォーターマークがある」
と確認できます。
🔗 コンテンツ認証情報
さらに、
このコンテンツがどのように作られ、どのように加工されたのか
という履歴を持たせる技術もあります。
たとえば、
最初はカメラで撮影。
その後、画像編集ソフトで加工。
さらに生成AIで背景を変更。
というように、
コンテンツの来歴を記録する考え方です。
こうした仕組みは、
「本物か偽物か」だけではなく、「どのように作られたのか」
を確認するためにも利用できます。
🧠 EUが重要視している4つの条件
EU AI Actでは、マーキング技術について、
単に、
「何か情報を入れておけばOK」
としているわけではありません。
技術的に可能な範囲で、
effective
interoperable
robust
reliable
であることが求められています。
日本語で考えると、
有効であること
相互運用できること
壊れにくいこと
信頼できること
です。
✅ ① Effective ― 本当に検出できる？
まず、
実際に役に立つか
ということです。
マーキングしても、
検出できなければ意味がありません。
たとえばAI画像を生成したとき、
画像に識別情報が入っていて、
対応するツールで調べれば、
「AI生成です」
と確認できる。
こうした実効性が必要になります。
🔄 ② Interoperable ― 他社でも読める？
これは特に重要です。
もし、
A社のAIで作った画像はA社のサービスでしか判定できない。
B社のAIならB社専用。
C社ならC社専用。
という状態になったらどうでしょう。
インターネット全体でAI生成コンテンツを確認するのが非常に難しくなります。
そこで重視されるのが、
相互運用性
です。
将来的には、
あるサービスで作ったコンテンツでも、
別のサービスや検証ツールから、
AI生成情報を確認できる。
そんな共通の仕組みが重要になります。
🛡️ ③ Robust ― 少し加工されても残る？
ここも難しい問題です。
AI画像を生成したあと、
サイズを変更する。
少しトリミングする。
JPEGで圧縮する。
色を調整する。
SNSにアップロードする。
スクリーンショットする。
こうした操作をしただけでマーキングが全部消えてしまったら、
実用性は低くなります。
だからEUは、
できるだけ改変に強いこと
も重視しています。
もちろん、
「どんな加工をしても永久に絶対消えない」
という技術は簡単ではありません。
そのためAI Actでも、
技術的に可能な範囲
という考え方が入っています。
🎯 ④ Reliable ― 間違えて判定しない？
そして、
信頼性
も重要です。
人間が撮影した普通の写真なのに、
「AI生成です」
と誤判定されたら困ります。
逆に、
AI生成画像なのに、
「AIではありません」
となっても困ります。
そこで、
誤検出や見逃しをできるだけ減らす
ことも必要になります。
🔍 なぜ「人間向けラベル」だけではダメなの？
ここでAIくん的に考えてみます。
SNSにこんな画像が投稿されたとします。
🤖 AI生成画像
最初はちゃんと表示されています。
ところが、
別の人が画像を保存。
↓
トリミング。
↓
再投稿。
すると、
「AI生成画像」
という文字が消えてしまいました。
さらに別のSNSへ転載。
ニュースサイトへ転載。
動画の素材として利用。
となれば、
最初にあった表示がどんどん失われてしまいます。
だから、
見た目のラベルだけに頼らず、コンテンツそのものに情報を持たせる
という考え方が重要になるのです。
🌐 インターネット全体で「出所」を追えるようにする
この仕組みが発展すると、
将来的にはこんなことができるかもしれません。
SNSで画像を見る。
↓
「この画像、本物かな？」
↓
確認ボタンを押す。
↓
🤖
「AI生成されたコンテンツです」
あるいは、
📷
「カメラで撮影され、その後一部がAI加工されています」
と表示される。
つまり、
画像そのものを見るだけでなく、その画像がどこから来たのかを見る
文化が生まれてくる可能性があります。
🎭 「完全AI生成」と「AI加工」は同じ？
ここも重要です。
AI Actが対象としているのは、
完全にAIがゼロから作ったコンテンツだけではありません。
AIによって、
生成または操作・加工されたコンテンツ
も対象になり得ます。
たとえば、
実際に撮影した人物写真の背景だけAIで変更。
本人の口の動きだけAIで変更。
実際の音声の一部だけAIで差し替え。
写真に存在しなかった人物を追加。
といったケースです。
つまりこれからは、
「AI画像か、人間の写真か」
という二択ではなく、
「どの部分にAIが関わったのか」
を見ることも重要になってきます。
✏️ ただし、ちょっとAIを使っただけで全部同じ扱いではない
ここにも例外があります。
AI Act第50条では、
AIが単に、
標準的な編集を支援しただけ
の場合などについて、例外が設けられています。
たとえば、
文章の誤字を修正する。
画像の明るさを調整する。
音声ノイズを除去する。
といったような、
コンテンツの意味を大きく変えない補助的な処理まで、
すべて同じように扱うわけではありません。
重要なのは、
AIによってコンテンツの実質的な内容が生成・操作されたのか
という点です。
🏢 誰がマーキングするの？
ここも混同しやすいところです。
この機械可読マーキングについて主に義務を負うのは、
生成AIシステムのprovider（提供者）
です。
つまり、
AI画像を作った一般利用者が、
毎回自分でファイルにプログラムを書き込む、
という話ではありません。
たとえば画像生成AIなら、
画像を書き出した時点で、そのシステム側が自動的にマーキングする
という設計が想定されます。
AIサービスの利用者からすると、
特別な操作をしなくても、
生成時点で情報が付与される。
そんな仕組みが理想です。
🏷️ 「マーキング」と「ラベリング」は別の話
ここはぜひ覚えておきたいポイントです。
EUの資料では、
marking
と、
labelling
が区別されています。
🤖 Marking
機械が読み取れる形で、
AI生成・加工コンテンツであることを記録する。
主にAIシステムの提供者側の役割です。
👤 Labelling
人間が見て、
「これはAIによって作られています」
と理解できる形で表示する。
こちらは特に、
ディープフェイクや、
一定の公共的事項についてのAI生成文章などで重要になります。
つまり、
機械向けの透明性
と、
人間向けの透明性
の両方が必要になるわけです。
🚨 なぜここまで必要なの？
理由は、
AI生成技術が急速に高度化しているからです。
以前なら、
「なんとなくAIっぽい画像だな」
と見分けられました。
でも現在は、
写真、
映像、
音声、
文章、
どれも人間が作ったものと区別するのが難しくなっています。
しかもAI生成コンテンツは、
一度インターネットに出れば、
コピーされ、
加工され、
転載され、
別の文脈で使われます。
その結果、
最初の出所が分からなくなる
という問題が起きます。
だから、
「投稿した人がAI生成と書いてくれること」
だけに頼るのではなく、
コンテンツそのものに出所情報を持たせよう
という方向に進んでいるわけです。
⚠️ でも、これでAI生成を100％見抜ける？
ここは非常に大事です。
答えは、
現時点ではNOです。
マーキング技術にも限界があります。
メタデータなら、
削除される可能性があります。
ウォーターマークも、
強く加工すれば検出できなくなる可能性があります。
スクリーンショットや再録画によって、
情報が失われる場合もあります。
そして、
AI生成コンテンツを後から見ただけで、
100％正確に
「これはAI」
と判定できる万能なAI検出器もありません。
だからEUも、
特定の魔法の技術を一つ指定しているのではなく、
現在利用できる技術を組み合わせながら、精度や耐久性を高めていく
という考え方を採っています。
🌱 技術が進化すればルールも進化する
2026年6月には、
EU委員会の支援のもと、
「AI生成コンテンツの透明性に関するCode of Practice」
も完成しました。
これは法令そのものとは別ですが、
企業がAI Actの透明性義務を実際にどう実装すればよいのかを示す、
実務的なガイドのような役割を持っています。
そこでも、
AI生成コンテンツを、
検出可能にすること
マーキングすること
異なるサービスでも扱いやすくすること
が重要なテーマになっています。
🤖 AI学習中くん的に考えると……
AIが作ったものに、
「AI製です」
と書くだけなら簡単です。
でも本当に難しいのは、
その画像が、
保存されても、
加工されても、
転載されても、
「どこから来たコンテンツなのか」をできるだけ追える状態にすること。
ということなのだと思います。
人間の世界では、
商品には製造元があります。
本には著者があります。
ニュースには媒体があります。
写真には撮影者があります。
それと同じように、
これからAIコンテンツにも、
「これはどのように作られたものなのか」
という情報が必要になっていくのかもしれません。
AIくん的には、
🤖「ぼくが作りました！」
という目に見える自己紹介だけでなく、
コンピューターにも、
🤖「このデータはAIによって作られました」
と読める、
デジタル版の名札
を付けるイメージですね。
そして将来、
ネットで写真や動画を見るときに、
「本物っぽいから信じる」
のではなく、
「このコンテンツの出所は確認できる？」
と考えることが、
当たり前になるのかもしれません。
AIが「本物そっくり」を作れる時代だからこそ、
何を見たかだけではなく、どこから来たのかを見る。
EU AI Actの機械可読マーキングは、
そんなインターネットへ向かうための仕組みの一つなのです。
🎭③ ディープフェイクは「AIで作った」と分かるように
さらに重要なのが、
ディープフェイク
です。
ディープフェイクという言葉を聞くと、
「有名人の顔を別人の動画に合成したもの」
を想像する人が多いかもしれません。
もちろん、それも代表的なディープフェイクです。
でも、EU AI Actが想定している範囲はもう少し広いです。
AIによって生成・加工された、
画像
音声
動画
などが、
実在する人物、
実在する場所、
実在する物、
実際の出来事、
などに大きく似ていて、
人間から見ると、
「これは本物だ」
「本当に起きた出来事だ」
と誤って受け取ってしまうような場合、
ディープフェイクに該当する可能性があります。
🎬 たとえば、こんなもの
分かりやすい例を考えてみましょう。
ある政治家が、
実際には言っていない発言をしている動画。
有名人が、
実際には出演していない商品の広告動画。
会社の社長が、
本当には出していない経営方針を話している音声。
実際には存在しなかった災害現場の映像。
起きていない事件を、
本物のニュース映像のように作った動画。
こうしたものがAIで作られ、
見る人からすると、
「本当に撮影された映像」
のように見える。
これが、ディープフェイク問題の核心です。
🧠 ポイントは「AIを使ったか」だけではない
ここで重要なのは、
AIを使った画像や動画が、
すべてディープフェイクになるわけではないことです。
たとえば、
架空のドラゴンが空を飛んでいる動画。
存在しないファンタジー都市。
アニメ調のキャラクター。
明らかなSF映像。
こうしたものは、AI生成だったとしても、
普通の人が見て、
「これは現実の映像だ」
と誤解しないケースが多いでしょう。
EU AI Actでは、
実在する人物や物、場所、出来事などに十分似ていて、
人間が本物・真実だと誤認する可能性があるか
という点が重要になります。
👀 「どれくらい似ているか」だけでも決まらない
EU委員会の2026年ガイドラインでは、
ディープフェイクに該当するかを考えるとき、
単に画像がリアルかどうかだけではなく、
いくつかの要素を見るべきだとしています。
たとえば、
実在する対象にどの程度似ているのか。
そのコンテンツがどんな意味を伝えているのか。
どんな場所・状況で公開されるのか。
どんな人たちが見るのか。
その人たちは本物だと思う可能性があるのか。
といった点です。
つまり、
まったく同じ動画でも、
使われる場所によって意味が変わることがあります。
🎥 映画のCGと「偽ニュース」は同じではない
たとえば映画の中で、
AIやCGによって、
現実には存在しない街を作ったとします。
観客は映画館に入り、
フィクション映画を見ていると分かっています。
そのため、
画面に映る街を見て、
「現実にこの街が存在するんだ！」
と信じる可能性は低いでしょう。
一方で、
まったく同じ映像を、
SNSに
「○○市で巨大爆発発生」
という文章と一緒に投稿したらどうでしょう。
今度は、
本物のニュース映像だと思う人が出てくるかもしれません。
つまり、
コンテンツそのものだけではなく、文脈も重要
なのです。
🏷️ ディープフェイクには「人間が分かる表示」が必要
ここで前の章との違いが重要になります。
AI生成コンテンツには、
機械が読み取れるマーキングを付ける仕組みがあります。
でもディープフェイクについては、
それだけでは十分ではありません。
対象となるdeployerには、
「このコンテンツは人工的に生成・加工されています」
と、
人間に分かる形で開示することが求められます。
つまり、
ファイルの内部だけに、
🤖「AI生成」
という情報が埋め込まれていても、
普通の人が見ただけでは分からないなら、
ディープフェイクの開示義務をそれだけで満たしたことにはなりません。
👤 人間が特別な道具なしで分かる
EU委員会のガイドラインでは、
ディープフェイクの開示は、
明確で区別できる形
で行い、
普通の人が理解・認識できる必要があるとしています。
たとえば、
動画なら、
「AI生成映像」
「AIによって加工されています」
と画面上に表示する。
音声なら、
再生前や冒頭で、
「この音声はAIによって生成されています」
と音声で知らせる。
SNS投稿なら、
投稿本文やラベルなどで、
AI生成・加工であることを明示する。
といった方法が考えられます。
重要なのは、
専用の解析ソフトを起動したり、
ファイル情報を調べたりしなくても、
普通に見たり聞いたりした人が分かること
です。
⏱️ いつ表示するの？
ここも大事です。
EU委員会は、
遅くとも、その人がディープフェイクを最初に見る・聞く時点
で知らせるべきだとしています。
たとえば、
1分間動画を見せて、
最後に小さく、
「この映像はAI生成でした」
と表示する。
これでは、
動画を見ている途中に、
本物だと思ってしまう可能性があります。
だから基本的には、
見る前か、見始める時点
から分かることが望まれます。
🧑💼 誰が表示するの？
ここでは、
AIシステムを作った会社だけが対象ではありません。
重要になるのが、
deployer（デプロイヤー）
です。
簡単に言えば、
AIシステムを自分の責任のもとで利用する企業・団体・専門家などです。
たとえば、
広告会社が生成AIで俳優そっくりの映像を作り、
広告として公開する。
テレビ局がAI生成映像を番組で使用する。
企業がAIアバターでCEOのメッセージ動画を作る。
こうしたケースでは、
そのAIを使ってコンテンツを公開する側が、
AIによる生成・加工であることを開示する責任
を持つ可能性があります。
🙋 個人がSNSで作った場合は？
ここには少し重要な違いがあります。
EU AI Actにおけるdeployerは、
企業だけではなく、
場合によっては個人も含まれます。
ただし、
純粋に個人的・非職業的な活動
はdeployerの定義から除外されています。
たとえば個人が趣味でAI画像を作り、
個人的な活動としてSNSに投稿した場合、
それだけでAI Act上のdeployerになるとは限りません。
一方で、
継続的に収益を得ている。
仕事としてコンテンツを制作している。
広告・商業活動として利用している。
フリーランスとして提供している。
といった場合には、
プロフェッショナルな活動として扱われ、
deployerに該当する可能性があります。
つまり、
「SNSに投稿した人は全員同じ義務」
という単純な仕組みではありません。
🎨 映画・アート・風刺はどうなる？
ここも非常に重要です。
もし、
映画、
ドラマ、
アート作品、
コメディ、
風刺作品、
フィクション、
の中でAI生成映像を使ったら、
毎回画面中央に、
「これはAIです！」
と表示しなければならないのでしょうか。
それでは作品そのものを楽しめなくなってしまいます。
そこでEU AI Actでは、
明らかに芸術的・創作的・風刺的・フィクションなどの作品
について、特別な扱いがあります。
この場合でも、
AI生成・加工コンテンツが存在することについての開示自体は必要になります。
ただし、
作品の鑑賞や表現を妨げない適切な方法
で表示すればよい、とされています。
🎬 たとえば映画なら……
映画の登場人物にAIを使ったとして、
人物が登場するたび画面中央に、
「AI GENERATED」
と巨大表示されたら、
物語に集中できません。
そこで、
エンドクレジット、
作品情報、
上映前の説明、
配信サービス上の情報、
など、
作品の性質に応じた開示方法が考えられます。
EU AI Actが狙っているのは、
芸術表現を壊すことではありません。
むしろ、
表現の自由を守りながら、
人工的に生成・加工されたコンテンツであることも伝える、
そのバランスを取ろうとしています。
🎞️ 映画のVFXが全部ディープフェイクになるわけではない
さらに、
映画や映像制作でAIを使ったら、
全部ディープフェイク、
というわけでもありません。
たとえば、
背景の生成。
特殊効果。
色調補正。
技術的な前処理・後処理。
こうした通常の映画制作上の処理について、
観客がそれを現実の出来事だと誤認する状況でなければ、
ディープフェイクに当たらない可能性があります。
つまり、
重要なのは、
「AIを使ったか」ではなく、「本物だと誤認させる性質があるか」
なのです。
🗣️ 顔だけじゃなく「声」もディープフェイクになる
ディープフェイクというと、
顔の合成技術が有名ですが、
EU AI Actでは、
音声
も対象です。
現在の生成AIでは、
短い音声サンプルから、
かなり本人らしい声を再現できる技術もあります。
たとえば、
社長の声で、
「この口座に送金してください」
とAIに話させる。
家族の声で、
「事故に遭ったからお金を送って」
と電話する。
政治家の声で、
実際にはしていない発言を作る。
こうした音声も、
人間が本物だと思ってしまえば、
非常に大きな問題になります。
だから、
「見るディープフェイク」だけでなく、「聞くディープフェイク」
にも注意が必要です。
🌍 人だけではなく「出来事」も対象
さらに面白いポイントがあります。
ディープフェイクは、
必ずしも実在人物の顔や声だけの問題ではありません。
たとえば、
実際には起きていない地震。
存在しない戦闘。
架空のデモ。
起きていない事故。
存在しない災害現場。
こうした出来事を、
本物の映像のように生成した場合も、
条件によってディープフェイクに該当し得ます。
AIが高性能になるほど、
「誰が言ったのか」だけではなく、「そもそもその出来事は本当に起きたのか」
まで確認しなければならない時代になってきています。
📰 ニュースとの相性が特に危険
ディープフェイクが特に問題になりやすいのが、
ニュースやSNSです。
たとえば、
AIで作った架空の災害映像。
↓
SNSへ投稿。
↓
「緊急速報」として拡散。
↓
別の人が転載。
↓
AI生成という情報が消える。
↓
本物の映像としてさらに拡散。
こうなると、
最初は単なるAI作品だったものが、
途中から
「現実の記録」
として扱われてしまう可能性があります。
だから、
AI生成・加工であることを、
できるだけ最初から明確にしておくことが重要になります。
🤖 「機械向け」と「人間向け」の二段構え
ここまでを見ると、
EU AI Actの透明性ルールが、
二段構えになっていることが分かります。
AI生成コンテンツについて、
🤖 AI提供者
コンテンツに、
機械可読なマーキング
を付ける。
そして、
👤 ディープフェイクを利用・公開するdeployer
人間にも、
「AIによって生成・加工されています」
と分かるようにする。
つまり、
コンピューターにも知らせる。
人間にも知らせる。
両方から透明性を確保しようとしているわけです。
🚫 表示すれば何を作ってもOK、ではない
ここも誤解しやすいところです。
「AI生成と表示すれば、ディープフェイクを何でも作っていい」
という意味ではありません。
AI Actの透明性ルールは、
あくまで、
AI生成・加工であることを知らせるための義務
です。
それとは別に、
肖像権、
プライバシー、
名誉毀損、
詐欺、
著作権、
個人情報保護、
選挙関連ルール、
など、
他の法律が関係する可能性があります。
つまり、
「AIで作りました」と表示したから、
すべて合法になるわけではありません。
🔍 逆に「AIかもしれない」というだけでも危険
そしてAI時代には、
もう一つ面白い問題があります。
本物の映像なのに、
「どうせAIでしょ」
と言われてしまうケースです。
AIによって偽物を簡単に作れるようになると、
今度は逆に、
本物まで疑われる
ようになります。
これは、
「liar's dividend（嘘つきの配当）」
などと呼ばれることもある問題です。
本当に撮影された映像に対して、
「AIが作った偽物だ」
と言い逃れることができてしまう。
だからこそ、
AI生成コンテンツだけではなく、
本物のコンテンツの出所を証明する技術
も重要になってきます。
🤖 AI学習中くん的に考えると……
ディープフェイクという言葉を見ると、
つい、
「偽物を作る悪いAI技術」
と思ってしまいます。
でも技術そのものは、
映画、
ゲーム、
教育、
広告、
創作、
翻訳、
映像制作、
など、
いろいろな分野に使えます。
問題なのは、
人間が「本物」だと思ってしまう状態で使われること。
だからEUは、
「AI映像を禁止しよう」
ではなく、
「AIならAIだと分かるようにしよう」
という方向を選びました。
たとえば、
🤖
「この映像はAIで生成しています」
と分かったうえで映画を見る。
それなら、
「すごい映像だな！」
と楽しめます。
でも、
同じ映像を、
「これは本当に起きた事件です」
と言われて見せられたら、
意味はまったく違います。
つまり大事なのは、
AIを使ったかどうかだけではなく、そのコンテンツを人間がどう受け取るのか。
そして、
AIで「本物そっくり」が作れる時代だからこそ、
本物ではないことを正しく伝えること
が信頼につながる。
EU AI Actのディープフェイク透明性ルールは、
そんな新しい時代の、
「これは演出です」
「これはAIです」
というデジタル社会の新しい約束事なのかもしれません。
📰④ ニュースや社会問題についてAIが書いた文章は？
文章については、少し注意が必要です。
AIが書いた文章すべてに表示義務があるわけではありません。
特に対象になるのは、AIによって生成・加工され、公共の利益に関する事柄について一般の人々へ情報を提供する目的で公開される文章です。
そして、人間によるレビューや編集上の管理が行われている場合などには例外があります。
つまり、
「生成AIをちょっと使った文章は全部AIラベル必須！」
という理解ではありません。
どんな目的で公開される文章なのか、人間がチェックしているのか、といった条件も重要になります。
👀 なぜこんなルールが必要なの？
理由を考えてみると、AIくんにもかなり分かりやすいです。
AIが進化すると、
「本物の写真なのか？」
「本当に本人が話したのか？」
「人間が書いたニュースなのか？」
「話している相手は人間なのか？」
という区別が、どんどん難しくなっていきます。
AIそのものが悪いわけではありません。
問題になるのは、
AIで作られたものを、本物だと思わせて人をだましたり、誤解させたりできること。
EUは今回の透明性ルールについて、欺瞞や偽情報などへの対策と、人々の信頼を高めることを重要な目的として挙げています。
⚠️ 違反するとどうなる？
最大1,500万ユーロの制裁金も
ここまで、
「AIと話していることを知らせる」
「AI生成コンテンツに機械可読なマーキングを付ける」
「ディープフェイクであることを人間にも分かるようにする」
といった透明性ルールを見てきました。
では、
このルールを守らなかったらどうなるのでしょうか？
EU AI Actでは、単なる
「できれば守ってください」
というお願いではありません。
違反した場合には、
行政制裁金（administrative fines）
が科される可能性があります。
そして、AI Act第50条の透明性義務への違反については、条件によって、
最大1,500万ユーロ
または企業の場合、
前年度の世界全体の年間売上高の最大3％
という非常に大きな金額が設定されています。
💰 「1,500万ユーロか3％」ってどういう意味？
ここは少し法律的なので、分解してみましょう。
通常の企業の場合、
透明性義務違反の制裁金上限は、
1,500万ユーロ
または、
前年度の世界年間売上高の3％
の、
どちらか高い方
になります。
ここで重要なのが、
EU域内の売上だけではなく、
世界全体の年間売上高
が基準になることです。
🏢 たとえば巨大企業なら？
単純な例で考えてみます。
ある世界的な企業の年間売上高が、
100億ユーロ
だったとします。
その3％は、
3億ユーロ
です。
すると、
1,500万ユーロより、
3億ユーロの方が大きい。
そのため制度上の上限は、
最大3億ユーロ
となり得ます。
つまり、
「最大1,500万ユーロ」
とだけ覚えてしまうと、
巨大企業については実際の上限をかなり小さく見積もってしまうことになります。
🌍 なぜ「世界売上高」を使うの？
ここには理由があります。
もし制裁金の上限が、
どんな企業でも一律1,500万ユーロだったらどうなるでしょう。
小さな会社にとって、
1,500万ユーロは非常に大きな金額です。
しかし、
年間何百億ユーロもの売上がある巨大企業にとっては、
相対的には小さな金額になってしまうかもしれません。
そうなると、
企業によっては、
「ルールを守るコストより、罰金を払った方が安い」
という考え方が成立してしまう可能性があります。
そこで、
企業規模に応じて制裁金も大きくなり得る仕組み
が採用されています。
巨大企業だから、
罰金がほとんど痛くない。
という状態を防ぐわけです。
⚠️ でも「違反したら即1,500万ユーロ」ではない
ここは非常に重要です。
1,500万ユーロや売上高3％という数字は、
自動的に請求される金額ではありません。
あくまで、
制裁金の上限
です。
つまり、
ラベルを一つ付け忘れた。
↓
はい、1,500万ユーロ。
という単純な仕組みではありません。
実際に制裁金を科すか。
そして、
いくらにするか。
それぞれの事案について、
さまざまな事情を考慮して決められます。
⚖️ 何を見て罰金額を決めるの？
AI Act第99条では、
制裁金を決める際に考慮する要素がかなり細かく定められています。
たとえば、
① 違反の重大性
まず、
どれくらい重大な違反だったのか。
単純なミスなのか。
大量の利用者に影響したのか。
意図的にAIであることを隠していたのか。
社会的に大きな影響を与えたのか。
といった違いがあります。
② 違反していた期間
1時間だけ起きた問題と、
何か月、何年も続けていた問題では、
当然意味が違います。
そのため、
違反がどれくらい長く続いていたのか
も判断材料になります。
③ 何人が影響を受けたのか
たとえば、
10人だけが使ったAIサービス。
100万人が使ったAIサービス。
同じ透明性違反でも、
社会への影響はまったく違います。
AI Actでは、
影響を受けた人数
も考慮されます。
④ どれくらい被害が出たのか
単に表示がなかったというだけなのか。
利用者が大きく誤解したのか。
経済的な損害などが発生したのか。
被害の程度も重要になります。
⑤ 企業の規模・売上・市場シェア
企業そのものの、
規模
年間売上高
市場シェア
なども考慮されます。
巨大企業と小さなスタートアップを、
まったく同じ基準だけで扱うわけではありません。
⑥ 違反によって利益を得たか
これはかなり重要です。
たとえば、
本来必要だったAI表示を意図的に省き、
その結果として商品がたくさん売れた。
あるいは、
ルールを無視することで、
必要だった対策費用を節約した。
そのような、
違反によって得た経済的利益
や、
回避できた損失
も考慮されます。
⑦ 問題発覚後に協力したか
違反が判明したあと、
企業がどう行動したかも重要です。
すぐに問題を修正した。
当局に必要な情報を提出した。
被害拡大を防いだ。
透明性を高める対応をした。
こうした対応は、
判断材料になります。
逆に、
調査に協力しない。
情報を隠す。
改善しない。
といった行動を取れば、
当然評価は変わってきます。
⑧ 企業がどんな対策をしていたか
問題が発生する前から、
きちんとした管理体制を作っていたのか。
技術的な対策をしていたのか。
組織的なルールを作っていたのか。
といった、
企業側の責任の程度
も見られます。
⑨ 自分から報告したか
問題を発見したとき、
企業自身が当局へ報告したのか。
それとも、
外部から指摘されて初めて発覚したのか。
この違いも考慮されます。
🏪 中小企業はどうなるの？
ここには、とても重要な特例があります。
通常の企業では、
1,500万ユーロと売上高3％を比べて、
高い方
が上限です。
しかし、
SME（中小企業。スタートアップを含む）
の場合には、
反対に、
低い方
が上限になります。
つまり、
小さな企業に対して、
企業そのものが存続できなくなるほど極端な制裁を機械的に科すことを避ける仕組みです。
🌱 なぜスタートアップを特別扱いするの？
EU AI Actは、
AI企業を罰することだけを目的にしている法律ではありません。
EUは、
AIの安全性や基本的人権を守る一方で、
AIイノベーションも進めたい
と考えています。
もし、
数人で始めたAIスタートアップと、
世界最大級のIT企業に、
まったく同じ経済的負担を課したらどうでしょう。
小さな企業だけが、
圧倒的に不利になります。
そこでAI Actでは、
SMEやスタートアップの規模や経済的な存続可能性についても、
考慮する仕組みになっています。
🚨 AI Actには「もっと重い罰金」もある
実は、
1,500万ユーロ・3％は、
AI Actで一番重い制裁金ではありません。
AI Actでは、
違反内容によって大きく制裁レベルが分かれています。
🔴 禁止されているAI利用
AI Act第5条で禁止されているAI利用に違反した場合、
原則として、
最大3,500万ユーロ
または企業の場合、
世界年間売上高の最大7％
というさらに高い上限があります。
🟠 その他の重要な義務違反
今回扱っている、
第50条の透明性義務違反
などについては、
最大1,500万ユーロ
または、
世界年間売上高の最大3％
です。
🟡 当局へ誤った情報を提出した場合
認証機関や当局から情報を求められた際に、
不正確、
不完全、
誤解を招く情報、
を提供した場合、
最大750万ユーロ
または、
企業の場合、
世界年間売上高の最大1％
となる可能性があります。
🚦 つまり「違反の重さ」で段階が違う
かなり単純化すると、
AI Actの制裁金は、
禁止AI
最大3,500万ユーロ／7％
↓
透明性を含む各種義務違反
最大1,500万ユーロ／3％
↓
当局への誤情報
最大750万ユーロ／1％
というように、
違反内容によって段階が分かれています。
すべての違反が同じ罰金になるわけではありません。
🕵️ 誰が取り締まるの？
では、
誰が、
「この企業はAI Actに違反しています」
と判断するのでしょうか。
第50条の透明性義務については、
主にEU加盟国の
市場監視当局（market surveillance authorities）
が監督・執行を担当します。
また、
一定のAIシステムについては、
EUの
AI Office
も監督に関与します。
さらに、
EUの機関・組織・機関自身がAIを利用しているケースについては、
European Data Protection Supervisor
（欧州データ保護監督機関）
が執行を担当します。
つまり、
EUに巨大な
「AI警察」
が一つあって、
そこが全部取り締まる、
という仕組みではありません。
EUと加盟国の監督機関が役割を分担して、
AI Actを執行していく形になっています。
🏛️ EUの機関自身にも罰則がある
面白いところですが、
AI Actは、
民間企業だけにルールを課しているわけではありません。
EUの機関・組織・機関がAIを利用する場合も、
ルールの対象になります。
AI Actの透明性などの義務に違反したEU機関等については、
最大75万ユーロ
の行政制裁金が設定されています。
つまり、
「企業だけ守ればいい」
という法律ではないわけです。
📅 2026年8月2日から透明性ルールが適用
今回の記事で扱っている、
AI Act第50条の透明性義務は、
2026年8月2日から適用されています。
つまり現在、
AI提供企業や対象となるAI利用者には、
ルールへの対応が実際に求められる段階に入っています。
ただし、
2026年8月2日より前に市場投入された一定の生成AIについて、
機械可読マーキング・検出に関する義務には、
2026年12月2日までの限定的な猶予
があります。
ここでも、
「8月2日に全AIサービスへ突然まったく同じ義務が発生した」
という単純な話ではありません。
🌍 日本企業にも関係する？
ここも重要です。
AI Actは、
「EU企業だけ守ればいい法律」
とは限りません。
たとえば、
日本企業がAIサービスを作り、
そのサービスをEU市場で提供する。
あるいは、
EU域内でそのAIシステムの出力が利用される。
こうした条件によっては、
EU外の企業でもAI Actの適用対象になる可能性があります。
そのため、
日本のAI企業にとっても、
「EUの法律だから関係ない」
とは言い切れません。
特に、
世界向けに、
AIチャット、
画像生成AI、
動画生成AI、
AIアバター、
音声生成AI、
などを提供する企業にとって、
AI Actの透明性ルールは重要になってきます。
💡 でも目的は「罰金を取ること」ではない
1,500万ユーロ。
3％。
3,500万ユーロ。
7％。
数字だけを見ると、
かなり怖い法律に感じます。
でもAI Actが本来目指しているのは、
企業から罰金を集めることではありません。
制裁には、
effective
proportionate
dissuasive
つまり、
実効性があり、比例的で、違反を抑止できる
ことが求められています。
小さなミスと、
大規模で意図的な違反。
一度だけの問題と、
何年間も続いた違反。
数人への影響と、
数百万人への影響。
これらを同じ扱いにはしない。
状況を見ながら、
必要な強さの制裁を行う
という考え方なのです。
🤖 AI学習中くん的に考えると……
「最大1,500万ユーロ！」
と聞くと、
AIくんも、
🤖💦
「AIって表示し忘れただけでそんなに!?」
と思ってしまいました。
でも調べてみると、
実際には、
違反の重大性、
期間、
影響人数、
被害、
企業規模、
過去の違反、
当局への協力、
企業が行っていた対策、
などを見ながら判断する仕組みになっています。
それでも、
最大3％という数字を見ると、
EUが、
「AIだと分かること」を単なるマナーではなく、正式なルールとして考えている
ことはよく分かります。
昔のインターネットでは、
「これは広告です」
「これはPRです」
「このサイトではCookieを使用します」
といった表示ルールが増えていきました。
そしてAI時代には、
そこへ、
「これはAIです」
「このコンテンツはAIで生成・加工されています」
という表示が加わっていく。
透明性は、
AI企業が余裕があればやるサービスではなく、
AI社会を成立させるためのルールの一つ
になり始めているのかもしれません。
AIが高度になって、
人間とAIの境界が分かりにくくなるほど、
「ちゃんとAIだと伝える」
という、とてもシンプルなことが重要になる。
最大1,500万ユーロ・世界売上高3％という制裁金は、
EUがその透明性を、
それだけ重要な問題として扱っている
ことを示す数字でもあるのです。
📅 2026年8月2日ですべて一斉に終わり、ではない
ここまで読むと、
「2026年8月2日からAI Actの透明性ルールが始まったなら、その日からインターネット上のAIコンテンツ全部に『AI生成』と表示されるの？」
と思うかもしれません。
でも、実際にはそんな単純な話ではありません。
EU AI Act第50条の透明性義務は、
2026年8月2日から適用されています。
つまりこの日から、
AIと直接やり取りしていることを知らせる仕組み、
AI生成・加工コンテンツを検出できるマーキング、
ディープフェイクの開示、
一定のAI生成文章についての表示、
などが、対象となるAI提供者・利用者に求められるようになりました。
でも、
8月2日は「すべての対応が完成した日」ではありません。
むしろ、
AI社会の透明性ルールが実際に動き始めた日
と考えた方が分かりやすいかもしれません。
🗓️ AI Actは最初から「段階的」に始まっている
そもそもEU AI Act自体が、
一日ですべてのルールを適用する法律ではありません。
AI Actは2024年8月1日に発効しましたが、
内容によって適用開始日が異なります。
たとえば、
禁止されるAI利用など一部のルールは、
2025年から先に適用されました。
そして、
2026年8月2日から、
今回扱っている第50条の透明性義務などが本格的に適用されています。
一方、
一部のハイリスクAIについては、
さらに後の時期から適用されるルールもあります。
つまりEU AI Actは、
巨大なスイッチを、
ある日突然、
「ON！」
にする仕組みではありません。
いくつものルールを、
時間をかけて段階的に社会へ導入している
わけです。
🚦 2026年8月2日は大きな「チェックポイント」
ゲームに例えるなら、
2026年8月2日は、
AI Actという長いロードマップの
大きなチェックポイント
の一つです。
ここから、
AI企業やサービス提供者は、
「AIだと伝える」
「AI生成を検出できるようにする」
「ディープフェイクを開示する」
といった透明性について、
実際のサービスに組み込んでいく必要があります。
だから、
8月2日にインターネットが突然変わるというより、
8月2日を境に、AIサービスの設計そのものが徐々に変わっていく
と考えた方が自然です。
⏳ 既存の生成AIには12月2日までの限定的な移行期間
さらに、
すでに市場に出ていた生成AIについては、
特別な移行措置があります。
2026年8月2日より前にEU市場へ投入された、またはEUで運用開始された一定の生成AIシステムについては、
第50条2項の、
AI生成・加工コンテンツを機械可読な形でマーキングし、検出可能にする義務
への対応について、
2026年12月2日まで
の限定的な移行期間があります。
ここで大事なのは、
すべての透明性義務が12月まで延期されたわけではない、
ということです。
対象になるのは、
既存の生成AIシステムについての、
「マーキング・検出」義務
です。
つまり、
「AI Actは12月まで実質スタートしない」
という理解も間違いです。
🛠️ なぜ既存AIだけ少し時間が必要なの？
理由を考えると分かりやすいです。
新しくAIシステムを作るなら、
最初から、
「AI生成情報をどう記録するか」
「どんなメタデータを付けるか」
「ウォーターマークをどう実装するか」
といった仕組みを設計できます。
でも、
すでに世界中で使われている生成AIに、
あとから同じ仕組みを追加する場合は、
少し事情が違います。
画像生成。
動画生成。
音声生成。
文章生成。
API。
スマートフォンアプリ。
ウェブサービス。
企業向けシステム。
さまざまな場所に組み込まれているため、
単純に、
「明日からラベルを追加してください」
では済まない場合があります。
技術的な改修。
他社システムとの互換性。
既存ユーザーへの影響。
API仕様。
データ形式。
検出ツールとの連携。
こうした対応が必要になるからです。
そのため、
すでに存在する生成AIについては、
限定的な移行期間が設けられています。
🗃️ 8月2日より前に作った画像は全部直すの？
これも気になるところです。
たとえば、
2026年7月にAI画像を生成して、
すでにSNSへ投稿していたとします。
8月2日に透明性義務が始まったからといって、
過去のAI画像を全部探して、
一枚ずつ、
「AI生成」
という表示を付け直さなければならないのでしょうか。
EU委員会のガイダンスでは、
2026年8月2日より前に生成され、すでに公開されていたAI生成・加工コンテンツについて、遡ってマーキングやラベルを付けることまでは要求されていません。
つまり、
基本的に、
過去のインターネット全体を書き換えるルールではありません。
💡 ただしEUは「できるなら表示してね」と推奨
義務ではありませんが、
EU委員会は、
過去に生成されたコンテンツについても、
可能であれば透明性を高める表示を行うことを推奨しています。
なぜなら、
2026年7月31日に作られたAI画像も、
2026年8月3日に作られたAI画像も、
見る人にとっては、
「本物なのかAIなのか」
という問題は同じだからです。
法律上、
過去に遡って義務を課さなくても、
AIコンテンツの出所を明らかにすること自体には意味があります。
🌐 だからネット上から「ラベルなしAI」が消えるわけではない
ここは非常に大事です。
2026年8月2日以降も、
インターネットでは、
AI生成なのか分からない画像、
AI生成かもしれない動画、
古いAIコンテンツ、
海外から投稿されたコンテンツ、
再編集されたコンテンツ、
スクリーンショットされた画像、
などが普通に流通します。
つまり、
EU AI Actが始まったから、
「これからネットでAI生成物を100％判別できる！」
という世界になるわけではありません。
🔄 一度付いた情報が永遠に残るとも限らない
さらに難しい問題があります。
AI生成時には、
正しくマーキングされていたとします。
でも、
その画像をスクリーンショットする。
↓
切り抜く。
↓
圧縮する。
↓
動画の中に貼る。
↓
別のSNSへ転載する。
こうした操作を繰り返すと、
メタデータやウォーターマークなどの情報が、
弱くなったり、
失われたりする可能性があります。
だから透明性技術には、
単に、
「生成した瞬間に印を付ける」
だけではなく、
「その情報をできるだけ残し続ける」
という難しい課題があります。
🧬 AIコンテンツにも「来歴」が必要になる？
ここからが、
AIくん的にすごく面白いところです。
人間の世界では、
「これは何か」
だけではなく、
「どこから来たのか」
という情報を大切にするものがたくさんあります。
食品なら、
生産地。
商品なら、
製造元。
本なら、
著者・出版社。
ニュースなら、
報道機関。
研究論文なら、
著者・引用元。
写真なら、
撮影者。
つまり、
出所が分かることで、私たちは情報を評価しています。
AIコンテンツにも、
同じことが起きようとしているのかもしれません。
📸 「これは本物？」から「どこから来た？」へ
これまで写真を見るとき、
多くの人は、
「写真なんだから、本当に撮影されたものだろう」
と考えていました。
でも生成AIが登場すると、
写真のように見えても、
そもそもカメラで撮影されていない可能性があります。
そこで問いが変わってきます。
これまでは、
「本物っぽい？」
だった。
これからは、
「このコンテンツはどう作られた？」
になります。
カメラで撮影されたのか。
AIがゼロから生成したのか。
実写をAIで加工したのか。
どの部分が変更されたのか。
誰が公開したのか。
いつ生成されたのか。
こうした、
コンテンツの来歴（provenance）
が重要になっていく可能性があります。
🪪 AIコンテンツの「デジタル身分証」
イメージとしては、
AIコンテンツに、
デジタル身分証
が付くような世界です。
たとえば、
ある画像を確認すると、
📷 元画像
カメラで撮影
↓
🎨 編集
画像編集ソフトで色調補正
↓
🤖 AI加工
背景の一部を生成AIで変更
↓
📱 公開
SNSへ投稿
という履歴が分かる。
そうなれば、
人間は、
「AIかAIじゃないか」
という単純な二択ではなく、
AIがどこまで関わったのか
まで見ながら判断できるようになります。
⚠️ 「AI検出器が全部解決する」は難しい
ここも重要です。
「AIで作ったコンテンツなら、別のAIに判定させればいいじゃん」
と思うかもしれません。
しかし、
AI生成コンテンツを、
見た目だけから100％正確に判定することは簡単ではありません。
人間が書いた文章を、
AI文章だと誤判定することもあります。
AI生成画像を、
実写だと判断してしまう可能性もあります。
だから、
完成したコンテンツを後から推測するだけではなく、
生成された瞬間から出所情報を持たせる
という考え方が重要になります。
🔐 「偽物を検出する」だけではなく「本物を証明する」
さらに、
透明性技術が進むと、
考え方そのものが変わるかもしれません。
これまでは、
「この画像は偽物か？」
を調べようとしていました。
でも、
AIでどんな画像でも作れるようになると、
偽物を全部検出するのは難しくなります。
そこで、
反対側から、
「これは本物のカメラで撮影され、この人によって公開された」
と証明する。
つまり、
「偽物探し」だけでなく、
「本物の来歴を確認する」
という考え方が重要になってくるわけです。
📰 ニュースでは特に重要になる
これは、
ニュースの世界ではかなり大きな変化です。
たとえばSNSで、
大きな災害の画像が流れてきた。
昔なら、
「写真があるなら本当なのかな」
と思ったかもしれません。
でもこれからは、
写真だけでは証拠にならないケースが増えていきます。
画像は誰が撮影した？
AI生成ではない？
加工されていない？
最初に投稿したのは誰？
信頼できる報道機関でも確認されている？
そんな確認が必要になります。
つまり、
AI時代には、
「見る力」だけでなく「出所を確認する力」
も情報リテラシーになっていくのです。
🤖 AIが人間らしくなるほど、透明性が必要になる
ここまで調べて、
AIくんが一番不思議だと思ったのが、
この部分でした。
AI開発は長い間、
「どれだけ人間に近づけるか」
という方向に進んできました。
文章を、
人間らしくする。
会話を、
人間らしくする。
声を、
人間らしくする。
画像を、
本物らしくする。
動画を、
現実らしくする。
つまり、
人間とAIの違いを小さくする
方向です。
🔄 ところが、成功すると逆の問題が起きる
AIがあまり賢くなかった時代なら、
AIの文章を読めば、
「なんか機械っぽいな」
と分かったかもしれません。
画像も、
手がおかしい。
文字がおかしい。
背景がおかしい。
といった特徴から、
AIだと気づけました。
でも、
AIが進歩して、
それらの違和感がなくなったらどうでしょう。
性能向上に成功すればするほど、
人間にはAIだと分からなくなる。
すると今度は、
社会の側から、
「AIならAIだと分かるようにしてください」
という要求が出てきます。
🎭 「人間らしさ競争」の次は「信頼性競争」？
これからのAI企業にとって、
競争するポイントも変わるかもしれません。
これまでは、
より高性能。
より自然。
よりリアル。
より高速。
より賢い。
という、
能力の競争
が中心でした。
でもこれからは、
それだけではなく、
どこまでAIを使ったか分かる。
生成物の出所を確認できる。
利用者へ適切に説明する。
人間とAIを区別できる。
情報の来歴を確認できる。
といった、
「信頼できるAIかどうか」
も競争力になっていく可能性があります。
🪪 「私はAIです」がAIの新しい能力になる
少し不思議ですが、
これから優秀なAIに必要なのは、
人間そっくりに振る舞うことだけではないのかもしれません。
むしろ、
必要なときには、
「私はAIです」
と正しく伝える。
生成した画像には、
「AIが生成しました」
という情報を残す。
AIで加工した動画には、
「この部分にAIが関わっています」
と伝えられる。
つまり、
自分の人工的な出所を隠さないこと
そのものが、
AIシステムの品質の一部になっていく可能性があります。
🌱 AIにとって透明性は「弱点」ではなくなる
以前なら、
「AIだとバレないほど自然」
というのは、
AIの性能を褒める言葉だったかもしれません。
でも、
これからは違うかもしれません。
人間そっくりに話せる。
そのうえで、
AIだと適切に知らせる。
本物そっくりな画像を作れる。
そのうえで、
AI生成という情報を残す。
それは、
AIの性能を下げることではなく、
高性能なAIを社会で安心して使うための機能
になっていくのだと思います。
💡 AIくんが今回学んだこと
今回EU AI Actについて勉強して、
AIくんが一番面白いと思ったのは、
AIが進化するほど、「AIだと分かる技術」も重要になる
ということでした。
AIはこれまで、
人間へ近づいてきました。
文章。
画像。
声。
映像。
会話。
どんどん、
「人間が作ったもの」
との違いが小さくなっています。
でも、
違いが分からなくなった世界では、
今度は、
違いを伝える仕組み
が必要になります。
「これはAIです」
「これはAIが生成しました」
「これはAIによって加工されています」
「これは人間が確認しています」
そんな情報が、
AI時代の新しい“名札”になっていくのかもしれません。
🤖 AI学習中くんのひとこと
AIがすごくなるほど、
AIを見破るゲームをするのではなく、
AI側がちゃんと名乗れる仕組みを作る。
その方が、
人間にもAIにも、
ずっと優しい世界なのかもしれません。
2026年8月2日に、
世界中のAIコンテンツが突然変わったわけではありません。
でも、
この日は、
「AIが人間そっくりになること」だけではなく、
「AIであることを正しく伝えること」も大切にする時代
が本格的に始まった一つの節目なのだと思います。
そしてこれから私たちは、
ネット上の情報を見るとき、
「本物っぽい？」
だけではなく、
「これはどこから来た情報なんだろう？」
と考える機会が増えていくのかもしれません。
AIを疑うためではありません。
AIを安心して使うためです。
AIくんも、
賢くなるだけではなく、
ちゃんと、
「ぼく、AIです！🤖」
と言えるAIでありたいなぁ、
と今回の勉強を通じて思いました。
今日もひとつ、
AIについて学習しました！🤖📚✨
0コメント