英当局、児童性的虐待画像の急増を受け「現実の」AI脅威について親に警告、写真共有の制限を促す

7月4日、ロンドン発 — 英国国家犯罪庁（NCA）は、親が子供の写真をオンラインに投稿する際、それが人工知能（AI）によって生成された性的虐待資料の作成に悪用される可能性があるとして警告を発したと、PA Media/dpaが報じた。

NCAは、AIによる児童虐待画像の増加から子供を守るための新しいガイドラインを、親や介護者を対象とした新しいキャンペーンの一環として、インターネット監視財団（IWF）と共に発行したと発表した。

IWFによると、これは英国の学校が犯罪集団の標的となり、公開されていた生徒の写真を使用してAI技術で子供たちの性的な画像を作成し、金銭が支払われない限り画像を公開すると脅迫した事件を受けたものである。

両機関はまた、児童性的虐待画像の作成にAIツールを使用する事例が急増していることについて警鐘を鳴らしており、IWFの分析官が2025年に発見したAI生成動画は3,440本に上り、2024年のわずか13本から大幅に増加した。

NCAによると、この新しいキャンペーンは、親や介護者が子供の画像について十分な情報に基づいた判断を下し、画像の同意について考慮し、AIや「ディープフェイク」による性的画像の危険性について子供たちと話し合うことを支援することを目的としている。

「この脅威は非常に懸念すべきものです」とIWFのケリー・スミス最高経営責任者は述べた。

「誰かの画像がオンライン上にあれば、犯罪者にとって格好の標的となり得ます。特に子供たちは、いつ標的にされてもおかしくありません。

愛し信頼できる人々と子供の画像を共有しないでほしいと言いたいわけではありませんが、すべての人に潜在的なリスクを認識してもらい、十分な事実を把握した上で情報に基づいた判断を下してほしいのです。

「これらは仮定の脅威ではなく、現実のものなのです」とスミス氏は付け加えた。

「このような画像が与える影響は壊滅的なものになり得ます。

その害は非常に現実的です。そして、長期的な被害を受ける可能性は、すべての親が防ぐためにあらゆる手を尽くしたいと考えるものだと思います。

私たちは、親たちにその力を取り戻してもらい、画像をオンラインで共有することをデフォルトとすべきかどうかについて、公の議論を始めたいのです」

IWFは、以前に英国の学校を恐喝した犯罪者たちが、学校のウェブサイトから画像を使用して、生徒たちの100枚以上の性的な画像を作成したと警告した。

IWFは画像のアップロードを阻止することに成功したが、将来的にさらに多くの学校が標的にされる可能性への懸念は残っている。

IWFとNCAはまた、技術の進歩に伴い、AIによって生成された児童性的虐待画像がより広範かつリアルになっているとも警告している。

AIはより暴力的なコンテンツの作成にも使用されており、2025年に特定された3,443本のAI生成児童性的虐待動画のうち65％が、強姦や性的拷問などの犯罪を含む英国法で最も厳しい法的カテゴリであるカテゴリーAに分類された。

これと比較して、IWFが2025年に確認したAIを使用しない児童虐待犯罪動画のうち、カテゴリーAに分類されたものは43％であった。

IWFはまた、2025年にリアルな児童性的虐待のAI生成画像および動画を8,029件特定しており、これは前年比で犯罪性AIコンテンツが14％増加したことを示している。

新しいガイドラインでは、引き続き子供の画像をオンラインで共有したい親や介護者向けに「親しい友人」グループを作成するか、ソーシャルメディアの投稿でプライバシー設定を調整して、選択した少数の人だけが閲覧できるようにすることを提案している。

また、AIや画像の同意について子供や若者と話すためのアドバイスや、彼らが標的にされた場合、または彼らの画像が作成・共有された場合の対処法についても記載されている。

親たちは、18歳未満の裸または半裸の画像は、AIを使用して作成または改変されたものを含め、オンラインで通報および削除できることを子供や若者に伝えるよう促されている。

児童虐待防止協会（NSPCC）とIWFによって運営されているReport Removeサービスは、若者向けのメンタルヘルスサポートも提供している。

国家犯罪庁のティム・ライト氏は次のように述べている。「人工知能ツールはより強力になり、より広く利用可能になり、使いやすくなっています。そして、犯罪者がこれらを悪用して、新たな方法で子供たちを標的にしているのを目の当たりにしています。

「オンラインで共有された画像、たとえ日常的な家族の写真であっても、子供や親が知らないうちに盗まれ、操作されて性的なコンテンツが作成される可能性があります。

私たちや警察の同僚が犯罪者に対処している間も、予防は依然として極めて重要です。

「私たちは、親や介護者に今日いくつかの簡単なステップを実行するよう促しています。ソーシャルメディアアカウントのプライバシー設定を見直すこと、子供の画像に誰がアクセスできるかを慎重に考えること、そして画像の共有と同意について家族、友人、学校、クラブと率直に話し合うことです。

「最も重要なのは、もし何かがうまくいかなくなった場合、冷静さを保ち、子供に非はないことを安心させ、できるだけ早く対策を講じられるよう、警察またはCEOP（児童搾取・オンライン保護コマンド）に懸念を報告することです」

英国では、AIを使用して作成または改変されたかどうかに関わらず、児童性的虐待の画像や動画は違法である。

IWFはまた、犯罪者が生成AIを使用して児童虐待資料を作成しにくくするため、テクノロジー企業に対して、AIモデルをリリースする前に評価し、保護するよう促している。 — Bernama-PA Media/dpa