世界最大のSNSであるXのAI機能「Grok（グロック）」を巡り、投稿した人物画像を他者から性的に加工される性的ディープフェイクの被害が相次いでいる。国内では昨年末からトラブルの報告が急増。インフルエンサーや芸能人から、一部皇族にまで被害が及ぶ事態となっている。また、著名人でなくとも、卒業アルバムなどの写真から性的フェイク画像を生成され、いじめや脅迫、実際の性犯罪に発展する被害も……。急速に発展する生成AIに対し、どう向き合うべきなのか。専門家に話を聞いた。（取材・文＝佐藤佑輔）

「写真の人物をこのままのアングルでビキニにして」

　Xでは今月1日以降、Grokに人物写真の生成AI加工を指示する投稿が急増。ビキニ姿など、肌の露出を増やす内容の指示は数千件に及んでおり、インド政府はXに是正措置を講じるよう命令、フランスの閣僚が検察当局に通報を行うなど、世界的な問題となっている。

　国内では3日、漫画家の田辺洋一郎氏がアイドルグループ・STU48の工藤理子の写真を勝手にビキニに加工して投稿したとして炎上。田辺氏は5日、X上で「多大なご迷惑をおかけしましたことを、深くお詫び申し上げます」と謝罪文を投稿した。この他、昨年12月30～31日に開催されたコミックマーケット参加のコスプレイヤーからも、多数の被害が報告されており、さらには一部皇族の写真を加工したと思われる画像も出回っている。

　2020年からネット上の不適切画像の通報活動や被害者支援を行う「ひいらぎネット」の永守すみれ代表は、「生成AIの技術そのものは以前からありますが、今話題のGrokは、X上に投稿された画像からより手軽にシームレスにディープフェイクの生成が可能です。プロンプトも日本語で簡単な指示を出すだけなので、子どもでも簡単に作れてしまう。被害者が自身のフェイク画像が出回っていることに気付いてしまう機会も多い。以前はアンダーグラウンドだったフェイクポルノが、罪の意識が薄いままに低年齢化、カジュアル化しています」と警鐘を鳴らす。

　さまざまなAIを用いて写真素材からヌード画像や動画を生成されるフェイクポルノの被害は以前から報告されており、警察庁が昨年12月に行った18歳未満の性的ディープフェイク被害の調査では、被害者の約8割が中高生で、加害者の約半数は被害者と同じ学校に通う生徒だった。卒業アルバムなどの素材からフェイクポルノが生成されるケースも多く、中には卒業アルバムの廃止や、写真や氏名の掲載を見送る判断をする学校も出始めている。

　永守さん自身、今回、生成AI悪用への懸念を表明したスペイン語圏の女性に賛同する内容の投稿をしたところ、スペイン語での嫌がらせが殺到。アイコンからビキニ姿が生成される被害に遭ったという。「紛れもない人権侵害ですが、声を上げる女性へのハラスメントや、攻撃手段として利用されている実態があります。画像に保護をかけるなどの自衛手段もありますが、AIも日々進歩しており、すべてを網羅できるわけではありません」と対策の難しさを口にする。

「Xの利用規約では『当社のコンテンツ利用規約に従い、サービスにまたはサービスを通じて送信されたコンテンツを他の企業、組織、または個人が利用できるようにする権利が含まれることに同意するものとします』との記載があり、写真を投稿した場合は第三者からのAI利用にも同意したものと見なされるため、被害を訴えた人に対し『投稿した方が悪い』と規約を盾にした二次加害も横行しています。確かに写真を上げないのが一番の対策ですが、必ずしも投稿者と被写体とが同一人物とは限りません。何より、単なるプラットフォーム側の利用規約よりも、肖像権や著作権といった法律の方が優先されるべきです」

　X社を所有する実業家のイーロン・マスク氏は4日、「Grokを使って違法なコンテンツを作成すると、違法なコンテンツをアップロードした場合と同様の結果を被ることになる」と公表。6日現在、Xの利用規約では「利用規約の一部を改定いたしました。この利用規約のバージョンは2026年1月15日に施行されます。それまでは 現在の利用規約が引き続き適用されます」と規約のアップデートの予定が記載されている。また、現時点の規約であっても「合意のない裸体の描写に関するポリシー」という項目では「本人の同意を得ずに撮影または配布された、私的な画像や動画のポストや共有は禁じられています」としている。