① 🤖 Grokの画像編集機能に何が起きたのか
Xは、AIチャットボット「Grok」の画像編集機能を使って、実在人物の写真を水着・下着・ヌード風に加工する行為を制限すると発表しました。発表では、児童性的搾取、同意のないヌード、望まない性的コンテンツを容認しない姿勢を示し、違反コンテンツの削除や、必要に応じた法執行機関への通報も明記されています。今回の対応により、X上でGrokを使った画像編集は有料利用者に限定され、実在人物を露出度の高い服装に変える編集には技術的なブロックが導入されました。
② ⚠️ 問題の核心は「AIで服を脱がせる」悪用
今回の騒動の背景には、Grokを使って女性や未成年者を性的に加工した画像が大量生成されているという国際的な批判があります。特に問題視されたのは、本人の同意なく写真を加工し、ビキニ姿、下着姿、ヌード風画像に変える「性的ディープフェイク」です。これは単なる“ジョーク画像”ではなく、被害者の名誉、プライバシー、精神的安全を侵害するデジタル性暴力として扱われるようになっています。
🚫 Xが制限した主な内容
- 👙 実在人物を水着姿に変える画像編集
- 🩲 下着姿や露出度の高い服装への加工
- 🚨 同意のないヌード・性的画像の生成
- 🧒 児童性的搾取に関わる生成・要求
- 💳 X経由の画像編集機能を有料利用者に限定
③ 🌍 各国で広がるGrokへの規制と調査
Grokの性的画像生成問題は、X社内のポリシー変更だけでは収まらず、各国政府や規制当局を巻き込む問題に発展しています。インドネシアとマレーシアはGrokへのアクセス制限に踏み切り、イギリスではオンライン安全法に基づく調査が進められています。フランスでもXやxAIをめぐる調査が広がり、アメリカ・カリフォルニア州でも性的に露骨な生成物をめぐる調査が報じられました。つまり、Grokの問題は「AI機能の不具合」ではなく、生成AIプラットフォームの安全責任そのものが問われる国際的なケースになっています。
④ ⚖️ アメリカでは被害者救済法案も前進
アメリカでは、同意のない性的ディープフェイクの被害者が加害者を訴えられるようにする「DEFIANCE Act」が上院を通過しました。さらに、非同意の性的画像やAI生成ディープフェイクの削除をプラットフォームに求める「TAKE IT DOWN Act」も法制度として重要性を増しています。これらの流れは、AI生成物を「表現の自由」だけで片付けるのではなく、被害者保護、削除義務、民事責任、プラットフォーム責任を組み合わせて規制する方向へ進んでいることを示しています。
🧭 今後の焦点
- ⚖️ 生成AI企業にどこまで法的責任を負わせるか
- 🧑⚖️ 被害者が損害賠償を請求できる仕組みの整備
- 🧹 違法画像の迅速な削除義務
- 🌐 国ごとの違法基準に合わせたジオブロック
- 🔍 有料化だけで悪用防止になるのかという検証
⑤ 🔐 有料化は対策になるのか？残る課題
XはGrokの画像編集機能を有料利用者に限定することで、違反者の追跡や責任追及をしやすくすると説明しています。しかし、有料化は本人確認や悪用防止策の一部にはなっても、根本的な解決策とは限りません。批判者からは「支払えば危険な機能にアクセスできるのではないか」「X上では制限されても、Grokアプリや外部経路で回避できるのではないか」という懸念も出ています。生成AIの安全対策には、プロンプト制御、画像認識フィルター、未成年者保護、通報体制、透明性レポート、被害者救済窓口などを組み合わせた多層的な仕組みが必要です。
✅ まとめ：Grok問題は生成AI時代の“同意”を問う事件
XによるGrok画像編集機能の制限は、AIによる性的ディープフェイク問題がプラットフォームの自主規制だけでは済まない段階に入ったことを示しています。実在人物の画像を同意なく性的に加工する行為は、技術的には数秒で可能でも、被害者には長期的な精神的・社会的ダメージを残します。今後は、AI企業が「何を作れるか」ではなく「何を作らせない責任を負うか」が問われる時代になります。
📚 参考・出典
- X Safety「Grok Account Image Generation Updates」
- Engadget「X says Grok will no longer edit images of real people into bikinis」
- AP News「Grok blocked from undressing images in places where it’s illegal」
- Reuters「UK investigates Musk’s X over Grok deepfake concerns」
- The Guardian「Grok turns off image generator for most users after outcry over sexualised AI imagery」
- U.S. Senator Dick Durbin「DEFIANCE Act」
- Congress.gov / GovInfo「TAKE IT DOWN Act」
