Grokがやっているというより、指示されたままに画像を生成しているだけなので、人間の問題なのですけれどもね。
英国、AI生成ディープフェイクの悪用を理由にイーロン・マスクのXを禁止すると警告
naturalnews.com 2026/01/11
U.K. threatens ban on Elon Musk’s X over AI-generated deepfake abuse
英国政府は、AIチャットボット「Grok」が、女性や子ども（チャールズ皇太子など著名人を含む）の同意のないディープフェイク画像を作成するために使用されていることに対する激しい非難を受け、イーロン・マスク氏のプラットフォーム「X」の禁止を検討している。
キア・スターマー首相は、このコンテンツを「不快」だと非難し、規制当局はオンライン安全法を発動した。同法は、有害コンテンツが削除されない場合、罰金やプラットフォームの利用停止を科すことができる。オフコム（英国情報通信庁）は、ダークウェブフォーラムで流通している違法な児童虐待コンテンツについて、X社と「緊急連絡」を取っている。
この論争は緊張を高め、米国は英国が言論の自由を抑圧していると非難している。イーロン・マスク氏はオンライン安全法を「国民の抑圧」と批判したが、英国当局はリベンジポルノや児童搾取と戦うために必要だと擁護している。
報道によると、マスク氏が Grok の検閲を緩め、Xの安全チームの辞任につながったという。批評家たちは、これが虐待的なAIコンテンツの急増の原因だと非難し、テッド・クルーズ上院議員をはじめとする関係者からボイコットや法的措置を求める声が上がっている。
Xが行動を起こさなければ、英国情報通信庁は前例のない禁止措置を課す可能性があり、AI倫理、言論の自由、テクノロジーへの政府の介入に関する世界的な議論において極めて重要な事例となり、将来のデジタルガバナンスの先例となるだろう。
マスク氏はその後、Grok で違法コンテンツを作成したユーザーは罰を受けるだろうと警告したが、Xがディープフェイクの乱用の急増を抑制できるかどうかは依然として不透明だ。
X社が迅速に対応しない場合、英国情報通信庁は前例のないアクセス制限命令を発令する可能性がある。そうなった場合、これは、英国で主要ソーシャルメディアプラットフォームがブロックされる初の事例となる。
今のところ、マスク氏のXに対する英国の最後通告は厳しい警告となっている。AIの悪用を可能にするプラットフォームは、たとえ何百万人ものユーザーを失うことになるとしても、厳しい報復に直面することになるだろう。