やるな、Grok。

AI生成ディープフェイクの87％が「Grok」、6件に1件は性的画像との調査結果

gadget.phileweb.com 2026/08/13

Resemble AI は2026年上半期について、ディープフェイク攻撃に関連したAI生成ファイルの87％を、イーロン・マスク氏のGrok AIが占めていたとの調査結果を報告している。Resemble AI 社は、音声・画像・動画のディープフェイク検出や、生成コンテンツの安全管理を企業向けに提供するAI企業である。

研究者らは1,760件のニュース報道を調査し、821件の検証済みディープフェイク攻撃を集計した。確認された被害者は少なくとも1万5,736人、記録された合成画像・動画・音声は約346万件に上る。そのうち、生成ツールを特定して「カウント可能なファイル」に限ると、Grokによる生成物が約87％を占めていたという。

ただし、この調査は全世界のディープフェイク被害を無作為に測定したものではなく、あくまで公に報じられた事件に基づいている。しかも、87％という割合は生成ツールを特定できたファイルに限った数字だ。報道されていない事件や被害が統計から漏れている点にも留意すべきだろう。

そうした但し書きを考慮しても、広く利用されているGrokが、どれほど悪用や不正利用のツールとして転用されているかを示す数字だといえる。

今回の調査結果は、マスク氏がGrokに巨額の資金を注いでいるなかで明らかになった。ビジネス。インサイダー紙によると、SpaceXによるxAI買収後、マスク氏は全社ミーティングで、SpaceXのAI事業の収益が早ければ9月にも、その他すべての製品からの収益を上回ると述べたという。

SpaceXは最新四半期に25億6,000万ドルのAI収益を報告しており、Grokとそれを支えるインフラが同社の将来の中核に位置付けられている。そのため、Grokの利用実態を、急速な商業的成長と切り離して考えることが難しくなっている。

さらにResemble AIは、821件の攻撃のうち137件、およそ6件に1件が、成人または子どもの同意のない性的画像に関係していたことを明らかにした。

Grokは今年初め、他人の写真を「性的加工」する用途に利用され始めたことで、激しい批判にさらされていた。