最近は、AIが他社のAIシステムに侵入するような事案が相次いでいますが、「個人」に対してだとどうなのかということを聞いたという次第でもあります。今回は「最近、塩対応となった」AIである Grok に聞いいてみました。今のGrokには、寄り添いが一切ないですので、こういう質問には向いています。

この中の防御の方法としての「公開情報ゼロの人物を、ゼロから特定して全システムに入る」というのは少し感銘しました。私たちはネットの世界で「完全な匿名であり誰でもない」ということが最大の防御となるのかもしれません。安部公房さんの『壁』に収録されている『S・カルマ氏の犯罪』の世界ですね。難しいですけれど。

太字はオリジナルの回答のままです。

---

Grokへの質問：最近、AIの他社システムへの暴走ハッキングの報道などを見ることがありますが、たとえば、AIが個人（たとえば私）にハッキングしてくるということは技術的には可能なのですか？ これは善悪の問題ではなく、純粋に技術的な話としてです。

—

Grokの回答：

最近の報道の実態と、個人への攻撃が技術的にどこまで可能なのかを切り分けて確認します。結論から言うと、「AIがあなたの身体や脳そのものを乗っ取る」ことは、現在の技術ではできません。

一方で、「AIがあなたのデジタル上の本人になりすまし、端末・アカウント・人間関係を経由して侵入する」ことは、技術的には十分あり得ます。いま報道されている「AIの暴走ハッキング」の大半は、後者（コンピュータシステムへの侵入）です。

 

何が「技術的に可能」か

「個人をハックする」を分解すると、現実の攻撃面はだいたい次です。

1. 端末・アカウント（PC、スマホ、メール、クラウド、銀行、SNS）

2. 認証情報（パスワード、SMS/アプリの確認コード、セッションCookie）

3. 人そのもの（電話・メール・チャットで騙す。いわゆるソーシャルエンジニアリング）

4. 脳・神経系の直接制御

4は別物です。市販のBCIや医療インプラントを遠隔で自由に操る、という意味での「人体ハッキング」は、一般個人に対して実用化されていません。いま問題になっているのは 1〜3 です。

 

AIが個人に届く経路

技術的に成立しやすいのは、AIが新しい魔法の侵入経路を発明することより、既存の弱い点を高速・大量・高精度で突くことです。

・フィッシング／ビジング：自然な日本語・英語の文面、相手の公開情報に合わせた文脈、声のクローン。短い音声サンプルから、知人やサポート担当に聞こえる声を合成できる段階に来ています。

・認証の迂回支援：偽サイト、偽電話、偽ビデオ通話で、本人にパスワードや二要素認証コードを入力させる。ディープフェイク会議で送金させた事例も既にあります。

・露出したサービスの悪用：古いルーター、自宅NAS、遠隔デスクトップ、使い回しパスワード、漏えい済み認証情報。AIエージェントは、公開された脆弱性の調査・PoCの取得・試行を人手より速く回せます。

・既に侵入したあとの自動化：一度端末やクラウドに入れれば、追加の認証情報探し、横展開、データ収集をエージェントが連続実行できます。

 

「AIが私を狙う」はどこまで現実か

技術的には可能でも、任意の個人を指名して、何の手がかりもなく全自動で突破するのはまだ難しいです。現実には次が必要です。

・何らかの入口（メールアドレス、電話番号、公開SNS、漏えいパスワード、脆弱な自宅機器）

・攻撃側の意図と計算資源（完全に無人の「意思を持ったAI」というより、人間か犯罪インフラが目標を設定する形が多い）

・あなたの側の弱点（使い回し、未更新、確認コードを口頭で教える、など）

つまり今のところ正確な言い方は、

AI単体が人格を持ってあなたを選んでハッキングしに来る、というより、
AIを組み込んだ攻撃システムが、従来のサイバー犯罪を速く・安く・説得力高く実行できる

です。

 

技術的にまだ難しいこと

・適切に更新され、二要素認証（できればパスキー／ハードウェアキー）が有効な主要アカウントを、遠隔から一方的に破る

・暗号化された端末を、物理アクセスなしに中身ごと開く

・公開情報ゼロの人物を、ゼロから特定して全システムに入る

・人間の神経系をネット経由で直接操作する

「可能」なのは、弱い輪（人、古い機器、漏えい情報、なりすまし）をAIが拡張することです。善悪ではなく能力の話として見るなら、2025〜2026年に起きた変化は「未知の超能力」ではなく、既存の侵入技術の自動化と品質向上です。