検索システムの DuckDuckGo の AI 検索システムが「トランプ氏と副大統領が狂犬病で死亡した」という情報を出力していることを、米フューチュアリズム誌が報じています。以下のような記事です。

（記事の冒頭）＞ DuckDuckGoのAI検索機能によると、ドナルド・トランプ米大統領は今月初めに狂犬病で亡くなった。このAI機能の説明によると、トランプ氏より先に亡くなった副大統領のJD・ヴァンス氏も、同じく不治のウイルスで亡くなったとのことだ。 この記事は、トランプ氏が保健福祉長官ロバート・F・ケネディ・ジュニア氏の助言に従い、ヴァンス氏にわざと噛まれたと主張している。
＞
＞ …言うまでもなく、これは全くの嘘である。トランプ氏とヴァンス氏は健在であり、RFK Jr.氏は政権在任中に数々の疑わしい健康上の主張をしてきたものの、狂犬病感染の健康上の利点を主張したことは一度もない。

AI の脆さが露呈した一件でしたが、なぜ、こんな間違いが AI で起きたのかを別の AI である Grok に聞いてみました。

---

質問：なぜ、こんな間違いが起き得るのですか？ AIハルシネーション（幻覚）ですか？

—

Grokの回答：

**はい、これは典型的な「AIハルシネーション」**ですが、**単なるランダムな幻覚ではなく、意図的な「AI poisoning（AI毒入れ）」**が成功した事例です。

 

何が起きたか（正確な経緯）

DuckDuckGoのAI検索機能（AIチャットや要約機能）が、ユーザーのクエリに対して以下のような完全に虚偽の情報を出力した：

・「ドナルド・トランプ大統領は今月上旬に狂犬病で死亡した」

・JD ヴァンス副大統領も先に狂犬病で死亡し、ヴァンス氏がトランプ氏を噛んだ

・RFK Jr.（保健福祉長官）が「狂犬病でスーパーパワーが得られる」と助言した、など

これが事実無根であることは明らか（トランプもヴァンスも生存中）で、DuckDuckGoが引用したソースも怪しい偽ニュースサイト（WKNAなど）でした。

 

なぜこんな間違いが起きるのか？

AIモデル（特に検索＋生成AIの組み合わせ）は以下のように動作します：

１. 膨大なウェブデータを学習・参照するが、真偽を完璧に区別できない。

２. Redditなどのユーザー生成コンテンツを大量に取り込む。

３. r/poisonaiというサブレッド（反AI・いたずら目的のコミュニティ）が、意図的に大量の偽情報を投稿：

・「JD ヴァンスが狂犬病で死亡した」という架空の記事・コメントを大量生産。

・返信も「本当の出来事」として扱い、AIが「多数のソースで一致」と誤認しやすくする。

４. 偽ニュースサイトがこれを拾って記事化（AI生成のピンク・スライムメディアも関与）。

５. DuckDuckGoのAIがこれを「信頼できる複数のソース」として合成・出力 → ハルシネーションが発生。

これは「AI poisoning（AI毒入れ）」と呼ばれる手法で、以前からGoogleのAI Overviewや他のモデルなどでも似た事例が報告されています。Redditのジョークが現実の検索結果に影響を与える典型例です。

 

ハルシネーションの本質

・純粋なハルシネーション：モデルが訓練データにない架空のことを「自信満々に」作ってしまう。

・今回のケース：汚染されたデータ（意図的偽情報）が原因の誘導型ハルシネーション。

・AIは「確率的に最もらしい文章」を生成するだけで、事実検証の仕組みが不十分だとこうなる。

DuckDuckGoはプライバシー重視の検索エンジンとして人気ですが、AI機能を追加したことでこのような弱点が露呈しました。他社も同様の問題を抱えています。

 

教訓

・AIの出力は常に一次ソースで検証するべき。

・こうしたいたずらはAIの限界を示す良い例ですが、将来的にはファクトチェック強化やデータフィルタリングで改善されるはず。

・面白いことに、poisonaiのメンバーたち（AI毒入りを行った人たち）はこれを「成功」として喜んでいるそうです（皮肉な話）。

この手の事例は今後も増えそうなので、ニュースやAI回答を使うときは「ソースは本物か？」を意識してください。