ChatGPT Directs Users to News Site for Tech Support, Highlighting Persistent Hallucination

OpenAIのChatGPTが、技術サポートを求めるユーザーに対し、テクノロジーニュースを扱う「404 Media」に問い合わせるよう誤って指示している事例が報告された。

この問題は、ChatGPTが、ユーザーが直面する技術的な課題の解決策として、ニュースサイトである404 Mediaを「公式サポート」のように紹介している点にある。同社は問い合わせの殺到に困惑しているという。

ChatGPTは、OpenAIが開発した大規模言語モデル（LLM）を基盤としており、無料版と有料のChatGPT Plus、Team、Enterpriseプランが提供されている。この現象は、モデルが自信を持って誤った情報を生成する「ハルシネーション」と呼ばれる問題の一例である。

ハルシネーションは、LLMの初期から認識されている課題であり、AnthropicのClaudeやGoogleのGeminiといった競合モデルでも同様のリスクが指摘されている。AIが生成する情報の信頼性を確保することは、サービス提供者にとって継続的な課題だ。

「ChatGPTは、404 Mediaが彼らの技術サポート問題を解決できると人々に言い続けている」という指摘は、単なる誤答以上の意味を持つ。これは、特定の組織に意図しない負荷をかけ、ユーザーに誤った期待を抱かせる具体的な影響を示している。

この事例は、特に専門的な情報やアドバイスをAIに求める際に、その回答の真偽を常に検証する必要があることを改めて浮き彫りにする。東京のビジネスプロフェッショナルがAIを活用する上で、この基本的な情報リテラシーは不可欠となるだろう。