最新AIモデルによるコンテンツ制作の残るリスクを更新しました

Fact Check PROでは、TOPページの「最新AIモデルによるコンテンツ制作の残るリスク」を、2026年に公開された新たな研究結果に基づいて更新しました。

生成AIやDeep Research系AIは、文章作成、情報収集、要約、資料作成など、さまざまな場面で活用されています。モデルの性能は向上を続けていますが、生成された内容をそのまま企業コンテンツとして公開することには、依然として注意が必要です。

今回の更新では、特に以下の3つのリスクを取り上げています。

・存在しない用語や固有名詞について、もっともらしい説明を生成するリスク ・最新ニュースの回答で、正しい情報源を取得できないリスク ・Deep Research系AIが、実在しない引用URLを提示するリスク

【存在しない概念でも、もっともらしく回答する】 2026年6月に公開された「PhantomBench」では、実在しない用語や固有名詞6万件超を使い、21のAIモデルを評価しています。

その結果、実在を前提とした質問では、条件によって最大86.7%のハルシネーション率が確認されました。最新モデルであっても、知らない情報について回答を控えるのではなく、もっともらしい説明を生成してしまうことがあります。

【最新ニュースでは、正しい情報源の取得が課題になる】 2026年5月に公開された研究では、GPT-5やGemini 3 Proなど6種類のAIを対象に、当日報道されたニュースから作成した2,100問を評価しました。

発生した誤りの70%以上は、推論そのものではなく、正しい情報源を取得できなかったことに起因していました。新しい情報を扱う場合、AIが検索機能を利用していても、適切な一次情報にたどり着いているとは限りません。

【Deep Researchでも、実在しない引用URLが提示される】 2026年4月に公開された研究では、10種類のAIモデル・リサーチエージェントが提示した53,090件の引用URLを検証しています。

その結果、3〜13%のURLはウェブアーカイブにも記録がなく、実在しない可能性が高いことが確認されました。出典らしいURLが表示されていても、そのページが本当に存在するか、記載内容を裏付けているかは別途確認する必要があります。

これらの数値は、それぞれ異なる質問、モデル、評価方法によって得られたものです。一般的なAI回答やSEO記事の誤情報混入率を示すものではありませんが、AIの回答をそのまま公開することのリスクを示す重要な調査結果といえます。

AI活用そのものを否定するものではありません。むしろ、AIを積極的に業務へ取り入れる企業ほど、公開前に以下の点を確認する工程が重要になります。

・記載された事実や固有名詞が実在するか ・数字や制度が最新の情報に基づいているか ・引用元やURLが実在し、本文の主張を裏付けているか ・専門領域について不正確な断定をしていないか ・複数の情報源の内容が正しく整理されているか

特に、以下のようなコンテンツでは注意が必要です。

・AI生成記事 ・SEO記事、オウンドメディア記事 ・LP、サービスページ ・プレスリリース ・SNS投稿 ・動画台本 ・ホワイトペーパー、営業資料 ・医療、法律、金融、不動産など専門領域のコンテンツ

AIが作成した文章は、自然で読みやすく整っているほど、誤りに気づきにくくなることがあります。検索結果や出典が添えられていても、情報源の選択や引用内容まで正しいとは限りません。

Fact Check PROでは、AI生成文や外注コンテンツを対象に、公開前のファクトチェックと専門家監修を支援しています。一次情報の確認、出典・引用元のチェック、数値・制度・固有名詞の確認、専門領域の表現調整まで、コンテンツの用途やリスクに応じた確認範囲をご提案します。

最新データの詳細は、TOPページの「最新AIモデルによるコンテンツ制作の残るリスク」をご覧ください。

【参考研究】 ・Jung & Gonen「PhantomBench: Benchmarking the Non-existential Threat of Language Models」（2026） ・Suzgun et al.「Evaluating Commercial AI Chatbots as News Intermediaries」（2026） ・Rao et al.「Detecting and Correcting Reference Hallucinations in Commercial LLMs and Deep Research Agents」（2026）