本文へスキップ
Fact Check Lab
微生物・感染症医学博士に聞く、AIの医療情報はどこまで信用できるか

微生物・感染症医学博士に聞く、AIの医療情報はどこまで信用できるか

架空の論文を挙げるAIと、実在の論文に当たるAI。研究の現場で使い分けてきた大石氏が見る分かれ目

「この症状なら何が考えられるか」「どう予防すればよいか」。感染症について、いまは一般の人も医療従事者も、生成AIに尋ねれば数秒で答えを得られます。文章は整っていて、論文の名前まで添えてあることもあります。

では、その答えはどこまで信用できるのでしょうか。伺ったのは、微生物・感染症医学博士の大石貴幸氏です。横浜市内の病院で感染対策に携わり、感染対策の専門資格であるインフェクションコントロールドクター(ICD)でもあります。論文の検索や翻訳でAIを日常的に使う研究者の目から、AIの答えの「根拠」をどう確かめればよいかを聞きました。

大石 貴幸

大石 貴幸

インフェクションコントロールドクター、微生物・感染症医学博士、神奈川県感染症対策指導者感染症、微生物学および検査医学に関する情報調査・資料作成・編集に携わる。医療関連感染対策、滅菌・消毒、手術室を含む医療環境の管理、感染症の検査・予防に関するテーマを中心に、学術文献、公的機関・学会のガイドライン等を確認し、根拠に基づく情報整理を行っている。専門的な内容についても、医学的な正確性を損なわず、対象読者に応じて分かりやすく伝える文章化を重視している。感染予防、検査、微生物に関する記事について、医学的・科学的妥当性、用語・表現の適切性、参考情報の信頼性などの観点から監修に対応する。参照:https://factcheckpro.jp/experts/

「1本20万〜30万円」の翻訳がAIに——研究者はAIをどこまで使っているか

AIの答えを疑う前に、まず専門家自身がAIをどう使っているのかを聞きました。大石氏によると、周りの研究者で何らかの形でAIを使っている人は多いものの、研究をすべてAIに任せている人はさすがにいないといいます。研究の出発点である「臨床の疑問(クリニカルクエスチョン)」に対して、研究をどう組み立てるかは、自分で考えている人が多いと大石氏は見ています。

臨床の現場では、患者の安全と権利を守るため、倫理審査などの枠組みの下で研究を行います。そのため、さまざまな疫学的な証拠や観察研究をたどっていくのですが、それでもなかなか明確な答えがないことがあります。それがクリニカルクエスチョンです。それに対する研究のデザインは、さすがに自分でやっている人が多いというイメージです。

一方、文章を書く段階では、AIに骨格を書かせてから肉付けする人もいれば、自分で書いた文章をAIに直させる人もいて、使い方はさまざまだと大石氏は見ています。論文の検索については、近年はほとんどの研究者がAIを使っているといいます。以前は、米国の国立医学図書館が運営する医学文献のデータベース「PubMed(パブメド)」に、自分でキーワードを入れて探すのが当たり前でした。

大石氏自身も、AIの恩恵ははっきり感じています。大学院に通っていた2010年代は翻訳ツールもなく、英語の文献を辞書で調べながら自分で訳していました。いまは論文を探す時間が減り、論文が書きやすくなったのは事実だと話します。とくに変わったのが英訳です。

ほんの10年ぐらい前は、英語の論文を書くときは日本語で書いて、専門の業者に翻訳してもらっていました。それで1本あたり20万〜30万円かかったんです。いまのAIは、それと遜色ない状態で訳してきます。
大石氏が感染対策に携わるようになったのは、2009年に新型インフルエンザが流行したときで、微生物に詳しいことから勤務先の病院で対策を任されたのが始まりです。

それでも、AIの訳をそのまま投稿するわけではありません。AIだけでは心もとないので、大石氏は英文校正の業者に頼み、ネイティブのチェックを受けています。AIに任せない仕事も決めていて、使う作業と使わない作業は次のように分かれます。

  • ・使う:誤字脱字の修正、メールの返信文、論文の検索、英訳、発表用のイラスト
  • ・使わない:論文や雑誌への寄稿の原稿を書くことそのもの、ほかの研究者の論文の査読(掲載前の審査)

査読原稿は未公表の機密情報を含むため、多くの雑誌では原稿全体や査読意見を外部の生成AIに入力することを制限または禁止しているため、自分で読んで判断しているといいます。AIを使い慣れた大石氏でも、判断の中身まではAIに渡していません。

「いかにもありそうな論文を出してくる」——生成AIが文献で間違える理由

では、AIが挙げる論文はどこまで信用できるのでしょうか。大石氏の答えは「AIの種類による」でした。ChatGPTやGeminiのような汎用の対話型AIは、論文を探す用途では精度が良くないといいます。大石氏自身、使い始めた頃にそれを経験しています。

特にGeminiはハルシネーションがひどいです。平気で嘘をついて、いかにもありそうな論文を出してくるんです。その出典はどこかと聞くと、出してはくる。でも、その出典まで探しても、まったく出てこないんです。ChatGPTも似たり寄ったりです。

なぜ、存在しない論文が出てくるのか。大石氏は、AIが触れられる情報の範囲に理由を見ています。汎用のAIは、ふつうのネット検索は得意です。しかし専門の領域には、ログインしないと入れないサイトや、料金を払わないと読めない論文誌が多く、AIにはそこへのアクセス権がありません。

論文そのものや、論文がまとまっているサイトではなく、誰かがその論文を使いながら発信しているブログなどから持ってきたりする。一次情報ではなく、二次情報的なものを集めてくる感じです。だから曖昧なところがあるのかなと思います。

医学書や論文を根拠に答えるよう指示しても、著作権の制約や言語の違いから、指示どおりにならない場合があると大石氏は指摘します。しかも、何を根拠に答えたのかは、通常は表示されない設定になっていることが少なくありません。

これに対し、大石氏がいま論文の検索に主に使っているのは、検索に特化した生成AI「Perplexity(パープレキシティ)」です。PubMedの文献を情報源として提示させると、求める論文をきちんと挙げてくるといいます。ただし、ここにも条件が付きます。

検索に特化したAIでも、架空の論文を出すリスクは相対的に低くなる場合がありますが、ゼロではありません。ただ、中身はちゃんと確認しないと、本当にそれが合っているかどうかはわかりません。そのAIが何に特化しているのかをきっちり把握したうえで使いこなさないと、誤った方向に進む可能性があると思います。

論文が実在することと、AIの要約がその論文の中身と合っていることは、別の問題です。道具の得意分野を知ったうえで、最後は元の資料を読んで確かめます。これが、研究の現場でAIを使い分けてきた大石氏のやり方です。

AIの医療情報は「何を根拠に言っているか」から確かめる

一般の人が感染症についてAIに尋ねるときも、見るべき点は同じです。大石氏が真っ先に挙げたのは出典でした。多くの人が使う汎用の対話型AIは、出典を示さないまま答えだけを返すことが多いといいます。最近は、Googleの検索結果に出るAIの回答に出典が添えられるようになり、元の情報をたどれる場面も増えてきました。問題は、そこに何が出てくるかです。

出典を見て、厚生労働省、国立感染症研究所、保健所など、公的機関の情報であれば、信頼性があります。ただ、誰かのブログが出典として出てくることもたまにあるんです。だから、まずはAIが何を根拠に言っているのかを確認することが重要だと思います。

出典が示されないなら、質問するときに情報源を指定する方法もあります。感染症についてであれば、厚生労働省や国立感染症研究所、感染症関連の学会のホームページを情報源にして検索するよう、あらかじめ具体的に指示します。そうすると、信頼性の高い情報が示されやすくなると大石氏は話します。

では、専門家はAIの答えをどの順番で確かめているのでしょうか。大石氏がふだん確かめる順番は、おおむね次の3段階です。

  • ・AIが何を根拠に答えたかを見る(出典が示されていれば、実際に読む)
  • ・公的機関や学会のガイドラインで、いまの推奨を確かめる
  • ・推奨の根拠まで知りたければ、学術論文に当たる(研究の信頼度もあわせて見る)
図版A1:AIの答えを確かめる順番

論文より先に公的機関や学会のガイドラインを見るのは、いま現場で求められている標準的な対応を、そこでつかめるからです。感染症は、流行の状況や制度、地域によって対応が変わることがあるため、まず最新の情報を押さえます。論文に進むのは、その推奨がなぜそうなっているのかを深く知りたいときです。

公的機関の情報やガイドラインも、多くは医学論文を基盤として作成されていますが、最終的な根拠としては論文が基礎になります。もっとも、論文であればすべて同じように信頼できるわけではなく、研究デザインや対象数、バイアスの有無、再現性などによって信頼性は異なります。

つまり、論文が出典として挙がっていれば安心、ということにもなりません。その研究のデザイン(エビデンスレベル)だけでなく、研究の質、バイアスのリスク、対象集団、結果の一貫性、臨床現場への適用可能性まで見て、初めて根拠の重さが分かります。

WHOでさえ最初は否定していた——AIの答えは「いつの情報か」まで見る

公的機関が出典なら、それで確かめ終わりかというと、感染症の分野ではそうとも言い切れません。新型コロナウイルスの流行時には、専門家がテレビやSNSで別々の見解を示し、誰の話を信じればよいか迷った人も少なくなかったはずです。大石氏は、その背景に感染症という分野の難しさがあると話します。

感染で一番難しいのは、微生物が小さくて目に見えず、どのように感染が起きているのかがはっきりわからないところです。ですから我々専門家は、さまざまな論文を読んで、こういうことなんだなと納得していくしかない。それを一般の方にやれというのは、やっぱり難しいです。

大石氏が例に挙げたのは、世界保健機関(WHO)と、米国で感染症対策を担う政府機関である疾病対策センター(CDC)の見解の変化です。いずれも、大石氏が「信頼すべき機関」と呼ぶ組織です。

コロナ禍の初期には、WHOやCDCの見解も、飛沫感染を中心とする理解でした。しかし、様々な研究をもとに、CDCは2021年に、微細な呼吸器飛沫やエアロゾルの吸入を感染経路として明記し、WHOも2024年に「空気を介した伝播」に関する用語の国際的な整理を行いました。このように、信頼できる機関の見解も、新たな証拠や用語の合意形成に応じて更新されるのです。
大石氏はここ10年ほど、毎年1本以上の論文を発表しながら、ほかの研究者の論文の査読も年に3本ほど、海外の雑誌を含めると4〜5本担当しています。

AIは、過去の論文や報道をもとに、もっともらしく答えることがあります。大石氏は、病原体が変異すれば、かつて有効とされた検査や治療薬、ワクチンが、いまも同じように有効とは限らないと指摘します。ガイドラインも、流行の段階や地域の状況に応じて更新されます。日付、出典、ガイドラインの版が示されていない情報は、そのまま使わず、最新の公的資料と照らし合わせるよう勧めています。

AIの答えをもとに感染症の記事を作る場合はどうでしょうか。大石氏は、編集者が公開前に最低限確かめるべき点として、次の5つを挙げます。

  • ・出典(公的機関・学会・論文か。要約が元の資料と合っているか)
  • ・最新性(ガイドラインの改訂や変異株の出現で古くなっていないか)
  • ・用語(「消毒」と「滅菌」〈微生物を減らすか、すべてなくすか〉、「感染」と「保菌」〈発症しているか、菌を持っているだけか〉を取り違えていないか)
  • ・現場との整合(「陽性なら感染」のような単純化をしていないか)
  • ・利益相反(特定の製品や企業を不当に推していないか)
図版A2:公開前に確かめる5点

大石氏は、AIを使って作った記事であっても、誰が、どの範囲で、どのようにAIを使うのかをあらかじめ定め、最終的な判断と公開・提供の責任を人間が担う体制が必要であると話します。

大石氏の話から見えてきたのは、AIの医療情報の信頼性は、文章のもっともらしさでは測れないということでした。架空の論文は、出典をたどらなければ見抜けません。実在する出典でも、いつの情報かを確かめなければ、すでに改められた見解かもしれません。何を根拠に、いつの時点で言っているのか。この2つを確かめる手間が、AIの答えを使える情報に変えます。

なお、AIの答えに出てこない消毒薬の制度の事情や、ガイドラインを病院や施設でどう運用するかについては、別記事「神奈川県感染症対策指導者が語る、AIの答えにない消毒薬の落とし穴」で伺っています。

取材日:2026年10月5日

編集プロダクション雨輝

この記事を書いた人

編集プロダクション雨輝

2014年創業。取材・執筆、編集、校正・校閲、ファクトチェックなど、コンテンツ制作を幅広く手がける編集プロダクション。正確性と信頼性を重視し、専門家への取材や一次情報の確認を通じた、質の高い情報発信に取り組んでいる。https://amaterupro.jp/

ファクトチェック

AIやライターが見逃す誤りを、根拠から正す

精鋭のベテラン

校閲者の平均経験年数 15年以上

全ジャンル対応

分野に特化した校閲者が在籍

ファクトチェックサービスを見る

関連記事