本文へスキップ
Fact Check Lab
AIの架空の判例などを米国の裁判所が指摘した件数、2026年は10月までに938件 2025年1年分の527件を超える

AIの架空の判例などを米国の裁判所が指摘した件数、2026年は10月までに938件 2025年1年分の527件を超える

公開日 更新日

法律ニュースサイトLegal Desire(リーガル・デザイア)は2026年10月27日、米国の裁判所でAIのハルシネーションがかかわった件が、2026年1〜6月だけで574件記録されたと伝えました。(出典①)ハルシネーションは、生成AIが事実と異なる内容を本当のことのように作り出すことです。数字の元は、法律文書のひな形などをオンラインで提供するLawDistrict(ローディストリクト)が、フランスのビジネススクールの研究者が作るデータベースを集計した記事です。(出典②)

編集部が10月28日にこのデータベースを取得して数え直すと、米国の件数は2025年の527件に対し、2026年は10月23日までに938件でした。指摘を受けた件の約6割は、弁護士を立てずに自分で裁判をする人がかかわったものでした。

この記事でわかること

  • ・米国の裁判所で、AIの架空の判例などが指摘された件数の推移
  • ・誰が、どんな誤りで指摘され、裁判所がどう対応しているか
  • ・数字を読むときの注意と、AIが示した判例や条文の確かめ方

データベースは、裁判所がAIの誤りと認めた判断を集めている

元になったのは、フランスのビジネススクールHEC Paris(パリ経営大学院)の上級研究員、Damien Charlotin(ダミアン・シャルロタン)氏が公開している「AI Hallucination Cases Database」です。(出典③)生成AIが作った誤りがかかわる裁判所の判断を集めたもので、多くは架空の判例の引用です。サイトの表示では、2026年10月28日の更新の時点で世界の2,231件を収めています。

載せるのは、AIが作った誤った内容に当事者が頼ったと、裁判所がはっきり認めたか、そう読み取れる判断を示したものです。相手方が「AIの誤りだ」と主張しただけのものは、原則として載せていません。ただし例外として、AIの使用が疑われただけの判断も、一部は同氏の判断で載せています。(出典③)Charlotin氏は、AIの誤りかどうかを自分では判断せず、裁判所の判断に任せていると説明しています。そのため、このデータベースは「必然的に実際より少なく数えている」としています。(出典④)

データベースのページによると、データは誰でもCSV(表計算ソフトで開ける形式)で取り出せ、出典を示せば自由に使えるライセンス(CC BY 4.0)で公開されています。米国の件が多い理由の1つとして、Charlotin氏は、米国では裁判の記録をインターネットで調べやすいことを挙げています。これに対して多くの国、とくにヨーロッパの国では、公開されているはずの裁判の記録に、研究者が手を付けにくいと述べています。(出典④)同氏はほかにも、米国ではAIを取り入れる割合が高いことや、訴訟が多い社会であることを挙げています。LawDistrictの取材には、米国の連邦法の分(原文は “U.S. federal law”)と、英語圏のほかのいくつかの地域の収集は「非常に網羅的」だと説明しました。

2026年は10月までに、2025年1年分の527件を大きく超えた

米国の件の推移を見るため、2026年10月28日に取得したデータで、国の欄に米国が入っている1,515件を、データベースの日付の欄の年ごとに数えました(日付の無い1件を除く)。1,515件には、米国会計検査院(GAO)など、裁判所以外の機関の判断も含まれます(GAOは21件)。年ごとの件数は以下のとおりです。

  • ・2023年:11件
  • ・2024年:38件
  • ・2025年:527件
  • ・2026年:938件(10月23日まで)

LawDistrictの記事(2026年9月7日更新)は、記事のためにデータを7月23日に取り出したと書いており、1〜6月を574件と伝えました。同じ1〜6月を10月28日のデータで数えると626件で、52件多くなっていました。LawDistrictは2024年を37件、2025年を526件としており、こちらも1件ずつ違います。差の理由は資料に書かれていません。データベースは新しい例が見つかるたびに増えていくとしており、直近の9月・10月の件数も、これから変わる可能性があります。

LawDistrictは、今のペースが続けば2026年の1年間で1,200〜1,300件、これまでのような伸びが続けば2,200〜2,800件になると予測しています。ただし、この予測はLawDistrictが独自に計算したもので、Charlotin氏の予測ではないと明記されています。Charlotin氏はLawDistrictの取材に、件数の多さには「それほど驚いていない」と答えたうえで、問題が広く起きている危機の証拠として扱うことには注意を促しました。「起こりうる影響に比べれば数は小さく、ほとんどのチェックがうまく働いていることを示している」(原文は “Numbers are small compared to possible impact, showing that most filters work well”)という説明です。LawDistrictはこの発言を、件数が増えたのは、仕組みが誤りを見逃しているからではなく、裁判所が誤りを見つけるようになったことの表れかもしれない、という意味だと説明しています。

指摘の約6割は、弁護士を立てない本人訴訟

AIの誤りを指摘された人を、データベースの「AIを使った当事者」の欄で数えました。米国の1,515件のうち、本人訴訟(弁護士を立てずに自分で裁判をすること)の当事者がかかわった件は902件(59.5%)、弁護士がかかわった件は594件(39.2%)です。LawDistrictが伝えた約60%と38%と、ほぼ同じ割合でした。

Charlotin氏はLawDistrictに対し、指摘を受けているのは主に本人訴訟の当事者と、1人や少人数で営む法律事務所だと話しています。共通しているのは、提出の前に別の人が確かめる仕組みが無いことだという見方です。大きな事務所では、どこかの段階でだれかが確かめて誤りを見つけていると、同氏は説明しています。

誤りの中身も、データベースに1件ずつ記録されています。米国の件に記録された誤りの項目は4,712件で、多い順に以下のとおりです。1件の書面に複数の誤りがあれば、それぞれ1件と数えます。

  • ・存在しない判例などの引用:2,438件(51.7%)
  • ・実在する判例などの中身の誤った紹介:1,296件(27.5%)
  • ・判決などにない文の引用:953件(20.2%)

中身の誤った紹介1,296件のうち1,115件と、判決などにない文の引用953件のうち898件は、判例についての誤りです。判例そのものが実在する場合、名前を検索しただけでは誤りに気づきにくくなります。Charlotin氏はLawDistrictの取材で、AIが偽の引用文や誤った主張を実在する判例の名前に結び付けたときは、名前が「たまたま本物だった」にすぎないと述べています。

裁判所の対応は、警告から弁護士会への付託までまちまち

AIの誤りを指摘された人が、どう扱われたかもデータベースから分かります。米国の1,515件のうち、対応の欄が「警告(Warning)」だけの件は467件でした。一方で、弁護士がかかわった594件のうち116件では、資格にかかわる対応の欄(Professional Sanction)が「Yes」でした。この欄には、資格の停止などの処分のほか、弁護士会への付託(処分を検討してもらうための通知)や戒告、研修の受講命令も含まれます。

Charlotin氏はLawDistrictの取材で、裁判所の対応を全体としては「比較的寛大」だと話し、対応のしかたがそろっているかを問われると「パッチワーク(つぎはぎ)」と答えました。同氏は、寛大なのは「普通のこと」だとしています。ほとんどの件は人のミスやAIの使い方の誤りから起きたもので、多くの制裁の理由になる無謀さや嫌がらせとは違うためです。Charlotin氏は自身のFAQで、金銭や資格の処分を受けた件の多くは、指摘を受けても誤りを認めなかったり、作り話をしたりした場合だとも述べています。

AIが示した判例や条文は、原文を開いて確かめる

Charlotin氏のデータベースが収める46の国・地域などの中に、日本は入っていません(2026年10月28日時点)。Charlotin氏が挙げるように、裁判の記録の調べやすさは国によって違います。そのため、載っていないからといって、日本で同じことが起きていないとは言えません。生成AIに法律や判例のことを尋ねる場面は、日本でも仕事や暮らしの中にあります。

AIが判例を挙げたときは、裁判所のウェブサイトの「裁判例検索」で探せます。(出典⑤)ただし裁判所は、すべての判決が載っているわけではないと説明しています。見つからなかったからといって、すぐに架空とは決められません。法律の条文は、e-Gov法令検索で原文を開けます。(出典⑥)

確かめるときは、データベースで多かった3つの誤りに沿って見ていくと安心です。

  • ・存在するか:判例の名前や番号、法律の名前と条番号で検索し、実際に出てくるかを確かめる
  • ・中身が合っているか:判決の結論や理由が、AIの説明と同じかを読む。名前が実在しても、中身が違うことがある
  • ・引用文があるか:AIが「」で示した文が、判決文や条文にそのまま書かれているかを、文の一部で検索して確かめる

まとめ

研究者Damien Charlotin氏のデータベースを編集部が数え直すと、米国の裁判所がAIの誤りを指摘した件数は、2025年の527件から、2026年は10月23日までに938件へ増えていました。数えているのは原則として裁判所が認めた判断だけで、指摘の約6割は本人訴訟でした。誤りの項目の半分近くは、実在する判例などの中身の誤った紹介や、判決などにない文の引用です。

AIが判例や条文を示したときは、裁判所の「裁判例検索」やe-Gov法令検索で原文を開き、存在するか、中身が合っているか、引用文がそのまま書かれているかを確かめてから使いましょう。

出典
Fact Check Lab編集部

この記事を書いた人

Fact Check Lab編集部

世の中で話題になっている情報のみならず、生成AIの精度やハルシネーションの検証・分析を行う編集部。誤情報は、意図的な嘘だけでなく、事実の一部が伝わる過程で欠け落ちたり、文脈から切り離されたりすることでも生まれる。だからこそ、疑うことよりも確かめることを大切にする。不偏不党の精神で発信元をたどり、一次情報にあたる。

ファクトチェック

AIやライターが見逃す誤りを、根拠から正す

精鋭のベテラン

校閲者の平均経験年数 15年以上

全ジャンル対応

分野に特化した校閲者が在籍

ファクトチェックサービスを見る

関連記事