本文へスキップ
Fact Check Lab
ありもしない裁判例が返ってくる——弁護士が語るAI記事の検証手順

ありもしない裁判例が返ってくる——弁護士が語るAI記事の検証手順

公開日 更新日

〜AIの誤りは書き手のように一定しない、だから見抜きにくい〜

AIが書いた法律のコラムを、弁護士の立場から監修してほしい。弁護士の南陽輔氏(大阪弁護士会所属)は、そうした依頼を何度か受けてきました。読んでみると、日本語としては自然に流れます。南氏が厄介だと語ったのは、内容が誤っていることそのものより、誤り方が読めないところでした。

人が書いた原稿なら、誤りは同じ視点から生まれるので、まとめて見つけられます。AIの原稿は、まとまりごとに違う間違い方をします。存在しない裁判例が返ってくることもあります。この記事でたどるのは、AIが作った法律の文章を世に出す前に、何をどの順で確かめればよいかという道筋です。

南陽輔

南陽輔

南 陽輔(みなみ・ようすけ)。弁護士大阪大学法学部、関西大学法科大学院卒業。2008年弁護士登録(大阪弁護士会所属)。大阪市内の法律事務所に勤務し、民事訴訟案件、刑事事件案件等幅広く法律業務を担当。2021年3月に現在の一歩法律事務所を設立し、契約書のチェックや文書作成、起業時の法的アドバイス等、予防法務を主として、インターネットを介した業務提供を行う。皆様が利用しやすい弁護士サービスを提供できるよう心掛けている。

「嘘を平気でついてしまう」——そろわないAIの間違い方

南氏が普段扱っているのは、企業から持ち込まれる契約書の確認や、起業するときの法的な助言といった予防法務です。そこに、法律系のコラムを弁護士として監修してほしいという依頼が入ります。取材で語られたのは、その原稿がAIで書かれていた場合に何が起きるか、という話でした。

南氏がまず挙げたのは、誤りの有無ではなく、誤りの出方でした。

AIというのは、まず1つは嘘を平気でついてしまうところがあります。誤っているのに、それを誤っていないものとして、当たり前のように書いてくるんです。

人が書いた原稿にも、当然ながら誤りは混じります。ただし、その混じり方が違うといいます。

人間が書いたコラムにも、もちろん誤りはあるのですが、誤り方が同じなんです。1人の人が書いた文章であれば、1つのところで違うことを書いていたら、全部同じ視点で違っているので、監修する側としてはチェックしやすいです。この人はここの理解が誤っているから全部こうなっている、というので、誤っている箇所を見つけやすくなります。

1箇所の誤解を突き止めれば、同じ誤解から生まれた箇所をまとめて拾えます。人の原稿は、その意味で見通しがききます。AIの原稿では、その前提が崩れます。

AIが作った文章は、まとまりごとに全然違う間違い方をしてきたりするので、そこが注意しないといけないところです。すべての文章をフルの集中力を持って見ないといけないというのが、見る側からするとちょっと大変なところではあります。
AI原稿の監修を引き受けたのは「何回か」で、常時ではないそうです。

では、監修を通していない記事は、南氏の目にどう映っているのでしょうか。外で読む記事についてはAIが書いたものかどうか分からない、と断ったうえで、こう続けました。

私が他で見る記事に関しては、AIが作ったものかどうかが分からないので一概には言えないかもしれませんが、監修者が入っていない記事には、ちょっと不正確な表現が入っているなとか、法律の実務家としてはこういう表現は使わないな、というものが入っていたりするのは見受けられます。

事業者向けの記事に紛れ込む、労働者向けの段落

誤り方のばらつきと並んで南氏が挙げたのが、段落と段落のつながりでした。1文ずつ読めば正しいのに、通して読むと座りが悪い、という種類の問題です。

AIの文章は、段落ごとのつながりがあまり意識されていないというのが見受けられます。

南氏が例に挙げたのは、労働分野の記事でした。懲戒解雇というテーマは、誰に向けて書くかで書く内容がまるごと変わります。

懲戒解雇に関する記事を書くとき、事業者側に向けた記事であれば、懲戒解雇が無効とされないようにするにはこうすればいい、という視点を持って書いていくことが多いと思います。逆に労働者側に向けた記事であれば、会社から懲戒解雇されたときにどんな争い方ができるか、というところを主に書いていくことになります。
懲戒解雇とは
会社の規律に違反した従業員に対し、懲戒処分として行う解雇のことです。会社側から見れば「その解雇が後で無効と判断されないか」が論点になり、働く側から見れば「その解雇をどう争うか」が論点になります。同じ制度でも、立つ位置によって書くべきことが入れ替わります。

この2つが、同じ記事の中で入れ替わるといいます。

それが段落相互の間でごちゃまぜになっています。1つの記事の中にごちゃまぜの視点が紛れ込んでいるので、事業者側の段落が1つ、2つとある中で、3つ目が労働者側の視点で書かれているということがあったりします。そうすると、この文章全体として見たときに、ここにこの内容を書くのは不自然だ、というのをこちらでチェックしたりしています。

起きやすい条件も、南氏ははっきり示しました。テーマの広さです。

まとめ記事の場合だと、そういうことが起きやすいです。1つのテーマにかなり絞ってしっかり書けば、それなりに一貫性のあるものになるのかもしれませんが、解雇事由についてなど、ざっくりしたテーマになると、事業者と労働者のごちゃまぜの視点になって、全体として見たときに分かりにくい感じがあります。

この指摘は、書く前の設計に返ってきます。原稿を書き出す前に決めておけることを並べると、次の3つです。

  • ・読み手を、事業者側か働く側かのどちらかに決めてから書き出す
  • ・見出しごとに、その段落がどちらの立場に立っているかを確かめる
  • ・「解雇」のようにテーマを広く取らず、扱う場面を絞る

AIが挙げる、ありもしない裁判例

ここまでは、読み込めば人の目で気づける種類の問題でした。3つ目は、性質が違います。南氏が取材の終盤に「伝え忘れた」として付け加えたのが、裁判例でした。

AIの回答でよく間違っているのは裁判例なんですね。存在しない裁判例を上げてきたりするので、怖いです。あれは怖いです。

ただし、すべてのAIで同じように起きるとは考えていません。南氏は、判例検索サービスを提供している会社のAIと、一般に使われているAIを分けて話しました。

判例検索を提供している会社が出しているAIは、判例検索のシステムと結びついているので、そんなに間違った情報を出してこないと思いますが、そうではない一般的に出ているAIに、何かいい裁判例はないですかと聞いたりすると、そこで示される裁判例がありもしないものだったりするので、そこはやはり自分で調べることが必要になります。

なぜそうなるのか。ここは自分の推測だと前置きしたうえで、南氏は2つの経路を挙げました。判例のデータベースにつながっていないこと、そして、誰かが書いた不正確な記述を拾ってしまうことです。

ここは私の推測なのですが、一般のAIはおそらく、判例のデータベースにアクセスしていないので、ありもしないものを作ったり、誰かがどこかのブログで、ありもしない判例を自分の有利なように書いていたりするのをネットで拾ってしまって、AIがそれを示してしまうということになっているのではないかと推測しています。
AIの回答は「第三者的な目線」で検証すべき、と話していました。

存在しない裁判例が実害になった例として、南氏はニュースで見た2件を挙げました。ここは南氏の一次情報ではなく、報道として記憶している範囲の話です。

日本の裁判所では聞かないのですが、アメリカの裁判で、弁護士が自分の主張を展開するときにAIの答えに沿って、ありもしない裁判例を挙げてしまい、後からそんな裁判例はないだろうということで問題になったというのはありました。日本でも、地方議会で議員さんが同じように、こんな裁判があったと言って、実はその裁判が存在しないということで問題になったりというのをニュースで見ました。

裁判例の危うさは、見た目で気づけないところにあります。事件名も、裁判所名も、年月日も、それらしい形で出てきます。だからこそ、南氏の結論は単純でした。

AIの回答を盲信しないというか、簡単に信じないというのは、1つ大事なところだと思います。

公開前にたどる順番——条文、施行日、枝番、行政資料

確認は、どこから手をつければよいのか。南氏が示した順番は、条文から始まりました。

AIが作った文章を見る際には、まず法令ですね。法律が挙がっている場合には、必ず条文を見てもらった方がいいです。今はインターネットで、e-Govとか政府系のサイトで条文のチェックができますので、本当に今の最新の法令なのかというところですね。
e-Gov法令検索とは
デジタル庁が運営する政府の総合窓口「e-Gov」の一部で、現行の法令の条文を無料で読めるサイトです。改正の履歴や施行日も確認できます。

最新かどうかが効いた例として挙がったのが、下請法の改正でした。

この間チェックした記事で、下請法という法律が2026年から取適法という法律に変わっているのですが、AIが作ったものには下請法のことしか書いておらず、取適法になっているのがまだ反映されていなかったんです。施行が1月で、依頼を受けたのが2月か3月なので、まだ最新の情報をAIが追えていなかったということがあります。

法律の名称そのものが変わる改正は、間違いとして目立ちます。一方で、目立たないまま残るのが枝番です。

細かい条文の枝番です。何条の何とかいう、例えば3条の10とか3条の9とか。そういう細かい枝番が結構間違っていることが多いんです。正確な条文とは違うので、見る人から見ると後で違うと指摘されたりします。

条文を確認したら、次は所管する省庁の資料に進みます。ここも、要約を読んで済ませないことを求めます。

次はその条文を管理する省庁が出している運用基準とかガイドラインとか、そういう行政資料に当たっていきます。それもちゃんと自分の目でアクセスして確認するようにしたほうがいいです。

編集部として補足すると、条文が実在することと、その条文の当てはめが適切であることは別の問題です。番号が合っていたので安心する、という読み方にはしないほうがよさそうです。

ここまでを、公開前に手を動かす順番として並べると次のようになります。

  • ・挙がっている法令の条文を、e-Gov法令検索など政府のサイトで実際に開く
  • ・その法令が改正されていないか、施行日はいつかを確かめる
  • ・「第3条の9」のような枝番まで、1字ずつ照合する
  • ・所管する省庁の運用基準・ガイドラインなど行政資料に、自分でアクセスする
  • ・裁判例が挙がっていれば、その事件が実在するかを判例データベースで確認する

この5つは、法律の知識がなくても手は動かせます。南氏が求めているのは、正誤の判断そのものではなく、判断できる状態まで自分で確かめておくことです。

南氏の話を通して見えてきたのは、AIが書いた法律の文章を疑うときのポイントが、内容よりも構造にあるということでした。誤り方がそろわないので、1箇所を直しても他は直りません。立場が混ざるので、段落単位では正しく読めてしまいます。裁判例は、事件名と日付の形さえ整っていれば、実在するように見えます。

だからこそ、確認は読んだ印象からではなく、条文、施行日、枝番、行政資料、判例という順序でたどるしかありません。盲信しない、というのが南氏の言葉でした。

なお、AIが作った契約書のたたき台から何が抜け落ちるか、法律の相談をAIにするときの聞き方については、別記事「弁護士に聞く、AIが作った契約書のどこに穴が空くのか」で南氏に伺っています。

取材日:2026年8月20日

編集プロダクション雨輝

この記事を書いた人

編集プロダクション雨輝

2014年創業。取材・執筆、編集、校正・校閲、ファクトチェックなど、コンテンツ制作を幅広く手がける編集プロダクション。正確性と信頼性を重視し、専門家への取材や一次情報の確認を通じた、質の高い情報発信に取り組んでいる。https://amaterupro.jp/

ファクトチェック

AIやライターが見逃す誤りを、根拠から正す

精鋭のベテラン

校閲者の平均経験年数 15年以上

全ジャンル対応

分野に特化した校閲者が在籍

ファクトチェックサービスを見る

関連記事