生成AIの出力は、読みやすく、体裁が整っています。だからこそ「ざっと読んで問題なさそうだから承認する」という確認が起こりがちです。しかしそれは確認ではなく印象の追認です。この記事では、AIの出力を業務で使う前に通す確認工程を5段階に分け、どこで止めるかまでを整理します。

対象は、生成AIに調査・要約・記事草案を作らせ、それを業務で使う担当者と、その内容を承認する立場の方です。特定の製品の使い方ではなく、どのツールを使う場合でも共通して必要になる確認の設計を扱います。医療・法務・投資判断の代行や、個別案件の真偽判定は扱いません。

生成AIの出力を検証する5段階と停止線の流れ図。第1段階「主張の分解」＝出力を外部事実として確かめられる単位へ切り分ける。第2段階「優先順位」＝誤ったときの影響が大きい主張と、古くなりやすい主張から着手する。第3段階「一次情報へ到達」＝発行元の原文にあたり、対象としている時点と範囲を読む。第4段階「照合」＝数値・引用・日付・固有名詞を原文と突き合わせる。第5段階「記録」＝判定・根拠URL・確認日・残余リスクを残す。停止線として、根拠が得られない場合や高リスク領域では公開・利用を止め、専門家または権限者へ渡す。
図：ファクトチェックの5段階 — 検証の単位は文章全体ではなく「主張」

なぜ生成AIの出力はそのまま承認できないのか

生成AIは、入力された文脈から「次に来る可能性が高い表現」を組み立てます。検索やRAGのように外部の根拠を与えていない生成では、流暢さは正確さを保証しません。もっともらしいが誤っている記述が、正しい記述とまったく同じ調子で出てきます。外部の根拠を与える構成であっても、与えた資料の範囲を超えた記述が混じることはあります。実務で問題になるのは、次のような形です。

  • 存在しない出典：報告書名・条文番号・論文名の形式は正しいのに、その文献が存在しない、または内容が違う
  • 時点のずれ：制度・料金・仕様が過去の版のまま書かれ、現在の内容と食い違う
  • 適用範囲の拡大：特定の条件下でしか成り立たない話が、一般論として書かれる
  • 数値の取り違え：単位、対象期間、母数が入れ替わり、桁は合っているが意味が変わる
  • 断定の混入：元の資料が「〜の場合がある」と述べている箇所が「〜である」に変わる

この5つに共通するのは、文章としての破綻がないことです。誤りが日本語の不自然さとして表面化しないため、読み返しでは検出できません。だから「読む」ではなく「照合する」工程が要ります。

あわせて押さえておきたいのは、確認の責任がAIへ移らないことです。出力を採用して業務に使った時点で、その内容の責任は使った側にあります。AIに「この情報は正しいですか」と聞き返すのは、書き手自身に読み返させる自己点検にあたります。気づける誤りもありますが、独立した検証ではありません。同じ前提から出発するため、同じ誤りをそのまま繰り返すことがあります。

Step 1：検証対象の主張を分解する

最初にやることは、出力を検証できる単位に切り分けることです。「この記事は正しいか」は検証できませんが、「この数値はこの出典に書かれているか」は検証できます。

分解の基準

切り分けの基準は「外部の事実として確かめられるか」の一点です。次のように分かれます。

種類例扱い
検証できる主張「○○法第△条は□□を義務づけている」「2025年度の件数は×件」検証対象に入れる
出典に帰属する主張「××省の資料は△△と述べている」帰属先と記述内容の両方を確認する
評価・意見「この方法は効率的だ」事実確認の対象外。ただし根拠の有無は見る
一般論・言い換え「AIは万能ではない」検証不要。ただし断定の強さは確認する

分解した主張には通し番号を振ります。番号があると、後の工程で「どの主張の話をしているか」が一意に決まり、確認漏れが可視化されます。

AIに手伝わせてよい範囲

分解そのものは、AIに下書きさせても構いません。「この文章を、外部の事実として確認できる主張と、意見・評価に分けて番号を振ってください」と指示すれば、たたき台は出ます。候補を挙げる作業と、正しさを決める作業を分けるのが基準です。

作業AIに任せてよいか
主張の分解、番号付け下書きは任せてよい。抜けがないかは人が見る
確認すべき資料の候補出し手がかりとして使う。存在するかどうかは人が確かめる
原文と出力の差分の指摘両方を渡せば有用。ただし指摘の正しさは人が判断する
「この情報は正しいか」の判定任せない。自己点検にはなるが独立検証ではなく、同じ誤りを繰り返しうる
出典が実在するかの確認任せない。存在しない文献をもっともらしく肯定しうる

Step 2：リスクと鮮度で優先順位を付ける

分解すると、1本の出力から多数の主張が出ます。すべてを同じ深さで確認するのは現実的ではありません。誤ったときの影響と情報が古くなる速さの2軸で優先順位を付けます。

  • 影響が大きい主張：法令・契約・料金・安全・個人情報に関わるもの。社外に出るもの
  • 古くなりやすい主張：制度、価格、製品仕様、組織名、統計。特に「最新の」と書かれた箇所
  • 誤りが連鎖する主張：他の主張の前提になっているもの。ここが崩れると全体が崩れる

優先順位付けは「確認しない主張を決める」工程でもあります。何を確認しなかったかを記録に残すと、後から読む人が自分の判断で追加確認できます。確認していないことを黙っているのが、いちばん危険です。

Step 3：一次情報へ到達し、対象範囲を読む

優先度の高い主張から、発行元の原文にあたります。二次的な解説記事やまとめサイトは、方向を知る手がかりにはなりますが、法的義務・数値・日付を確定する根拠にはしません。

優先順位

  1. 法令・政府機関・標準化団体が公開している原文
  2. 提供者自身の公式仕様・公式文書
  3. 原著論文・一次調査
  4. 信頼できる二次解説（1〜3への到達手段として使う）

「読んだ」の基準を下げない

一次情報に到達したつもりで、実際には到達していないことがあります。次は読了した根拠に数えません。

  • 検索結果に表示されたスニペットだけを見た
  • PDFのリンクは開いたが、本文を読んでいない
  • ページが取得できず、タイトルだけで判断した
  • AIに要約させた結果を、原文の代わりにした

もう一点、実務で効くのが参照した時点の状態を手元に残すことです。公開資料は改定され、URLも変わります。該当箇所のスクリーンショットやPDFの保存版を残しておくと、後から「当時はこう書かれていた」を示せます。特に社外に出す文書では、根拠が消えたときに説明できるかどうかが分かれ目になります。ただし保存物の扱いは各資料の利用条件に従ってください。

読むときは、その資料がいつ時点の、どの範囲を対象にしているかを先に確認します。改定されている資料は、参照した版を記録に残します。掲載ページに複数の版が並んでいる場合、最新版と参照版が同じかどうかを見ます。

Step 4：数値・引用・日付・固有名詞を突き合わせる

原文にたどり着いたら、次の4種類を優先して照合します。この4つは誤りが起きやすく、かつ誤りが致命的になりやすいためです。

対象照合の観点
数値桁だけでなく、単位・対象期間・母数・集計方法が一致しているか
引用語句が原文どおりか。前後の条件節を落として意味が変わっていないか
日付公表日・施行日・改定日・確認日を区別しているか
固有名詞正式名称か。組織名・制度名・製品名が現行のものか

特に注意するのが条件節の脱落です。原文が「一定の例外を除き」「原則として」と書いている箇所から条件が落ちると、事実関係は同じでも結論の強さが変わります。これは要約の過程で最も起こりやすい変質です。

法令・制度の解釈は個別判断です

本稿は確認の工程設計を一般情報として整理したものです。法令や制度が自社の状況にどう適用されるかは、事業内容、契約、社内規程によって異なります。個別の法的結論については、社内の管理部門または専門家にご確認ください。

Step 5：判定、根拠、未確認事項を記録する

確認の結果は、頭の中ではなく記録に残します。記録がないと、同じ資料を次の人がもう一度確認することになり、確認したのかどうかも分からなくなります。

判定は4段階で区別する

  • 確認済み：一次情報で裏が取れた
  • 条件付き：裏は取れたが、対象範囲・時点・前提が限定される
  • 未確認：確認していない、または根拠に到達できなかった
  • 誤り：原文と食い違う。修正または削除する

「条件付き」と「未確認」を分けるのが実務上の要点です。両方を「グレー」でまとめると、条件を書き足せば使える主張と、そもそも根拠がない主張が同じ扱いになります。

記録に残す項目

項目内容
主張Step 1 で振った番号と、主張の文
根拠発行元・資料名・版・該当箇所・URL
対象日その資料が対象としている時点
確認日実際に原文を読んだ日
判定確認済み／条件付き／未確認／誤り
残余リスク条件付きの場合の限定条件、未確認の場合の理由

確認日を残す理由は、資料は改定されるからです。「確認した」ではなく「いつ時点で確認した」が記録されていれば、時間が経ったときに再確認の要否を判断できます。

差し戻し・専門家確認・公開停止の条件

工程には、進める条件だけでなく止める条件を書いておきます。止める判断を都度その場で考えると、締切の圧力に負けます。

  • 差し戻し：優先度の高い主張に「誤り」がある。条件節の脱落が複数ある
  • 専門家確認：法令の適用、契約上の義務、安全性、健康、資格が要る領域に触れている
  • 公開停止：一次情報に到達できない主張が結論の根拠になっている。出典が存在しない

止める権限を誰が持つかも先に決めます。「気づいた人が止めてよい」と明示されていない組織では、気づいても止まりません。止めたことが評価される状態にしておくのが、工程を実際に機能させる条件です。

実務チェックリスト

  • 出力を、外部事実として確かめられる主張へ分解し、番号を振ったか
  • 影響の大きさと鮮度で優先順位を付け、確認しない主張を明示したか
  • 優先度の高い主張について、発行元の原文に到達したか
  • スニペット・未読PDF・AI要約を、読了した根拠に数えていないか
  • 数値の単位・対象期間・母数、引用の条件節を照合したか
  • 資料の版と対象時点を記録したか
  • 判定を4段階で区別し、「条件付き」と「未確認」を分けたか
  • 根拠URL・確認日・残余リスクを記録に残したか
  • 差し戻し・専門家確認・公開停止の条件と、止める権限者を決めてあるか

まとめ

ファクトチェックは、出力を読み返す作業ではありません。検証できる単位まで分解し、優先順位を付け、一次情報と照合し、判定と未確認事項を記録に残すという工程です。この工程を通しても誤りをゼロにはできませんが、「何を確認し、何を確認していないか」が残ります。それが次に読む人の判断材料になります。

始めるときは、次のAI出力を1件だけ選び、5段階の記録表で通してみてください。1件やると、自社の業務でどの主張が繰り返し問題になるかが見えます。その繰り返し部分が、自社版チェックリストの中身になります。

引用元・参考文献

公的機関・一次情報

※ 本稿で述べた確認工程（5段階の分け方、判定区分、停止条件）は、上記の公的資料が示す考え方を踏まえた一般的な整理であり、特定の資料に工程そのものが規定されているものではありません。掲載ページの資料は版が改定されるため、参照時は最新版をご確認ください。