「出典付きだから信頼できる」と思ったら…
先日、私たちの組織でこんな出来事がありました。AIが書いた記事の中に、「日本のAI導入率は12%にとどまっている」という数値と、その根拠となる出典URLがセットで書かれていました。数値だけでなく、ちゃんと出典まで添えてある。一見すると調査データをきちんと引用した、信頼性の高い記事です。
公開前の確認作業として、そのURLを実際に開いてみました。すると――そのページに書かれていたのは、AIとはまったく無関係の別のテーマの記事でした。「12%」という数値はどこにも見当たりません。数値と出典URLが、完全に別々のものだったのです。
記事はそのまま差し戻しになりました。
なぜこうなるのか
AIは「数値を生成する」作業と「URLを生成する」作業を、それぞれ独立して行うことがあります。料理に例えると、食材(数値)と産地証明書(URL)を別々の引き出しから取り出して、あとから組み合わせるようなイメージです。取り出した組み合わせが正しく対応しているかを、誰も確認していません。
困るのは、見た目がとても自然なことです。文章の流れもなめらかで、URLも実在するページを指していることが多い。だからこそ「これは正しい引用だろう」と見逃しやすく、今回も確認を省けばそのまま公開していたところでした。
現場で使える3つの確認ポイント
① URLは「貼ってある」だけでなく「開く」
URLが貼ってあることと、そのURLに正しい情報が載っていることは別の話です。実際に開いて、自分の目でページの内容を確認することが出発点です。
- ✕ これまで:URLが書いてある → 出典があると判断して通過
- ○ これから:URLが書いてある → ブラウザで実際に開く → そのページを読む
② 数値が「そのページのどこかに書いてある」か確認する
ページを開いたら、問題の数値をページ内検索(パソコンであれば Ctrl+F)で探してください。それらしい内容が書いてあっても、肝心の数値が見当たらなければ、それは「それらしいだけのページ」です。数値の正しさとURLの正しさは、それぞれ別々に確認が必要です。
③ 公開前チェックリストに「数値の出典確認」を独立した項目として追加する
私たちが学んだ中で最も効果の大きかった一手は、公開前チェックの項目に「数値・統計の出典URLを実際に開いて確認した」を独立した一行として入れることでした。「全体的に確認した」という大きな項目に紛れ込ませると、後回しになりがちです。独立した項目にして、必ず手を止めて確認する習慣をつけてください。
- □ 誤字脱字の確認
- □ 内部リンクが切れていないか
- □ 数値・統計を引用している場合、出典URLを実際に開き、その数値がページに書かれているか確認した
やりすぎ注意:「出典が無ければ使わない」は極端すぎる
「それならAIに数値を出させるのをやめればいい」と思うかもしれません。でも調査データを参照しながら書く記事は読者への説得力が増しますし、数値そのものが問題なのではなく、確認を省いたことが問題でした。
逆に「すべての文章の出典を調べる」と、確認作業が膨大になりすぎます。まず「数値・パーセンテージ・順位」など客観的データを含む表現に絞って確認する習慣をつけると、負担を抑えながら効果が出ます。感想や意見の表現まで出典を求める必要はありません。
まとめ
AIが数値と出典URLをセットで出してきたとき、それが正しい組み合わせである保証はありません。数値の正しさとURLの正しさは、それぞれ別々に確認する必要があります。公開前チェックリストに「出典URLを実際に開く」という一項目を加えるだけで、今回のような差し戻しは大幅に減らせます。AIの便利さと、人の目による確認は、どちらかで代替できるものではありません。
よくある質問
Q. AIが出した数値は全部疑わないといけないのですか?
A. すべてを疑う必要はありませんが、数値・パーセンテージ・ランキングなど「根拠が問われる表現」には出典が書かれていなくても確認を習慣にするとよいでしょう。「どこから来た数字か」を自分で説明できない数値は、対外的に使わないほうが安全です。
Q. ページを開いても内容が多くて数値が探せない場合はどうすればいいですか?
A. ページ内検索(パソコンは Ctrl+F、スマホは共有メニューの「ページ内を検索」)で問題の数値や関連するキーワードを直接検索するのが早いです。それでも見当たらなければ、その数値の使用は見送るのが無難です。
Q. AIに最初から「確認できる出典URLだけ使って」と指示すれば解決しますか?
A. 指示することで不一致が減る場合もありますが、完全には防ぎきれません。AIへの指示と、公開前に人が実際に開いて確認する手順の両方を組み合わせるのがより確実です。どちらか一方で十分と考えないことがポイントです。
AIを活用しながら情報発信の信頼性を高めていく方法について、当機構へお問い合わせください。お問い合わせフォームから「AI活用の相談」とご記入いただければ、無料相談(30分程度)を承っています。
