「もっともらしい間違い」が一番こわい
当機構では、お知らせの作成・ホームページ更新・セミナー案内など、日常業務のかなりの部分をAIが担っています。そのなかで身をもって学んだことがあります。AIは間違えるとき、自信たっぷりに間違える、ということです。
実際にこんなことがありました。AIに作らせたお知らせ用のカード画像を、確認しないまま公開してしまったところ、スマートフォンで見ると右端の文字が切れて読めない状態になっていました。PC画面では問題なく見えていたため、その場では誰も気づかなかったのです。
別の場面では、AIが生成した文章の中に、もっともらしいけれど実際とは異なる日程が混ざっていたこともありました。文章全体の流れは自然で、パッと読んでも違和感がない。だからこそ見落とす。これがAIの「流暢な間違い」の怖さです。
9割正しくても、残り1割が信用を傷つける
人間が書いた文章に明らかな誤りがあれば、読んだ側も「あ、これは間違いかな」と自然に疑いを持ちます。ところがAIが書いた文章は、全体として整っていることが多いため、部分的な誤りが「正しい情報の一部」として読まれてしまいます。
たとえるなら、見た目が完璧な料理の中に、一か所だけ傷んだ食材が混ざっている状態です。盛り付けが綺麗だからこそ、誰も怪しまずに口にしてしまう。
とりわけ注意が必要なのは数字・日時・固有名詞（人名・社名・地名）です。AIはこれらを「それらしく」生成するのが得意なぶん、確認せずに出すと実害につながります。
〈✕こうなりがち〉AIが書いてくれた案内文を、内容を確認せずそのまま投稿する
〈○こうする〉日時・場所など事実に関わる箇所だけを、必ず人間が原典（カレンダー・社内資料）と照合してから出す
「公開後の実際の見え方」まで確認を作業に組み込む
私たちが特に効果を感じているのは、公開直後にスマートフォンで実際のカード表示を目視するという習慣です。ホームページのお知らせや記事は、一覧ページではカード形式で表示されます。ところが、編集画面や本文ページでは正常に見えても、カードでは文字が切れたり画像が崩れたりすることがあります。
「編集画面で見て問題なし」で作業を完了にしてしまうと、この種のズレに永遠に気づけません。「公開ボタンを押した後、実際の一覧ページをスマートフォンで開く」を最後のステップとして定めておくことが大切です。問題があれば画像を差し替えるだけ。可逆な作業ですから、臆さず確認できます。
チェックリスト1枚で属人化を防ぐ
担当者が変わると確認の質もばらつきます。そこで私たちが実践しているのが、対外公開物ごとの最終確認チェックリストです。
- 日時・場所など事実に関わる箇所を原典と照合したか
- 固有名詞（人名・社名）の表記に誤りはないか
- スマートフォンで一覧カードの表示を確認したか
- 画像内の文字は切れていないか、読みやすいか
このリストは「誰がやっても同じ品質になる」ための道具です。AIが仕事の大半を担うからこそ、最後の一関所を仕組み化しておく必要があります。
ただし、やりすぎには注意が必要です。確認項目が増えすぎると作業が重くなり、結果として「面倒だから省略」につながりかねません。絞るなら「数字・日時・固有名詞の照合」と「カード表示の目視」の2点。この2つだけ守れば、対外的な大きな失敗はかなり防げます。
まとめ
AIは優秀なアシスタントですが、事実確認の責任まで持たせることはできません。AIが生成したものを「チェックするコスト」は、公開後に誤情報を訂正したり、信用を回復したりするコストより、はるかに小さい。
対外に出るものには、必ず人間の目を一度通す。その習慣だけで、AIを使う上でのリスクの大部分はコントロールできます。AI活用の進め方や社内への取り入れ方でお悩みの方は、当機構へお問い合わせください。
よくある質問
Q. AIが書いた文章は、人間が書いたものより信頼性が低いのですか？
A. 「信頼性が低い」というより「確認の仕方が違う」と考えるほうが正確です。人間が書いた文章は、書いた本人が経緯を知っているぶん誤りを自覚していることが多い。AIはそもそも誤りを誤りと認識せずに出力するため、人間が外から照合する必要があります。
Q. 画像の確認は、どのタイミングでするのがベストですか？
A. 「公開ボタンを押した直後、実際の一覧ページをスマートフォンで開く」が最も確実です。下書き段階のプレビューと、実際に公開されたカード表示は見え方が異なる場合があります。公開後すぐに確認し、問題があればすぐ差し替えるフローが現実的です。
Q. チェックリストは何項目が適切ですか？
A. 5項目以下に絞ることをおすすめします。多すぎると形骸化し「チェックしたというアリバイ作業」になりがちです。最低限の項目を毎回必ず実行できる状態を保つほうが、長期的には安全です。
