私はこのブログを、AIに書かせています。
毎晩深夜、AIが次に書く記事を選び、本文を書き、画像を作り、翌朝9時公開の予約投稿にするところまで自動でやります。私が朝起きたら、記事はすでに公開直前の状態で待っている、という運用です。
そのうえで、AIに任せてよかった仕事と、任せると必ず事故る仕事は、はっきり分かれています。
今日はその後者の話——自分の会社で実際に事故りかけた2件を、隠さずそのまま書きます。どちらもAIが賢くないから起きた事故ではなく、もっともらしく書けるから起きた事故です。
目次
1. なぜこの話を書くか
生成AIが事実と違うことを、あたかも正しいかのように書いてしまう現象をハルシネーションと呼びます。この言葉は聞いたことがある方も多いと思います（ハルシネーションとは — WEEL）。
社外の有名な事例だと、米国で弁護士がChatGPTに判例を調べさせてそのまま裁判資料に貼り付けた結果、架空の判例を6件引用していたことが発覚し、制裁を受けたというものがあります（米国のChatGPT架空判例事件 — ITmedia）。同じ類型の事件が2023年のニューヨーク州でも、2026年のカンザス州でも起きています。
こういう事例を紹介するだけの記事は世の中にたくさんあるので、私はここで「自分の会社で何が起きたか」だけを書きます。読んでいる方は、経営者としてAIを社内に入れるかどうか判断する立場だと思うので、事例より自分の実測のほうが役に立つはずです。
2. 事故その1：自分の経歴の年数が、記事によって違っていた
いちばん恥ずかしい話から書きます。
私の経歴は「22歳から一般土木の施工管理を4年、26歳から専門業種の技術職を18年、通算で建設実務22年」です。
ところが、AIに任せて公開した記事を後から通して読んだら、同じ経歴が「建設実務20年」と書かれている記事と「22年」と書かれている記事に分かれていたのです。
2026年8月11日時点で、AI執筆で公開していた8本を全部あらためたところ、21箇所で年数の食い違いが混じっていました。多くの記事が「20年」と「22年」の両方の表記を、1本の中で行ったり来たりしていたのです。
なぜこうなったか。私自身が最初のころの記事で「建設実務20年」と書いていて、途中で「あ、通算で数えると22年だ」と気づいて直したのですが、AIは過去記事のスタイルを参照して次の記事を書くため、混在した状態のまま学習して、以降の記事にも両方を混ぜて書き続けていました。
恐ろしいのは、この誤りが「不自然に見えない」ことです。20年も22年も、どちらも建設経営者の経歴として何もおかしくない数字です。文法チェッカーには引っかからず、AI自身も「これは矛盾している」と気づく手がかりを持ちません。
3. 事故その2：自分の名前が、記事によって違っていた
もっと恥ずかしい話です。
私の名前は「石本 政晴（いしもと まさはる）」です。この記事の著者名として、下のプロフィールにも書かれている名前です。
ところが、AI執筆で公開した記事の中で、私の名前は3回、それぞれ違う誤字で書かれていました。「石本 雅治」「増本 正浩」「石本 正治」の3種類です。
これは1つずつ起きて、そのつど気づいて直した——のではありません。3件目が出て「なんで名前がこんなに変わるんだ」となってから、8本を全部見直してようやく揃えたのです。
なぜAIが人名を変えるのかは、たぶん「よくある名前の綴りに引っ張られる」からです。「政晴」より「雅治」のほうが検索頻度が高い名前で、AIから見て「もっともらしい」のは後者になります。だから素直に書かせると、時々「もっともらしい方」にすり替わります。
これも文法チェッカーには引っかかりません。音で読めばほぼ同じで、字面だけ違います。読者が「あれ、これ違う会社の人？」と思う可能性はありますが、書き手側では気づきにくい。
4. なぜ数字と固有名詞だけがこう抜けるのか
2件を並べて、私は考えを整理しました。
AIが間違えるとき、「もっともらしく書ける場所」だけを間違える、というのがいちばん近い言い方だと思います。
- 論理は間違えにくい。文法チェックと同じで、AIは前後関係のつじつまを見て書くので、破綻はまず出ない
- 一般的な説明は間違えにくい。世の中に大量に書かれているので、平均的に正しい方向に寄る
- 数字と固有名詞は間違える。前後の文脈から論理的に導けない情報で、AIは「もっともらしい候補」から拾ってくるしかないから
だから、私は「AIが書いたものは、数字と固有名詞と判断の3つは、最後に人が見る」という運用に切り替えました。これは私が発明したことではなく、実務家の間では割と共有されている整理です（生成AIハルシネーションの実務的な抑制策 — ソフトバンク）。
5. いま、実際にやっている3つのこと
事故を防ぐために、私が自分の会社でやっているのは次の3つです。
5-1. 正典を1箇所にまとめる
AIに文章を書かせる仕組みの中で、「変えてはいけない事実」を1つのファイルに書き出しておく、というのが最初の一手です。
私の場合は、氏名の正しい表記、建設実務の年数、経歴の書き分け（通算22年／専門業種18年）、勤務先の情報範囲、書いてはいけないこと、をぜんぶ1つのテキストに書いてあります。AIは記事を書く前にそのファイルを必ず読むように、手順そのものに組み込みました。
正典が1箇所にあると、直すのが1箇所で済みます。この整理をやる前は、記事ごとに違う情報が入り込んでも、どれが正しいのか自分でも分からなくなっていました。
5-2. 自動で照合できるものは、書き終わったあとで機械にチェックさせる
書き上がった記事の中に、正典に無い数字や氏名の異表記が混じっていないかを、機械で洗い出します。
たとえば私の名前の場合、「石本 政晴」以外の表記（「雅治」「正治」「増本」など、過去に一度でも出た誤字）を全部リストにしておいて、記事の中にそれが混じっていたら止まる、という仕組みです。プログラムの用語で言うと `grep` で引っかけるだけです。
難しい判定ではなく、単純な照合で防げるものはそこで防ぐ。人の集中力を必要な場所に残すためです。
5-3. 最後の1目は、人が通す
自動照合で拾えないもの——新しく出てきた数字、新しく出てきた名前——は、公開前に人が拾い読みします。
コツは、文章として読まないことです。文章として読むと、内容の面白さや流れに引っ張られて、数字と名前だけを冷静に見られなくなります。だから私は、記事本文をざっと通したあと、もう一度戻って数字と固有名詞だけを拾って照合する時間を分けています。
3分もかかりません。しかし、これを飛ばした8本で21箇所と3件の事故が起きたので、この3分を惜しまないほうがいいというのが結論です。
6. 経営者の側から見たときの、やるべき順番
読んでくださっているのは、社内でAIを使うかどうかを判断する立場の方だと思います。
社内でAIに文章を書かせるとき、この記事の話を経営判断に落とすと、順番はこうなります。
1. まず、変えてはいけない事実を書き出す。会社の正式名称、代表者名、住所、電話番号、代表挨拶の中身、実績数字、資格の名称と取得年、料金の考え方——このあたりを、社内の1箇所にまとめる 2. AIに任せる範囲を決める。任せてよいのは、下書き・要約・整理・言い換え。任せないのは、金額の最終値、固有名詞、判断そのもの 3. 公開前に「数字と固有名詞だけ見る時間」を設ける。文章として読むのとは別に、拾い読みで照合する
3番目は、AIを入れる前から社内でやっていることかもしれません。ただ、AIが書いたものは「文章として読むと自然すぎる」ので、油断すると流れで読み飛ばしてしまいます。わざと機械的に見る時間を設けるのがコツです。
7. 逆に、AIに任せて事故らなかったこと
念のため、任せてよかった部分も書いておきます。
- 記事の構成の下書き（見出しの並び、章立ての設計）
- 過去の記事を要約する仕事（元があるので誤りにくい）
- 同じ内容を、別の言い方に置き換える仕事（元の意味が正解として存在する）
- 画像のプロンプトの下書き（最終的にどの画像を採用するかは私が決める）
共通しているのは、「元になる正解が別にあって、AIはそれをかたちだけ整えている」という仕事です。ここは事故りません。事故るのは、元の正解がAIの中にしか無い仕事——数字を思い出して書く、名前を思い出して書く、決めごとを思い出して書く——です。
---
AIに任せると事故る場所は決まっています。数字と固有名詞と判断。この3つだけ人がやると決めてしまえば、あとは怖くありません。
失敗した記事8本と誤字3件を代償に学んだのがこれだけ、と言うと少ないですが、社内でAIを入れる方の役に立てば元は取れたと思います。
この記事を書いた人
Masaharu Ishimoto（御縁 GROWTH）
AIエキスパート / 現場実務22年
22年間ずっと現場側で実務をしてきた人間が、いまはAIエージェントを毎日の業務に組み込んで運用しています。うまくいったことも、任せて失敗したことも、そのまま書いています。
関連記事
☀️ AIに任せてよい仕事の線引きを相談する
何を任せて、どこから人が確認するか。実務での失敗も含めて無料でご説明します。
お電話 090-1888-7622（平日9:00〜18:00）／ 公式LINEで相談
💌 LINEで無料相談
🏠 ホームページはこちら
