生成AIの間違い対策｜社長が心配な誤りを、人が確かめる所の決め方

AIが間違えるのはどんなときか

生成AIは、たくさんの文章から「次に来そうな言葉」を予測して文を作ります。事実を調べて答えているのではありません。そのため、もっともらしいけれど事実と違う文を作ることがあります。これを「ハルシネーション（AIの作り話）」と呼びます。

帝国データバンク水戸支店の調査（2026年3月）でも、茨城県内の企業が挙げた生成AI活用の懸念・課題で、「情報の正確性」は40.8％と、上位に入っています。間違いの心配は、多くの会社に共通です。

頼み方で減らせる間違いもある

表のうち、「頼みごとの取り違え」と「社内の事情を知らない」は、頼み方でかなり減らせます。AIは、言われていないことは知りません。人に頼むとき以上に、条件を全部書いて渡します。

• 守ってほしい条件を箇条書きで渡す：「値段と日付は変えない」「割引の話は書かない」
• 社内の言葉の意味を添える：「『本社便』は、毎週火曜の本社行きの定期便のこと」
• 長い仕事は分けて頼む：要約と清書を一度に頼まず、まず要約、確かめてから清書
• お手本を1つ見せる：前に人が書いた、よくできた文を1つ添えて「この形で」と頼む

ただし、頼み方をどれだけ工夫しても、作り話や読み取り違いはなくなりません。頼み方は間違いを減らす手、確かめる所は間違いを外に出さない手、と分けて考えます。

間違いは、目立たない形で出てくる

厄介なのは、AIの間違いが、自信のある自然な文で出てくることです。人が書いた文なら、迷った所は言いよどんだり、「たぶん」と書いたりします。AIは、正しい所も間違った所も、同じ調子で書きます。読む側が「ここは怪しい」と気づく手がかりが少ないのです。

同じ調査で、生成AIを活用している県内企業41社のうち、「出力結果の誤りにより社内外でトラブルや損害が発生した」と答えたのは2.4％でした。大きな事故は多くありません。ただ、これは各社が何らかの形で確かめているからとも読めます。確かめる所を決めておくことが、事故を少なく保つ前提です。

確かめる所を決める

AIが作ったものを全部、一字一句確かめていたら、AIを使う意味が薄れます。確かめる所は、「間違えたときの影響が大きい所」に絞ります。影響の大きさは、だれに届くか、取り消せるかで決まります。

確かめる所の決め方

1. AIに頼む仕事を1つ選び、AIが出すもの（文・表・数字）を書き出す
2. 出すものが、だれに届くか（社内・お客さま・多くの人）を書く
3. 間違えたときに取り消せるか、お金や約束に関わるかを書く
4. 影響が大きい所に印を付け、そこを人が確かめる所にする
5. 確かめる所ごとに、何と見比べるか（元の書類・料金表・カレンダーなど）と、だれが見るかを決める

冒頭の案内文の例なら、「条件・値段・日付」が確かめる所です。見比べる相手は、自社の正式な料金表です。AIが書いた条件のうち、料金表に無いものがあれば消す、と決めておけば、ない割引が外に出るおそれは小さくできます。

見つけた間違いは、記録して頼み方を直す

確かめる所で間違いを見つけたら、直して終わりにせず、何を間違えたかを1行記録します。「値段を去年のものにしていた」「数量の単位を取り違えた」。記録が10件ほどたまると、間違いの癖が見えてきます。

癖が分かれば、頼み方に条件を足したり、確かめる所を入れ替えたりできます。間違いの記録は、AIの使い方を育てるいちばんの材料です。

確かめる人と作る人を分ける

影響の大きい所は、AIに頼んだ本人とは別の人が確かめるのが理想です。自分で頼んだ文は、頼んだ内容が頭にあるので、間違いを読み飛ばしやすくなります。人が足りなくて分けられないなら、時間をおいて読み直す、声に出して読む、だけでも見落としが減ります。

出典を示させる

確かめる時間を短くするいちばんの方法は、AIに「その答えは、どこに書いてあったか」を示させることです。出どころが分かれば、確かめる人はそこだけを見ればよくなります。

つくば市は、筑波大学との共同研究を兼ねて、自治体のチャットツールと連携させた生成AIを導入しました。その特徴の1つとして、生成AIによる回答の出典情報が示される点が挙げられています（地方自治研究機構の令和5年度の先進事例）。答えだけでなく出どころを示す形は、会社の仕事でも使えます。

出どころを示させる頼み方

• 渡した資料だけを使って答えるように頼む：「次の資料に書いてあることだけを使って答えてください」
• 出どころを添えさせる：「答えのそれぞれに、資料のどの文から取ったかを、その文をそのまま引いて示してください」
• 分からないときの答え方を決める：「資料に書いていないことは、『資料に記載なし』と答えてください」

3つ目が特に大事です。AIは、分からないと言うより、もっともらしく答えようとする傾向があります。「分からないときはこう答えて」と決めておくと、作り話が減ります。

インターネットを調べるAIでも、出どころを開いて見る

インターネットを調べて答えるAIは、答えと一緒に参考にしたページを示すことが多く、便利です。ただ、示されたページを開くと、答えと違うことが書いてある、日付がずっと古い、個人のブログだった、ということもあります。

法律や制度、役所の手続き、値段のように、変わりやすく間違えると困る話は、示されたページではなく、国や役所、取引先の公式のページを自分で開いて確かめます。AIの答えは、どこを確かめればよいかを知るための手がかりとして使います。

社内の資料から答えさせる形にする

よく聞かれる質問に答えさせたいなら、AIが自分の知識で答えるのではなく、社内の規程や手順書から答える形にすると、間違いが減ります。答えの横に、どの規程のどの条からかを出す道具にしておけば、確かめる人は規程を開いて見比べるだけで済みます。

例：数字は合計で確かめる

数字の間違いは、文の間違いより影響が大きく、しかも読んだだけでは気づきにくいものです。数字は「読んで確かめる」のではなく、「合計と照らし合わせて確かめる」形にします。

1. AIに、各行の品名・数量・金額と、納品書の下に書いてある合計を、別々に読み取らせる
2. 表計算で、AIが読み取った各行の金額を足す
3. 足した結果と、AIが読み取った「書いてある合計」を比べる
4. 一致すれば、その納品書は次へ進める
5. 一致しなければ、その納品書だけ、人が元の写真と1行ずつ見比べる

この形なら、人が見るのは合計が合わなかった納品書だけです。全部を見比べるより、確かめる手間がずっと少なくなります。各行の足し算は表計算にさせ、AIには計算させないのがこつです。計算は表計算のほうが確かです。

合計が合っても、2つの行で読み違いが打ち消し合っている、ということもありえます。お金に関わる書類は、合計の照らし合わせに加えて、月に何枚かを人が抜き取りで見比べると、より安心です。

抜き取りで見る枚数は、最初は多めにし、間違いが見つからない月が続いたら減らしていきます。反対に、読み取り違いが続くようなら、写真の撮り方（明るさ、真上から撮る）を見直すと、AIの読み取りがよくなることがあります。間違いの原因が、AIではなく元の写真にあることも少なくありません。

いばらきAIにご相談いただいたら

いばらきAIでは、AIが間違えることを前提に、数字や判断に関わるところは、人が確かめる手順を残した形で道具を作ります。たとえば、AIが読み取った金額は元の書類と見比べる、送る前の文は担当の方が目を通す、といった形です。どこまでAIに任せるかは、試作を見ながら一緒に決めます。

AX推進顧問では、月2回の定例で社内の仕事を知り、AIに任せる仕事と取り組む順番を決めます。初回の定例でAIを使える仕事の一覧と順番をお渡しし、データがあれば、その場で試作もお見せします。試作で実際の書類を使ってみると、どこで間違えやすいかが具体的に見え、確かめる所を決めやすくなります。

初回のご相談（無料・30分〜）はオンラインで行います。メールで、AIの間違いが心配な仕事を一言お送りください。

AX推進顧問について見る

まとめ：AIに頼む仕事ごとに、確かめる所を1行で書く

• AIは作り話・古い情報・数え間違い・読み取り違いで間違える
• 確かめる所は、間違えたときの影響が大きい所に絞る
• 渡した資料だけで答えさせ、出どころを示させ、分からないときの答え方を決める
• 数字は合計や件数と照らし合わせ、合わないものだけを人が見る

まずは、AIに頼みたい仕事を1つ選び、「この仕事で人が確かめるのは、○○と○○」と1行で書いてみてください。その1行が書ければ、AIの間違いが外に出る心配は、ぐっと小さくなります。確かめる所は、AIに入れる情報の決まりとあわせて、社内ルールの1項目にしておくと続きます。

生成AIの社内ルールの作り方