AIに判断を任せるときのルール|AIの答えと人の判断を分けて残す

AIは、文章の下書きだけでなく、判断の手伝いもできるようになりました。応募者の振り分け、問い合わせの分類、経費の仕分けの候補、会議の記録からやることを拾う、といった仕事です。

便利な一方で、判断を任せる仕事には落とし穴があります。AIの答えが「なんとなく合っていそう」に見えるため、外れていても気づきにくいのです。私たちは、社内でAIに判断を手伝わせる仕組みを作るときに、決まったルールを守るようにしています。この記事では、そのルールを中小企業や店舗の経営者向けにかみくだいてまとめます。

なぜルールが要るのか: 「合っていそう」で任せると、外れても気づけない

AIの答えには、間違いが混じることがあります。個人情報保護委員会も、生成AIサービスでは、入力に対する応答結果に不正確な内容が含まれることがある、と注意を促しています(出典: 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」令和5年6月2日・2026年10月確認)。

問題は、間違いそのものより、間違いがあとから追えないことです。どの答えが外れていたのか、なぜ外れたのか、頼み方を変えたら良くなったのか。これが分からないまま使い続けると、AIを信じてよい場面と、信じてはいけない場面の区別がいつまでもつきません。

以下の5つのルールは、この「あとから追える」状態を作るためのものです。

ルール1: AIの答えと人の判断を、別々に残す

いちばん大事なルールです。AIが出した答えを、人が直して上書きしてしまうのではなく、AIの答えと人の最終判断を、それぞれ別の場所に残します。

分けて残す理由は2つあります。1つは、上書きすると、AIが合っていたのか人が直したのかが分からなくなること。もう1つは、人の判断がそのまま「正解の見本」として貯まっていくことです。あとでAIの精度を確かめたいとき、わざわざ正解を作り直す手間がかかりません。

代表・中野谷のひとこと

似たようなものを集めてきてね、ということはできると思います。ただ、AIでこうやって集めてもらったら、いい悪いは出てきます。「いや、これちょっと違うよ」っていう。そうしたら、それにはどんどんバツをつけていって、食わせていきたいっていう感じです。

この「バツをつける」記録が、人の判断です。AIの答えの横に人の判断が残っていれば、AIがどんなところで外れやすいかが、数を重ねるほどはっきりしてきます。

ルール2: 何を渡して、どのAIで、どんな頼み方で出した答えかを残す

次に残すのは、その答えがどうやって出てきたかです。

• いつの答えか(日付)
• AIに何を渡したか(元の材料、またはその材料がどれかが分かる番号)
• どのAIを使ったか(サービスやモデルの名前)
• どんな頼み方をしたか(AIへの指示文に版の番号をつけておく)

AIの答えは、AIの側の更新や、頼み方の変更で変わります。答えの質が急に変わったとき、記録があれば「AIが変わったのか、頼み方を変えたからか」を切り分けられます。総務省と経済産業省の「AI事業者ガイドライン」も、AIの判断にかかわる検証可能性を確保するため、合理的な範囲で、利用時の入出力等のログを記録・保存する、としています(出典: 総務省・経済産業省「AI事業者ガイドライン(第1.2版)」本編 第2部「共通の指針」透明性 令和8年3月31日・2026年10月確認)。

あわせて、使うAIの種類や頼み方は、あとから差し替えやすいように1か所にまとめておきます。改善のたびに、どこに何が書いてあるかを探し回らなくて済みます。

ルール3: 任せる前に、実際の例で試す

AIに判断を任せる前に、過去に実際にあった例をいくつか集めて、AIに解かせてみます。そして、人が実際に下した判断と比べます。これが、AIの「テスト問題」になります。

テスト問題の集め方には、こつがあります。

• 実際にあった例を優先する(人が頭で考えた例より、本番に近い)
• 簡単な例と難しい例を混ぜる(AIが間違えた例ばかり集めると、実力が分からない)
• 正解が1つに決まるもの(分類、科目、はい・いいえ)は、一致したかどうかで見る
• 文章のように正解が1つでないものは、「必要な情報が入っているか」「事実と違うことを書いていないか」など、確かめる項目を決めたチェックリストで見る

AIに頼むときは、良い例だけでなく、悪い例も渡しておきます。代表も、間違いはどんどん指摘したほうが精度が上がり、「これはダメ」という情報も「これはいい」という情報も全部含めて渡しておくことが大切だ、と話しています。

ルール4: 直すときは、練習用と確認用の例を分ける

試してみて外れが多ければ、頼み方を直します。このとき、気をつけたいことが3つあります。

1. 例を「練習用」と「確認用」に分ける — 頼み方を直すときには練習用の例だけを見る。直したあと、練習用と確認用の両方で良くなったときだけ採用する。練習用だけで良くなっても、その例に合わせ込んだだけかもしれない
2. 1回に直すのは1か所 — 何を変えたから良くなったのかが分からなくなる
3. 外れた例を、そのまま頼み方に書き足さない — 「この例のときはこう答えて」と足していくと、その例には当たるようになっても、似た別の例では外れる。外れ方の種類を見て、原因の側を直す

もう1つ、同じ例を何度か解かせると、AIの答えは少し変わることがあります。少し良くなったように見えても、その差がふだんのブレの範囲なら、改善とはみなしません。

私たちも、会議の録画がどのお客さまとの打ち合わせかをAIに振り分けさせたとき、人の振り分けと突き合わせてみて、録画の種類によって当たりやすさが大きく違うことが分かりました。そこで、外れやすい種類は自動で振り分けず、人が決める形にしています。試してみて初めて、どこまで任せてよいかの線が引けました。

ルール5: 外に出る操作は人が決める。AIが止まっても仕事は止めない

AIに判断を手伝わせても、お客さまや応募者に届く送信、帳簿などへの登録、投稿、支払いのように外に出る操作は、人の確認を通します。AI事業者ガイドラインも、AIを利用する事業者について、人間の判断を介在させることで、人間の尊厳と自律を守りながら予期せぬ事故を防ぐことも可能になる、と書いています(出典: 同ガイドライン 第5部 AI利用者に関する事項)。

代表・中野谷のひとこと

基本的にAIで代替できちゃうんですけど、でも確認は人じゃないと怖い。人の確認も入れたいな、というところがあって、そこがすごく難しいですよね。

難しいのは、確認が形だけになりやすいことです。AIの答えが続けて合っていると、人は中身を見ずに承認するようになります。確認する人には、OKとする基準を決めて渡します。ときどきは、AIの答えを見る前に人が自分で判断し、あとから見比べる、という確かめ方も取り入れます。

もう1つ決めておくのが、AIが使えないときの動き方です。AIのサービスが止まった、設定が抜けていた、という理由で、店の仕事そのものが止まってはいけません。AIが答えを出せないときは、何も外に出さずに止まり、人の手順に戻れるようにしておきます。

どの仕事を人が持つかの考え方はAIに任せる仕事と人がやる仕事の線引きで詳しく書いています。

小さな会社での始め方: 表計算に列を足すだけでいい

ここまで読むと大がかりに感じるかもしれませんが、始めるのに特別な仕組みは要りません。いまAIを使っている作業の記録に、次の列を足すだけです。

• 日付
• 対象(どの仕訳・どの原稿・どの会議か)
• AIの答え
• 人の判断
• 一致したか(はい・いいえ)
• 使ったAIと、頼み方の版
• メモ(なぜ直したか)

月に一度、「いいえ」の行だけを眺めて、外れ方を種類ごとに分けてみてください。外れ方の種類が見えれば、頼み方のどこを直すか、どの種類は人に残すかが決まります。会議の記録で始めるなら会議の文字起こしと議事録をAIで回す、自分たちで仕組みを作るならAIで自社の業務システムを作るも参考にしてください。

まとめ

• AIの答えと人の最終判断を別々に残す。人の判断が、そのまま正解の見本になる
• 何を渡し、どのAIで、どんな頼み方で出した答えかを記録し、任せる前に実際の例で試す。直すときは練習用と確認用を分け、1回に1か所
• 外に出る操作は人が決め、AIが止まっても仕事は止めない

まずは、いまAIを使っている作業を1つ選んで、「AIの答え」と「人の判断」の2つの列を作るところから始めてください。1ヶ月分たまれば、AIをどこまで信じてよいかが、感覚ではなく記録で分かるようになります。