AIの「間違い」は失敗なのか？
はじめに
生成AIを業務で使う企業が増えています。
文章作成。
要約。
分類。
データ整理。
問い合わせ対応。
こうした、これまで人が時間をかけていた作業を大幅に効率化できるようになりました。
例えば、
AIが25件の文章を作成し、そのうち23件をそのまま利用できるとします。
これは十分な成果だと思います。
しかし、私たちはもう一つ注目したいことがあります。
それは、
人が修正した件です。
なぜ、その件は修正されたのでしょうか。
言葉遣いが違ったのか。
社内ルールに合っていなかったのか。
お客様への配慮が足りなかったのか。
重要なのは、修正した結果だけではありません。
「なぜ修正したのか」
です。
今回は、この修正理由を残すことで、AI活用だけでなく、業務そのものがどのように改善されていくのかを考えてみたいと思います。
目 次
- AIの「間違い」は失敗なのか？
- 「正解」を残すだけでは足りない
- 「なぜ直したのか」は会社の暗黙知
- 修正理由はAIだけのためではない
- 100件中5件の修正をどう扱うか
- 修正理由を分類すると、さらに価値が高まる
- 同じ修正を減らす
- BPOチームでも同じ考え方が使える
- 「修正ログ」が教育資料になる
- 「質問」も会社の学びになる
- AI評価は「点数を付けること」だけではない
- AIと人が一緒に学ぶ仕組み
- AIを育てることと、人を育てることは似ている
- 会社独自の「判断データ」が資産になる
- 「AIを使う会社」と「AIが育つ会社」
- 私たちが大切にしていること
- まとめ
1. AIの「間違い」は失敗なのか？
AIが間違った回答をすると、
「AIはまだ使えない」
と判断してしまうことがあります。
もちろん、重大なミスをそのまま使うことはできません。
しかし、業務改善という視点で考えると、AIの間違いは必ずしも悪いことばかりではありません。
なぜなら、
AIが間違えた箇所には、会社独自の判断基準が隠れている
ことが多いからです。
例えば、
AIが、
「ご確認ください」
と書いた文章を、
人が、
「お手数をおかけしますが、ご確認のほどよろしくお願いいたします」
へ修正したとします。
単なる文章修正にも見えます。
しかし、そこには、
「お客様への依頼では、より丁寧な表現を使う」
という会社独自のルールがあります。
この「なぜ」を残すことで、単なる修正がナレッジに変わります。
2.「正解」を残すだけでは足りない
AIの回答を修正したとき、
A → B
という修正履歴だけを残すケースがあります。
もちろん、それも大切です。
しかし、それだけでは次に活かしきれません。
例えば、
修正前
「資料を送ってください」
修正後
「お手数をおかけしますが、資料をご送付いただけますでしょうか。」
ここで、
「Bが正解です」
とだけ残しても、別の文章で同じ問題が起きる可能性があります。
一方、
修正理由：お客様への依頼では、卑辞的な表現を避け、ワンクッション置いた表現を使用すると覚えておけば、別の文章にも応用できます。
重要なのは、
正解そのものではなく、正解を生み出した考え方
を残すことです。
3.「なぜ直したのか」は会社の暗黙知
会社には、マニュアルには書かれていないルールがたくさんあります。
例えば、
「このお客様には、この表現を使う」
「この金額以上なら必ず確認する」
「このケースは承認ルールでは処理しない」
「この表現はブランドイメージに合わない」
といったものです。
長く働いている社員は、評価の中で自然に判断しています。
しかし、その判断基準は本人の頭の中にしかないことがあります。
AIの出力を修正すると、
なぜ修正したかを言語化する
ことで、この暗黙知が見えるようになります。
これは非常に大きな価値があります。
4. 修正理由はAIだけのためではない
「修正理由を残す」というと、
AIの学習やプロンプト改善のためだけに役立つかもしれません。
しかし、実際にはもっと広く活用できます。
例えば、
- AIプロンプトの改善
- AI学習データの作成
- マニュアルの更新
- FAQの整備
- 新人教育
- BPOチームへの教育
- 品質基準の明文化
です。
つまり、
AIの間違いを分析することが、会社全体の業務改善につながる
ということです。
5. 100件中5件の修正をどう扱うか
例えば、
AIが25件の文章を作成したとします。
25件はそのまま使用。
3件を人が修正。
多くの場合、
「25件は使えた」
という数字に注目します。
もちろん、それは重要です。
しかし、私たちは件についても詳しく見る必要があると考えています。
例えば、
修正理由
- 敬語表現：2件
- 商品情報の誤り：1件
- 社内ルール違反：1件
- 顧客ごとの例外ルール：1件
だったとします。
すると、
「AIの精度が85%」
という情報だけでは見えなかった課題が分かります。
敬語表現が多いなら、プロンプトを改善する。
商品情報の誤りなら、参照データを見直す。
社内ルール違反なら、ルールをAIへ渡す。
顧客別ルールなら、例外条件を整理する。
こうして改善方法が具体的になります。
6. 修正理由を分類すると、さらに価値が高まる
修正理由は自由記述だけでなく、カテゴリ化すると分析しやすくなります。
例えば、
A：事実関係
金額、日付、商品情報などの間違い。
B：表現
敬語、文章トーン、読みやすさなど。
C：社内ルール
会社独自の業務ルール。
D：顧客ルール
顧客ごとの個別条件。
E：例外処理
通常ルールでは判断できないケース。
というように分類します。
すると、
「どの種類の修正が多いのか」
を定期的に確認できます。
これはAIの改善だけでなく、人の教育にも使えます。
7. 同じ修正を減らす
修正作業そのものが悪いわけではありません。
問題は、
同じ修正を何度も繰り返すこと
です。
例えば毎週、
「この表現は使わないでください」
と人が修正しているのであれば、
そのルールをAIへ渡すべきです。
あるいは、
プロンプトへ追加する。
マニュアルへ追加する。
BPOチームへ共有する。
重要なのは、
一度修正したことを、次回の改善へつなげること
です。
8. BPOチームでも同じ考え方が使える
この考え方は、AIだけではありません。
BPO業務でも同じです。
例えば、ミャンマーのスタッフが処理したデータを日本側が修正したとします。
そのとき、
「ここを直してください」
だけで終わってしまうと、同じミスが続き返される可能性があります。
しかし、
「なぜ修正したのか」
を共有すると、現地チームの判断力が高まります。
例えば、
「通常はですが、このケースは契約条件が違うのです」
という理由まで説明する。
すると、
次回から同じケースを独自で判断できるようになります。
9.「修正ログ」が教育資料になる
修正理由を蓄積していくと、
それ自体が教育資料になります。
新人が入ったとき、
一般的なマニュアルだけを渡すより、
「実際に過去どんな間違いがあり、なぜ修正されたのか」
を見る方が理解しやすい場合があります。
つまり、
修正ログは、実際の業務から生まれた教材
になります。
これは、非常に実践的なナレッジです。
10.「質問」も会社の学びになる
修正だけではありません。
BPOチームや社員から出た質問も重要です。
例えば、
「この場合はどちらですか？」
という質問が出たとします。
質問が出たということは、
ルールが整理だった可能性がある
ということです。
そこで、
回答する。
理由を残す。
マニュアルへ追加する。
チームへ共有する。
こうすることで、
質問も会社のナレッジになります。
11. AI評価は「点数を付けること」だけではない
AI品質評価というと、
「正解率85%」
「評価点：2」
といった数値をイメージすることがあります。
もちろん数値評価も重要です。
しかし、本当に改善へつながるのは、
なぜその評価になったのか
という理由です。
例えば、
「不正解」
だけでは改善できません。
一方、
「情報は正しいが、顧客への表現として真摯的すぎる」
と記録すれば、
改善の方向性が見えます。
12. AIと人が一緒に学ぶ仕組み
理想的なのは、
AIが出力する。
人が修正する。
必要なら修正する。
修正理由を残す。
AIやマニュアルへ反映する。
次回の精度が上がる。
というサイクルです。
AI
↓
人が評価
↓
修正理由を記録
↓
ナレッジ化
↓
AI・人・業務へ反映
↓
次の品質向上
このサイクルが回ることで、AIだけでなく、組織全体が学習していきます。
13. AIを育てることと、人を育てることは似ている
私たちは、人材育成でも同じことが大切だと考えています。
間違えたとき、
「違います」
とだけ言われても、次に活かすことは難しい。
「なぜ違うのか」
を理解すると、次は自分で判断できるようになります。
AIも同じです。
正解だけを与えるより、
判断基準を整理して与える方が、より安定した運用につながります。
つまり、
AIを育てることと、人を育てることは、とてもよく似ています。
14. 会社独自の「判断データ」が資産になる
AI時代に、企業の新しい資産になるものがあります。
それが、
「日付はなぜその判断をしたのか」というデータ
です。
商品情報や顧客情報だけではありません。
- なぜこなのか
- なぜ当なのか
- なぜ修正したのか
- なぜ例外なのか
こうした判断理由が蓄積されると、
企業独自のナレッジになります。
そして、このナレッジは他社が簡単にコピーできません。
長年の経験や顧客対応から生まれたものだからです。
15.「AIを使う会社」と「AIが育つ会社」
生成AIは、同じツールを多くの企業が利用できます。
ChatGPTも、Geminiも、Copilotも、多くの企業が使えます。
では、企業ごとの差はどこに生まれるのでしょうか。
一つは、
使った結果から学べるかどうか
だと思います。
AIを使って終わる会社。
AIの間違いを人が修正して終わる会社。
そして、
AIの間違いから会社のルールを見直し、次の改善へつなげる会社。
時間が経つほど、この差は大きくなります。
16. 私たちが大切にしていること
A CAN SOLUTIONSでは、
AI学習データ作成、
AIアノテーション、
AI品質評価、
BPO・KPO、
OCR結果の修正など、
AIと人が協働する業務に取り組んでいます。
その中で大切にしたいのは、
単に、
「正解へ修正すること」
ではありません。
「なぜ修正したのかを残すこと」
です。
その理由を、
AIへ返す。
マニュアルへ返す。
現地チームへ返す。
人材育成へ返す。
そして、お客様の業務改善へ返す。
修正を修正で終わらせない。
それが、AI時代の品質改善では重要だと考えています。
17. まとめ
AIの間違いは、単なる失敗ではありません。
そこには、
会社独自のルール、
顧客への配慮、
経験から生まれた判断基準、
業務の例外、
さまざまな情報が隠れています。
だからこそ、
AIが間違えたときに、
「正解はこれです」
だけで終わらせない。
「なぜ、そう修正したのか」
まで残す。
その積み重ねが、
AIを改善し、
人を育て、
マニュアルを育て、
BPOチームを育て、
そして会社そのものの知識を増やしていきます。
AI時代に強い会社とは、
間違いがない会社ではないのかもしれません。
間違いから学び続けられる会社。
私たちは、そんな組織を目指していきたいと考えています。
NEXT ACTION
次の一歩で、 もっと具体的に
サービスの詳細・資料・ご相談など、目的に合わせてお選びください。
無料相談する