MENU

Human-in-the-Loopのやり方|生成AIを使った業務で使う手順をステップで解説

Human-in-the-Loopは、生成AIや自動化システムに処理を任せつつ、重要な判断や例外処理、最終確認を人が担う運用設計です。

生成AIを業務に入れるとき、「全部AIに任せる」「毎回すべて人が確認する」の二択にすると、どちらも運用しづらくなります。前者は誤りや不適切な判断を見逃しやすく、後者は自動化の効果が出にくいためです。

Human-in-the-Loopでは、AIに任せる範囲と、人が必ず確認する範囲を分けます。さらに、どの条件なら人へ戻すか、誰が確認するか、判断結果をどう記録するかまで決めます。

この記事では、Human-in-the-Loopを実務へ導入する流れを、「対象業務を決める→AIに任せる処理を切り出す→人が確認するポイントを決める→判断基準を作る→例外を人へ戻す→記録する→改善する」の順で解説します。

基本的な意味や全体像から確認したい場合は、Human-in-the-Loopとは?を参照してください。

目次

Human-in-the-Loopの全体像

実務では、次の7ステップで設計すると整理しやすくなります。

  1. 対象業務を決める
  2. AIに任せる処理を切り出す
  3. 人が確認するポイントを決める
  4. 判断基準を言語化する
  5. 例外を人へ戻す条件を決める
  6. 判断結果を記録する
  7. 誤りや差し戻しをもとに改善する

重要なのは、Human-in-the-Loopを「AIが作ったものを最後に人が見るだけ」と考えないことです。

どこで人が介入するかは、業務リスクや判断の難しさによって変わります。

ステップ1|対象業務を決める

最初に、Human-in-the-Loopを使う業務を具体化します。

入力

  • 対象業務
  • 現在の作業手順
  • 担当者
  • 入力データ
  • 最終成果物
  • 誤りが起きたときの影響

例

営業企画部で、既存顧客から届く問い合わせメールに対する返信文案を生成AIで作るケースを考えます。

現在は、担当者が問い合わせ内容を読み、過去の案内や契約条件を確認し、返信文案を作っています。

行動

業務全体をいきなりAIへ渡さず、処理を分解します。

たとえば、

  • 問い合わせ内容の要約
  • 問い合わせ種別の整理
  • 返信文案の作成
  • 契約条件の確認
  • 顧客固有情報の確認
  • 最終送信判断

に分けます。

出力

Human-in-the-Loopを適用する対象業務と、その中の処理一覧。

判断基準

誤った場合の影響が大きい業務ほど、最初から完全自動化を目指さず、人の確認を残します。

ステップ2|AIに任せる処理を切り出す

次に、処理のうちAIへ任せやすい部分を決めます。

顧客問い合わせへの返信なら、

  • 問い合わせ内容の要約
  • 問い合わせ種別の候補
  • 返信文案のたたき台

はAIへ任せやすい処理です。

一方で、

  • 正式な契約条件の確定
  • 値引き可否
  • 返金可否
  • 法的な約束
  • 最終送信

は、人の確認を残した方が安全です。

入力

各処理について、

  • ルール化しやすいか
  • 正解を確認できるか
  • 誤りの影響は大きいか
  • AIの出力を人が修正できるか

を見ます。

行動

AIへ任せる処理と、人が担う処理を分けます。

出力

「AIが行うこと」と「人が行うこと」の境界。

判断基準

AIへ任せるのは、やり直しや確認が可能で、誤りを検出しやすい処理から始めます。

ステップ3|人が確認するポイントを決める

Human-in-the-Loopでは、「人が確認する」とだけ書いても運用できません。

何を確認するかを具体化します。

顧客向け返信文案なら、確認項目は次のようにできます。

  • 顧客名は正しいか
  • 問い合わせ内容を取り違えていないか
  • 契約条件と矛盾していないか
  • 未承認の値引きや補償を約束していないか
  • 期限や日付は正しいか
  • 顧客へ誤解を与える表現がないか
  • 社内ルール上、上長承認が必要ではないか

入力

AI出力と、業務上のリスク項目。

行動

「人が見る場所」を具体的なチェック項目へ変えます。

出力

人手確認チェックリスト。

判断基準

誤りが起きたときに損失や信頼低下につながる項目を優先します。

ステップ4|判断基準を言語化する

担当者ごとに判断が変わると、Human-in-the-Loopが安定しません。

そこで、人がどの条件で承認・修正・差し戻しするかを決めます。

たとえば、返信文案なら、

承認

  • 問い合わせ内容と回答が一致している
  • 契約条件と一致している
  • 未承認の約束がない
  • 表現上の問題がない

修正して使用

  • 内容は正しいが語調や表現だけ直せば使える
  • 文量が長いが、要点は合っている

差し戻し

  • 問い合わせを取り違えている
  • 契約条件に関する誤りがある
  • 未承認の値引きや補償を含む
  • 事実として与えていない内容を追加している

判断基準

「なんとなく不安だから確認」ではなく、承認・修正・差し戻しの条件を具体化します。

ステップ5|例外を人へ戻す条件を決める

すべての案件を同じ流れで処理する必要はありません。

Human-in-the-Loopでは、高リスク案件やAIが苦手な案件を人へ戻す条件を決めます。

顧客メールの例

次の条件なら、AI文案を作る前または作った後に人へ戻します。

  • 契約変更を含む
  • 返金や値引きの相談
  • 顧客クレーム
  • 障害やセキュリティに関する連絡
  • 法務確認が必要
  • 問い合わせ内容が複数テーマにまたがる
  • 必要な情報が不足している

出力

エスカレーション条件。

判断基準

誤りを後で直すコストが高い案件ほど、早い段階で人へ戻します。

ステップ6|判断結果を記録する

Human-in-the-Loopは、人が確認して終わりではありません。

次回の改善へつなげるために、最低限の記録を残します。

記録する項目

  • AI出力をそのまま承認したか
  • 人が修正したか
  • 差し戻したか
  • 修正理由
  • 誤りの種類
  • 高リスク条件に該当したか

例

  • 案件1:承認
  • 案件2:表現修正
  • 案件3:契約条件誤りで差し戻し
  • 案件4:未承認の値引き表現を削除

出力

AI出力と人の判断の差分ログ。

判断基準

すべてを細かく記録するのではなく、後から「どこでAIが失敗しやすいか」が分かる項目を残します。

ステップ7|誤りや差し戻しをもとに改善する

一定件数を運用したら、記録を見直します。

たとえば50件中、

  • そのまま承認:30件
  • 軽微な表現修正:10件
  • 内容修正:6件
  • 差し戻し:4件

だったとします。

差し戻し4件の内訳が、

  • 契約条件の取り違え:2件
  • 未承認の値引き表現:1件
  • 問い合わせの読み違い:1件

なら、次に改善すべきポイントが見えます。

改善例

  • 契約条件はAIに推測させず、必ず確認済み情報だけ入力する
  • 「値引き・返金・補償を勝手に提案しない」と明記する
  • 問い合わせ要約と返信文案生成を分ける

判断基準

単に「AIが間違えた」とまとめず、誤りの種類ごとに対策を変えます。

通し例|顧客問い合わせ返信にHuman-in-the-Loopを入れる

ここまでの手順を、1つのケースで通して見てみます。

営業企画部では、既存顧客A社から次の問い合わせが届きました。

次回更新時の価格について確認したい。現在の契約から変更はあるか。

担当者が確認した事実は、

  • 次回更新日は9月末
  • 価格改定率は8%
  • 改定理由は運用コスト増とサポート体制強化
  • 値引き条件は未決定
  • 特別対応は未決定

でした。

1. AIに任せる処理

AIには、

  • 問い合わせ内容の要約
  • 返信文案のたたき台作成

だけを任せます。

2. AIへの入力

担当者は、確定情報だけを入力し、

値引き、特別対応、返金、追加機能提供など、与えていない事実は追加しない

と指定しました。

3. AIの初回出力

AIは、価格改定率8%、更新日9月末、理由2点を含む文案を作りました。

しかし末尾に、

ご負担を軽減できるよう、特別条件も検討いたします。

という文が入っていました。

4. 人の確認

チェックリストに照らすと、「未承認の値引きや補償を約束していないか」に抵触します。

そのため、担当者はこの表現を削除しました。

5. 判断

  • 事実関係:問題なし
  • 契約条件:問題なし
  • 未承認の約束:1件あり、削除
  • 文章表現:軽微な修正
  • 最終判断:修正して使用

6. 記録

担当者は、

未承認の特別条件をAIが追加した

と修正理由を記録しました。

7. 次回改善

同じ種類の修正が複数回発生したため、プロンプトに、

値引き、返金、補償、特別条件を提案しない

という制約を明記しました。

ここで重要なのは、AIの出力を毎回ゼロから人が書き直すのではなく、AIに任せる部分と、人が確認・判断する部分を分けたことです。

具体的な運用ケースをさらに追いたい場合は、Human-in-the-Loopの具体例も参考になります。

Human-in-the-Loopテンプレートへ落とす

運用を繰り返すなら、次の項目を固定すると使いやすくなります。

  • 対象業務
  • AIに任せる処理
  • 人が確認する項目
  • 承認条件
  • 修正条件
  • 差し戻し条件
  • エスカレーション条件
  • 記録項目
  • 改善タイミング

そのまま使える型が必要なら、Human-in-the-Loopテンプレートを参照してください。

つまずきやすいポイント

人が確認すれば安全だと思う

確認項目が曖昧なら、見落としは起こります。

すべての案件を人が見る

リスクが低い案件まで同じ粒度で確認すると、運用負荷が高くなります。

高リスク案件の条件がない

契約、返金、障害、法務などは、最初から人へ戻す条件を決めます。

記録を残さない

人がどこを直したかを残さないと、同じ誤りを繰り返します。

人の判断基準が担当者ごとに違う

承認・修正・差し戻しの条件をそろえます。

よくある失敗と改善策は、Human-in-the-Loopで失敗しやすいポイントで詳しく確認できます。

どこまで人を入れるべきか

Human-in-the-Loopは、人の関与が多いほど良いわけではありません。

次のようにリスクで分けると考えやすくなります。

低リスク

  • 社内要約
  • アイデア候補
  • 文章のたたき台

AIで処理し、必要に応じて人が確認します。

中リスク

  • 顧客向けメール
  • 社内の判断材料
  • 重要資料の要約

人の確認を必須にします。

高リスク

  • 契約条件
  • 法務判断
  • 人事評価
  • 金額確定
  • 障害対応

AIは補助にとどめ、正式判断は人が行います。

他の生成AI手法との違い

Human-in-the-Loopは「人の確認や判断をどこに入れるか」を設計する考え方です。

社内資料や外部情報を検索・参照させる仕組みとは役割が異なります。違いを整理したい場合は、RAGとHuman-in-the-Loopの違いが参考になります。

また、プロンプト条件を整理するCO-STARとの違いは、CO-STARとHuman-in-the-Loopの違いで確認できます。

RAG、CO-STAR、Human-in-the-Loopの3つを目的別に使い分けたい場合は、RAG・CO-STAR・Human-in-the-Loopの使い分けも参照してください。

生成AIを使って確認項目や差し戻し理由の整理を補助する方法は、生成AIでHuman-in-the-Loopを使う方法で確認できます。

実務で使うためのチェックリスト

  • 対象業務を具体化したか
  • AIに任せる処理を切り出したか
  • 人が担う処理を決めたか
  • 人の確認項目を具体化したか
  • 承認・修正・差し戻し条件を決めたか
  • 高リスク案件のエスカレーション条件を決めたか
  • AI出力と人の判断差分を記録しているか
  • 誤りを種類別に振り返っているか
  • 低リスクと高リスクで確認負荷を分けたか
  • 顧客情報や契約情報の入力可否を確認したか
  • 最終責任が誰にあるか明確か

まとめ

Human-in-the-Loopを実務で使うときは、まず対象業務を分解し、AIに任せる処理と人が担う処理を分けます。

そのうえで、人が確認する項目、承認・修正・差し戻しの判断基準、高リスク案件を人へ戻す条件、判断結果の記録方法を決めます。

重要なのは、毎回すべてを人が確認することでも、AIへ全部任せることでもありません。誤りの影響と判断の難しさに応じて人の介入位置を決め、実際の修正や差し戻しを記録しながら運用を改善することです。

Human-in-the-Loopをこの形で設計すれば、生成AIのスピードを活かしつつ、重要な判断と責任を人に残した業務運用を作りやすくなります。

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!
目次