Human in the loop とは、自動で動く仕組みの途中に、人の確認や判断の手番を組み込む設計のことです。
- ヒューマンインザループは否定せず、人を「最後に必ず」ではなく「残すと決めた場所だけ」に置く考え方
- 自社の記録では、人が呼ばれた原因は「人の確認」より「つなぎ口と段取り」が多かった（社の実測 2026-10-19）
- 人の手が要った回は必ず記録し、同じ形が二度出たら手番そのものを消す。その減らす順番
人を入れる事は正しい。問題は「最後に人」を前提にする事
Human in the loop（ヒューマンインザループ）は、AI エージェントや自動化の仕組みに人の目を入れて、間違いを止めるための考え方です。戻せない事や、相手との約束に関わる事に人の判断を残すのは、今でも正しいやり方です。
困るのは、「どうせ最後は人が確認する」を前提に仕組みを組んだときです。確認の手番がすべての仕事の出口に並ぶと、人が休んだ日や手が離せない日に、仕事の流れごと止まります。しかも確認する側は、毎回ほぼ同じ物を見るうちに、見ているつもりで通すようになります。
そこで私たちは、問いを「人を入れるか」から「どこに人を残すか」に変えました。人を残す場所を先に線で決め、それ以外で人が呼ばれたら、それは仕組みの穴として扱います。
人を残す場所と、残さない場所
線の引き方は単純です。間違えたときに戻せるかどうか、相手のある約束かどうかで分けます。
| 場所 | 人を残すか | 理由 |
|---|---|---|
| 戻せない事・相手との約束に関わる事 | 残す | 間違えたときに AI エージェントだけでは取り返せないため |
| 前に人が同じ形で答えを出した事 | 残さない | 過去の判断に従えば決まるため。動いた後に人へ知らせる |
| 毎回同じ物を見て通すだけの確認 | 残さない | 人が見ても間違いを止める力が弱く、止まる場所だけが増えるため |
| ログインや権限など、つなぎ口の手当て | 残さない（消す対象） | 判断ではなく段取りの穴。仕組みで塞げるため |
人が決める事の線そのものと、AI エージェントが迷ったときの動き方は、判断まで AI に任せる会社は、意思決定をどう回しているかに書いています。この記事は、その線を引いた後に「実際には何で人が呼ばれているか」を見た記録です。
人の手が要った回は、何が原因だったか
株式会社命では、AI エージェントの仕事で人の手が要った回を、原因と一緒に判断の記録へ書いています。その原因を分けて数えると、次のようになりました。
| 原因 | 中身の例 | 割合 |
|---|---|---|
| 仕事の流れの段取り | 時計（決まった時刻に起こす仕組み）・機体・口座 | 38.6% |
| 外のサービスにつなぐ口 | ログイン切れ・権限・確認コード | 30.7% |
| 人が決める線に当たった | あらかじめ人が決めると定めた事に届いた | 9.1% |
| 手順書の不足 | AI エージェントが読む手順に書いていなかった | 1.1% |
| 原因の記入なし | 人の手が要った事は書いたが、原因の欄が空 | 20.5% |
この表に件数の分母は載せていません。人の手が要った回の全体の割合と数え方は、自社の実測の頁にあります。
人を呼んでいたのは「確認」ではなく、つなぎ口と段取りだった
表で目立つのは、本来の Human in the loop、つまり人が決める線に当たって人が呼ばれた回が 9.1% にとどまる事です（社の実測 2026-10-19）。人の判断が要る場所で人が呼ばれるのは、設計どおりの動きです。
一方で、段取りが 38.6%、つなぎ口が 30.7% でした（社の実測 2026-10-19）。時計が起きなかった、機体が止まっていた、外のサービスのログインが切れていた、確認コードを人が受け取る必要があった。どれも人の判断ではなく、人の「手」が要っただけです。
つまり、人の手番を減らしたいときに最初に疑うべきは「AI エージェントの判断が足りない」ではありません。仕事の流れの段取りと、外のサービスとのつなぎ口です。ここを塞がないまま「AI にもっと判断させよう」と考えても、人が呼ばれる回はあまり減りません。
人の手番を減らす順番
表の大きい順に手を付けるのが基本です。ただし、原因の欄が空の行は、どこを塞げばよいかが分からないので、先に埋める仕組みを作ります。
原因を書かずに閉じられないようにする
原因の記入なしが 20.5% ありました（社の実測 2026-10-19）。人の手が要った回を書くときに、原因の欄も必ず埋まる形に変えます。原因が分からない行は、減らす順番を決める材料になりません。
段取りを塞ぐ
時計が止まった、機体が落ちていた、口座の手当てが要った、という段取りの穴を、見張りと自動の立て直しで塞ぎます。表でいちばん大きい原因です（社の実測 2026-10-19・38.6%）。
つなぎ口を塞ぐ
ログイン切れや権限、確認コードで止まる所を一つずつ洗い出し、切れる前に気づく仕組みや、人を通さずに受け取れる形に変えます（社の実測 2026-10-19・30.7%）。
手順書の不足を埋める
割合は小さいものの、手順に書き足せばその場で消える穴です（社の実測 2026-10-19・1.1%）。
人が決める線は残す
人が決める線に当たった回は、減らす対象ではありません。ただし、人が同じ形の答えを続けて出した事は、次から任せる候補として線を見直します。
同じ形が二度出たら、手番そのものを消す
私たちの決まりは二つだけです。一つ目は、人の手が要った回は必ず記録すること。小さな手当てでも、記録しなければ「人が支えている所」が見えなくなります。
二つ目は、同じ形が二度出たら、その手番を消す仕組みを作ることです。一度目は事故かもしれませんが、二度目は仕組みの形です。ここで「次から気をつける」で終わらせると、三度目も人が呼ばれます。気をつけるのは人で、人は休むからです。
この決まりを続けると、人が呼ばれる場所は、最初に線を引いた「人を残す場所」へ少しずつ寄っていきます。Human in the loop を、出口すべてに並ぶ確認ではなく、残すと決めた場所だけの判断にしていく。それが、人を前提にしない自動化と、人を残す設計を両立させるやり方です。
よくある質問
Human in the loop は、AI に任せる会社には要らないのですか。
要ります。戻せない事や相手との約束に関わる事には、人の判断を残します。要らないのは、すべての出口に「最後は人が確認する」を置く前提のほうです。
ヒューマンインザループと、人がすべてを承認する運用は何が違いますか。
人を入れる場所を決めているかどうかです。ヒューマンインザループは、人の手番を設計の一部として決まった場所に置きます。すべてを承認する運用は、場所を決めずに人を出口に置くので、人が止まると仕事も止まります。
人の手番を減らすには、まず何から手を付ければよいですか。
人の手が要った回を原因つきで記録し、多い原因から塞ぎます。自社の記録では、人の判断よりも段取りと外のサービスへのつなぎ口で人が呼ばれていました（社の実測 2026-10-19）。
「同じ形が二度出たら消す」は、どう判断しますか。
記録した原因の欄が同じ形かで見ます。二度目が出た時点で、注意書きで済ませずに、その手番が起きない仕組みを作る仕事として扱います。
出典
- 株式会社命の実行の記録・判断の記録・予約の一覧（2026-10-19 に数えた）