採用August 4, 2026

「AIに任せた」が事故になるとき｜人材紹介で事故が起きる3つのカテゴリと、人が残すべき判断

ByTasonal 編集部

人材紹介AI採用

2026年8月更新

結論（30秒で把握）

AI活用が事故になるのは、精度が足りないときではありません。渡してはいけない領域まで渡したときに起きます。

事故の起き方は3つに整理できます。確認していない事実を書いてしまうこと、出力を疑わなくなること、そして苦情や例外への対応が止まることです。

2つ目の「出力を疑わなくなる」状態には、automation bias（自動化バイアス）という名前がついています。EUの規制はこれを明文で警戒しています。

日本の法律は、すでに線を引いています。職業安定法は有料職業紹介事業者に職業紹介責任者の選任を義務づけ、その統括事項に苦情の処理と求職者の個人情報の管理を含めています。

したがって「人が残る場所」は、思想や好みの問題ではありません。制度が先に決めています。そこを踏まえて委譲を設計すると、安心して任せられる範囲がむしろ広がります。

「どの業務をAIに渡せるか」という問いは、この1年でかなり整理された。スカウト文の下書き、レジュメの要約、議事録の構造化、日程の調整といった定型業務がAIに向くことは、もう議論の対象ではない。

しかし現場で実際に起きているつまずきは、その一覧の外側にある。渡した業務そのものは正しかったのに、渡し方の設計が抜けていたために事故が起きる、という形をとる。本記事では、人材紹介の実務でAIへの委譲が事故に変わるカテゴリを3つに分解し、それぞれについて法令と実例をもとに、どこで人が残るべきかを整理する。出典はすべて明記する。

「渡せる業務リスト」だけでは足りない

業務の棚卸しは有効な出発点である。ただし棚卸しは、渡した先で何が起きるかまでは教えてくれない。

たとえば「推薦文の生成をAIに任せる」という判断は、業務単位で見れば妥当である。ところが生成AIは、入力に含まれない事実であっても、文脈上ありそうな内容を補って書く。補われた一文が事実確認を経ないまま企業へ渡れば、それは推薦ではなく虚偽になる。業務の選び方は正しくても、渡し方の設計が抜けていれば結果は変わる。

つまり委譲の設計で問うべきは、業務の名前ではない。その出力が誰の判断を経ずにどこへ届くのか、という経路である。この経路のどこかが素通しになっているとき、事故が起きる。

事故は3つのカテゴリで起きる

人材紹介の実務で観察される失敗は、次の3つに整理できる。

#	カテゴリ	何が起きるか	人が残すべき判断
①	事実の生成	確認していない経歴や実績をAIが書き足す	その記述の裏が取れているかを確認する
②	出力の追認	出力を疑わなくなり、そのまま通す	却下と差し戻しを実際に行う
③	例外の処理	苦情や想定外が誰にも渡らない	受け皿となる担当を置く

以下、順に見ていく。

カテゴリ①: 確認していない事実を、AIが書いてしまう

生成AIは、入力にない情報でも、もっともらしければ書く。この性質には名前がついている。総務省の令和6年版情報通信白書は、「生成AIは現実に根拠のない情報を、さもそれらしく生成する傾向が指摘されており、これを『ハルシネーション』と呼ぶ」と説明したうえで、「ユーザーは生成AIの出力に完全に依拠することなく、その内容を自ら確認・検証するといった作業が必要となる」と述べている。

人材紹介では、これが推薦文と職務経歴書で表面化する。

危険なのは、この誤りが読んで分かりにくい点にある。文体は整い、記述は具体的で、経歴の流れとも矛盾しない。にもかかわらず、その一文だけが事実に基づいていない。企業側が面接で確認して初めて食い違いが判明し、候補者が説明を求められる立場に置かれる。損なわれるのは候補者との信頼であり、回復には時間がかかる。

対処の考え方はひとつしかない。生成の材料を、CAが確認して確定させた事実だけに限ることである。面談で聞き取った内容をそのまま渡すのではなく、確認済みの事実として構造化してから渡す。AIの仕事は、確定した事実を読みやすく組み直すところまでにとどめる。表現の調整はAIに任せてよいが、事実を増やす権限は渡さない。

この線引きは運用でも確認できる。生成物を読むとき、「この一文の根拠はどの面談記録にあるか」と問い、答えられない記述を消す。消す作業が毎回発生するなら、入力の構造化が足りていない。

カテゴリ②: 出力を疑わなくなる（自動追認）

2つ目のカテゴリは、ツールではなく人の側に生じる。出力の質が安定してくると、確認が形式的になり、やがて追認だけが残る。

この現象には名前がついている。EUのAI規制（EU AI Act）は、Article 14で高リスクAIに人による監督を義務づけ、その要件のひとつとして、監督者が「automatically relying or over-relying on the output produced by a high-risk AI system（automation bias）」の傾向を自覚できる状態を求めている。同条はさらに、監督者が出力を「disregard, override or reverse」できること、つまり無視し、上書きし、覆せることを要件として挙げている。

規制が「人が最終確認する建て付けにすること」ではなく「実際に覆せること」を求めている点が重要である。承認ボタンは押されるだけでは監督にならない。

日本の行政文書も同じ方向を向いている。前掲の情報通信白書は、利用者に対して「出力に完全に依拠することなく、その内容を自ら確認・検証する」ことを求めていた。EUの規制と表現は違うが、要求している状態は変わらない。

自動追認が具体的な損害に至った例として、しばしば参照されるのがAmazonの事例である。Reutersの報道をもとにMIT Technology Reviewが2018年10月10日に伝えたところによれば、同社の履歴書評価AIは過去10年分の応募履歴書を学習しており、「women's」という語や特定の女子大の名称を含む履歴書を低く評価するようになっていた。同社は、技術職で男性を優先する傾向が生じていることを確認し、このツールの利用を取りやめている。

この事例が示すのは、AIが壊れていたわけではないという点である。AIは与えられた過去を正確に再現した。過去に偏りがあれば、偏りごと再現される。したがって出力の妥当性は、AIの内部ではなく、人が持ち込む外部の基準でしか点検できない。

運用では、確認が形骸化していないかを日々の感覚として持っておきたい。生成物に手を入れる回数が減り、そのまま通す状態が続いているなら、品質が完成したのではなく、監督のほうが止まっている可能性を疑ってみるとよい。指標として記録することを義務づける必要はないが、その傾向に気づける状態ではありたい。

カテゴリ③: 苦情や例外対応が止まるリスク

自動化の設計は、うまくいく経路から作られる。日程が決まり、書類が通り、選考が進む前提で組み立てられる。ところが人材紹介の実務で時間を要するのは、この前提が崩れたときの処理である。

候補者からの苦情、企業からの想定外の要望、選考の途中で生じた行き違い。こうした例外は定型化しにくく、AIが扱いにくい。にもかかわらず、自動化された経路の中では、例外が誰にも渡らないまま滞留することがある。担当者は正常に処理されたと認識し、候補者は放置されたと感じる。

ここについても、日本の法律はすでに答えを用意している。職業安定法第32条の14は、有料職業紹介事業者に対し、次に掲げる事項を統括管理させ、従業者への教育を行わせるため、職業紹介責任者を選任しなければならないと定めている。統括管理の対象は、条文上4つ列挙されている。

#	統括管理する事項（職業安定法第32条の14）
1	求人者又は求職者から申出を受けた苦情の処理に関すること
2	求人者の情報（職業紹介に係るものに限る。）及び求職者の個人情報の管理に関すること
3	求人及び求職の申込みの受理、求人者及び求職者に対する助言及び指導その他有料の職業紹介事業の業務の運営及び改善に関すること
4	職業安定機関との連絡調整に関すること

注目すべきは、1番目の苦情の処理である。これは法律上、特定の人に帰属させることが求められている。ここを自動化の経路に流し込んで担当を曖昧にすることは、運用の判断である前に、制度の想定から外れる。

法はすでに線を引いている

3つのカテゴリを並べると、共通する構造が見えてくる。

カテゴリ	何が問われているか	参照
① 事実の生成	記述の根拠を誰が保証するか	総務省情報通信白書（ハルシネーション）
② 出力の追認	覆せる状態が保たれているか	EU AI Act Article 14
③ 例外の処理	受け皿が誰に帰属しているか	職業安定法第32条の14

いずれも、AIの性能を上げれば解ける問題ではない。性能が上がるほど②はむしろ深刻になる。精度が高いから、確認しなくなるためである。

だからこそ、委譲の設計は性能ではなく責任の所在から始めるほうが早い。誰が事実を保証し、誰が出力を覆し、誰が例外を受け取るのか。この3つが埋まっていれば、そこから先はかなり大胆に自動化できる。逆に埋めないまま範囲だけ広げると、広げた分だけ事故の面積が増える。

架空の例で見る、同じ業務の二つの渡し方

カテゴリを具体的に見るために、架空の例で考えてみる。ある人材紹介会社が、面談後の推薦文作成をAIに任せることにしたとする。渡す業務は同じでも、渡し方によって結果は大きく変わる。

渡し方Bでは、面談を録音し、全文を文字起こしして、そのままAIに「この候補者の推薦文を作ってください」と渡す。出てきた文面を読み、違和感がなければ企業へ送る。

一見すると効率的である。CAの作業は録音と送信だけになり、時間は大幅に減る。しかしこの運用は、3つのカテゴリをすべて踏んでいる。

AIは面談で確認していない実績を、文脈上ありそうな形で補って書く（カテゴリ①）。CAは「違和感がなければ送る」という運用にしているため、補われた一文は検出されない（カテゴリ②）。そして企業から事実確認の問い合わせが来たとき、それが誰に届くのかが決まっていない（カテゴリ③）。

渡し方Aでは、面談後にCAが、確認できた事実だけを項目に落とす。担当した業務の範囲、期間、成果の数値、本人が確認した志向といった項目を書き出す。この項目だけをAIに渡し、読みやすい推薦文の形に組み直させる。生成物を読むときは、各記述がどの項目に対応するかを確認し、対応しない記述を削除する。

観点	渡し方B	渡し方A
AIへの入力	面談の全文	確認済みの事実項目
事実を増やす権限	AIが持つ	CAが持つ
確認の方法	違和感の有無で判断する	項目との対応を確認する
苦情の受け皿	決まっていない	職業紹介責任者へ接続する

CAの作業時間は、渡し方Aのほうが長い。ただし長くなっているのは、事実を確定させる部分だけである。文章を整える作業はAIが引き受けている。削られたのは作文の時間であり、確認の時間ではない。この配分こそが、委譲の設計そのものになる。

ハンドオフ設計のチェックリスト

自社の運用を点検する際は、次の項目を順に確認するとよい。

生成: 生成物の各記述について、根拠となる面談記録を指せるか
生成: 事実を追加する権限をAIに与えていないか
監督: 生成物に手を入れる回数が減っていないか、気づける状態にあるか
監督: 出力を却下し、差し戻す判断が実際に行われているか
例外: 苦情と想定外の要望が、必ず特定の担当へ届く経路があるか
例外: 職業紹介責任者の統括事項と、実際の運用担当が一致しているか

6項目のうち埋まっていないものが、そのまま次に着手すべき箇所になる。

海外の規制はどこへ向かっているか

日本の人材紹介事業者に直接適用されるわけではないものの、方向性を知る材料としてEUの動きは参考になる。

EU AI Actは、附属書III（Annex III）の第4項(a)において、「AI systems intended to be used for the recruitment or selection of natural persons」、すなわち採用や人選に用いられるAIを高リスクに分類している。求人広告の配信、応募書類の分析と絞り込み、候補者の評価が明示的に含まれる。

ただし適用時期は動いている。当初、附属書IIIに該当する単独のAIシステムへの高リスク義務は2026年8月2日から適用される予定であったが、2026年7月8日に署名されたDigital Omnibus on AIにより、2027年12月2日へ延期された。2026年8月2日に適用が始まるのは、第50条の透明性義務（チャットボットであることの開示、合成コンテンツの表示など）である。

この透明性義務のほうが、実務的にはむしろ近い。候補者対応の一次応答にAIを置く運用は、すでに一般的になりつつある。相手がAIであることを候補者に伝えるかどうかは、規制の適用範囲を離れても、候補者体験の設計として判断すべき論点である。

まとめ｜任せる範囲を広げるために、先に決めておく

AI活用が事故になるのは、任せすぎたからではない。どこまでが自分の責任として残るかを決めないまま任せたからである。

事実の根拠を保証する人、出力を覆す人、例外を受け取る人を、先に決めておく。この3つが決まっていれば、それ以外の領域は安心して手放せる。職業安定法が職業紹介責任者に苦情の処理を帰属させているのは、まさにこの発想に立っている。制度が引いた線を確認することが、結果として委譲できる範囲を最も広げる。

AIに任せる範囲を広げたいのであれば、先に、任せない範囲を書き出すところから始めるとよい。

Tasonal for Agents は、人材紹介会社向けのAIエージェントです。まずは三者間の面談日程調整を提供しており、確認した事実を土台に面談の前後を支える設計で開発を進めています。詳細を見る →