「AIの活用が進むほど、人間による判断の価値が高まる」。よく聞く議論ですが、本当にそうでしょうか。難しい判断が人間に残ることと、人間がその判断を引き受けられることは、別の問題です。AIの出力を監督できる能力も、時間も、必要な人数だけ用意できるとは限りません。
1.人間介在によって結果は良くなるのか
そもそも人とAIを組み合わせれば、互いの弱点を補える、その期待に水を差す研究があります。バッカーロらが106の実験をまとめた2024年のメタ分析では、人とAIの組み合わせは、平均すると「人単独とAI単独のうち、成績の良い方」を下回りました。人単独との比較では改善していますが、人間が加わること自体が、最良の結果を保証するわけではないのです。(参考:Michelle Vaccaro他、”When combinations of humans and AI are useful: A systematic review and meta-analysis”)
自動運転を考えると、この問題は理解しやすくなります。条件付き自動運転のレベル3では、システムから求められた際に、人が運転を引き継ぎます。そこでは車の性能に加え、人が状況を理解し、適切に操作できるかが問われます。介入する人の技能や注意力が違えば、結果も変わり得る。人を加えることは、ヒューマンエラーが入るということです。AIの正しい答えを人が誤って修正することも、AIの誤りを人が見逃すこともあります。「人間にはAIにない能力がある」という一般論では、目の前の仕事に人を置く根拠にはなりません。人間介在を無条件に安全策とはみなせない以上、どの判断に、どんな能力を持つ人が加われば結果が良くなるのか。経営として確かめるべきなのは、その具体的な差です。
2.確認し切れない生成物と人間監督の形骸化
人間介在の方法として、HITLとHOTLがあります。HITL(Human in the Loop)は、処理や実行の過程に人の判断・承認を組み込む考え方。HOTL(Human on the Loop)は、自動で動くシステムを人が監督し、必要なときに介入する考え方です。見積書を一件ずつ承認してから送るのが前者、一定の条件で自動送信し、異常な値引きなどを検知したら止めるのが後者に当たります。
しかし、AIが大量に生成したものを、人がすべて精査することはできるのでしょうか。一日一万件、一件一分としても、確認だけで約167時間です。人員を増やさずに処理量を増やせば、どこかで確認は形式的になります。名目上はHITLでも、実態は例外だけを見るHOTLに近づくでしょう。また、HOTLにも限界があります。異常に気づいたときには、処理も損害も広がっているかもしれない。止めるボタンがあっても、押すべき状況を認識できなければ機能しません。EUのAI法第14条も、高リスクAIについて、出力への過信を警戒し、必要に応じて出力を覆し、動作に介入・停止できる監督を求めています。監督者の名前を書くだけでは、この要求は満たせないのです。[欧州委員会による条文掲載]
人が実質的に確認できない領域が広がるほど、議論の重心は「誰が確認したか」から「AIの仕事について、誰がどの責任を負うか」へ移るはずです。提供企業、導入企業、利用者の間で、事故や損失の責任と補償をどう配分するか。人間介在という言葉で先送りしてきた、制度上の「決め」が問われることになるでしょう。もちろん、必要な安全対策や法令上の義務がなくなるわけではありませんが、確認できたことにして、最後に承認した社員へ責任を集中させる設計には無理があります。
3.人に残る仕事は難しくなり、学ぶ仕事は消えていく
産業の発展は、自動化の歴史でもあります。人の負担を軽くすると同時に、人間には到底不可能な工程も実現してきました。一方、通常処理を機械に任せるほど、人には難しい例外対応などの仕事が残ります。ベインブリッジは1983年の「自動化の皮肉」で、そうした対応には高い技能が必要なのに、自動化によってその技能を身につける機会が減っているという矛盾を指摘しました(Lisanne Bainbridge, “Ironies of Automation”)。
この点、生成AIも同様です。たとえば、若手が資料を調べ、分析し、提案書を書き、上司に直される。この過程には、仕事を完成させる役割と、判断力を育てる役割がありました。今後、AIが短時間で提案書を作れば、前者は大幅に効率化できますが、後者は切り捨てられることになるでしょう。AIで成果を出せるようになっても、その成果を検証する判断力を育てる機会は大幅に失われてしまいます。
また、育成のため若手にあえて非効率な仕事をさせることには、時間も費用もかかります。競合がAIで安く速く処理していれば、将来の判断力のためだといってコストを上乗せする判断は難しくなります。資本主義社会において一社ごとの合理的な効率化が積み重なった結果、社会全体ではAIの監督を担う人が育たなくなるおそれがあるのです。その意味で、育成機会とその費用を、業界や社会全体で引き受ける仕組みも必要になるでしょう。
AIによる自動化は別の問題もはらんでいます。人間の能力や技能には個人差があり、AIの進歩に合わせて全員が高度な判断を担えるようにはなりません。人間への要求水準が上がるほど、人間に残された仕事を引き受けられない人は増えていきます。その場合、失われるものは、所得だけではありません。仕事を覚え、任され、誰かの役に立つ。その積み重ねが生きがいへとつながっていきます。新しい仕事が生まれても、そこへ移る道が細ければ、雇用や所得の格差とともに、社会の中で役割を持てない人が増える可能性があります。「最後は人間」と言うなら、その人間が育ち、働ける場所まで考えなければならない。人間介在の可能性は、AIの性能と同時に、私たちがどんな仕事を残し、どんな社会を良しとするかにまで広がる問題なのです。
出典・バックデータ
・Vaccaro, Almaatouq & Malone(2024), “When combinations of humans and AI are useful”。106実験・370効果量のメタ分析。研究ごとの差があり、あらゆる協働の失敗を示すものではありません。集計データ・分析コードの公開先も論文末に掲載。
・欧州委員会, AI Act第14条「Human oversight」。高リスクAIの監督に関する規定。本文の責任配分をめぐる見通しは筆者の考察です。
・Bainbridge(1983), “Ironies of Automation”, Automatica, 19(6), 775–779。自動化された産業システムの監督・技能についての論考を、AI利用の問題へ接続しています。
・確認時間は仮定に基づく試算:一万件×一分÷60=約166.7時間。実測値ではありません。
