AIがあなたの上司になる日が来るのか？倫理学者が予測する「AIと人間の未来」 #TrendBuzz
アルゴリズム経営のリスク
機械学習と自動化をビジネスに統合することは、効率の向上に資するものです。しかし、これらのシステムは労働者の自律性や福祉を危険にさらす、と私は考えます。 AIは人間の潜在能力を高めることもできますが、逆にそれを代替し、労働者を自動化された機械の一部に過ぎない存在にしかねません。エージェント型AIの適応力と独立した目標達成能力は、さらに非人間的で厳格な管理システムを生み出す可能性があります。 これらのシステムの非人間的な性質は、それらを潜在的に独裁的なものにし、文脈や共感、理解を欠いた管理を行なうことも考えられるのです。その複雑さは、つくった人でさえもその挙動を完全に説明できないほどのレベルに達することもあります。 このような制度は一度確立されると後戻りが難しく、非人道的な労働環境を定着させる危険性を含むものです。 エージェント型AIが人間の文脈や共感なしに効率を最適化する能力は、これらの問題を永続化し、固定化しかねません。 たとえば、AI駆動の応募者追跡システム（ATS）はキーワードフィルタリングを使用して、時には適した候補者を不適格にし、採用プロセスを非人間的な流行語のゲームにしてしまいます。 そして、ATSモデルの決定に異議を唱えることは、その不透明性のために難しい場合もあるのです。
人間労働者に適応を迫る
AI主導の環境では、人間の従来の役割は、自動化システムの監視を担当する「マシン・ラングラー」や、失敗に対処する「ライアビリティ・スポンジ」に最小化されてしまうかもしれません。 AIによる仕事の変革においてもっとも憂慮すべき点は、単なる雇用の喪失ではなく、残る役割がロボットのような機能に変わってしまうことだと、私は考えています。 アルゴリズムによる管理下では、すべての行動がデータとして精査され、人間のパフォーマンスが機械の指標と比較されます。 エージェント型AIがワークフローやプロセスを独立して最適化する能力は、人間の労働者に対して、機械のような行動を採用してそのペースに追いつくよう圧力を強める可能性があります。 この厳しい監視は、人間の労働者に対して雇用を維持するために機械のような行動、つまり常時の可用性、強い集中力、定量的な指標の優先を採用することを強いるものです。 これは生産性を向上させるかもしれませんが、持続不可能な負担によって労働者を疲弊させることもありえるでしょう。エージェント型AIの適応性は、人間の裁量や創造性の余地をほとんど残さない、さらに厳格で容赦のないパフォーマンス基準を生み出すことも考えられます。 以前は人間が行っていた決定、たとえばスケジュール管理やパフォーマンス評価の実施が、今ではますますアルゴリズムによって行なわれるようになってきました。効率的なことではありますが、これらのシステムは人間の共感や理解を欠いています。 たとえば、機械学習モデルは、行動規範のニュアンスと厳密な事実との違いから、ルール違反を人間の評価者よりも厳格に評価することがよくあります。このため、長年積み重ねられた人間の文脈がないまま、重要なニュアンスが無視されてしまうでしょう。 このような管理の機械化は、自然な発想や創造性、許容できるミスの余地をどんどん削ぎ落としてしまいます。個々の行動はデータに還元され、人間の裁量の余地は狭まるでしょう。 皮肉なことに、機械が人間の認知を模倣するように進化する一方で、人間は厳格な機械の基準に合わせるために、自分の独自の特性を捨てるよう圧力を受けるのです。
