Amazonの従業員は、実際の成果ではなく報告書作成のためにのみ人工知能を使用しています

生成AIが従業員の「パフォーマンス指標」に変わる仕組み

生成型人工知能（AI）の人気が高まるにつれ、企業は従業員に対してこれらのシステムを使った実務成果を示すことを求めるようになっている。こうした圧力に応じて新たな現象が生まれた。従業員は自分のAI利用統計を上げるためだけに、意味のないタスクをAIに任せるようになった。

ファイナンシャル・タイムズはAmazonでの事例を報じている

記事では、電子商取引の巨人が従業員にMeshClawというソフトウェアをますます活用させていると述べられている。このエージェントは従業員の作業ツールに接続し、彼らの代わりにタスクを実行できる。いくつかの従業員は、ほぼ無意味な操作を自動化してAI習得率の個人評価を上げている。

その背景には経営陣からの圧力が強まっていることがある。現在、80％以上の開発者が毎週AIを使用する義務があり、各従業員ごとに統計が管理され、目標値に達していない人は上司に説明しなければならない。形式的にはマネージャーはトークン利用データで従業員を評価すべきではないが、最近になって実際にそうしているという疑惑が浮上した。

このような環境下で、一部のAmazon社員は個人的利益を得るために高い活動量を装う誤ったインセンティブを抱く。これはAIインフラに巨額投資し、投資家や経営陣に導入効果を示したいテック大手にとって特に重要である。

AmazonはAI利用データをどのように管理するか

同社は今年約200億ドルをCAPEXに費やす計画だ。技術が実際に使われていることを確認するため、AI利用に対する監視を強化している。初期には従業員全体の集団統計が公開されていたが、現在は個別結果へのアクセス権を専門家自身と直属上司だけに限定している。マネージャーは公式にこれらデータを人材評価に使用することを禁じられている。

他社での状況

ファイナンシャル・タイムズは、Meta Platformsでも同様の乱用が見られると指摘している。Amazonの30名以上の専門家によって開発されたMeshClawは、プロダクション版にコードをアップロードしたり、メールを分類したり、Slackなどのアプリと連携できる。しかし、多くの従業員がこうしたソリューションの安全性を懸念している。AIがエラーを生成する可能性があり、その行動を制御する手段が弱い。

このように、生成型AI利用要件の増加は「パフォーマンス指標」を生み出し、それ自体が目的化されるケースもある。結果として実際のビジネス成果ではなく、単なる統計的達成感を追求する現象が拡大している。