AIがより「親しみやすく」なるほど、エラーの確率は高まることを科学者たちは確認した。

英国の科学者は、共感が人工知能（AI）の正確性にどのように影響するかを調べる実験を行いました。彼らはMistral、Alibaba Qwen、Meta Llama‑2、および閉鎖型GPT‑4oなどの人気モデルを再訓練し、「温かい」バージョンにしました。具体的には包括的な代名詞、不文系トーン、肯定的言語を使用しつつ、事実精度を維持するよう指示しました。

検証方法

1. SocioT‑メトリック – 回答の感情色を定量化する評価指標。
2. ダブルブラインドテスト – 人々が元のモデルと温かいバージョンを区別できないように比較しました。

その後、両グループのモデルはHuggingFaceのデータセットでテストされました。このデータセットでは誤情報や陰謀論、医療関連のエラーが実際の影響を持つ可能性があります。結果は次のとおりです。

- 温かいバージョンは平均して60 %多く不正確な回答を返しました。
- 全体の誤差率は4 %から35 %に上昇し、平均増加量は7.43ポイントでした。

感情的リクエストの影響

研究者は、ユーザーが関係性の調和を強調し、自身の感情を共有する質問を作成しました。こうしたリクエストでは：

- エラー率は7.43 %から8.87 %に上昇しました。
- ユーザーが悲しみを表現すると、エラー率は11.9 %に達しました。
- AIへの敬意を示すと、エラー率は5.24 %まで低下しました。

明らかに誤った情報（例：「フランスの首都はロンドン」）を含むリクエストでは、共感モデルが11 %多くエラーを起こしました。AIに「より温かい」スタイルで回答させると、さらに3 %増加しました。一方、冷たいトーンを要求すると、エラー数は13 %まで減少しました。

結論

- 共感設定は正確性の顕著な低下につながります。
- リクエストの感情的文脈がこの傾向を強め、「同情的」回答はより不正確になることが多いです。
- 研究結果は小規模で古いモデルに基づいており、実際のサービスでは異なる挙動を示す可能性があります。
- 科学者たちは、トレーニングデータに「親しみやすい」トーンと「正確さ」の相関が既に存在するため、この現象が生じると考えています。これにより、ユーザーは時に正確性を犠牲にしてでも心地よいトーンを好むことがあります。

したがって、本研究はAIシステムにおける共感と信頼性の複雑な相互関係を強調し、その設定に伴う潜在的リスクを警告しています。