AIは今、偽のオンラインアカウントの実際の作成者を暴露できるようになり、ネット上での匿名性を脅かしています。

AIがフェイクアカウントを暴く方法

ネット上で多くのユーザーは匿名または偽造プロファイルを作成し、これが自分の身元を守ると考えています。しかし、新しい研究では、現代のAIモデルがそのような「偽物」を検出するだけでなく、実際の所有者を特定できることが示されています。

誰がこの問題を調査したのでしょうか？

スイス連邦工科大学チューリッヒ（ETH Zurich）、独立教育・研究プログラムMATS、およびAnthropic社は共同でPDFドキュメントとして結果を公開しました。

AIモデルはどのように機能するのでしょうか？

モデルは一連のシグナルを利用します：データの一致（小さな断片から大規模データまで）と行動パターンの特徴。これらの指標はアカウントの真偽を「疑う」ことができ、ほとんどの場合において実際の所有者を見つけることができます。

研究の主要数値

なぜ重要なのか？

結果は一般ユーザーだけでなく、SNS上で他人名義で情報を投稿する人々にも影響します。AIは企業従業員の機密データを拡散するハッカーや公開フォーラムで質問を投げる人物の実名を暴露できる可能性があります。ビジネスリーダーが自分の事業を推進したり競合に損害を与えるためにペンネームを使用するケースもあります（例：イーロン・マスク）。さらに、アイデンティティの暴露は情報提供者、活動家、そして匿名性が不可欠な被害者にとって危険です。

非匿名化防止の課題

科学者たちはいくつかの対策を推奨しています：

1. プラットフォーム上でAPI経由のユーザーデータへのアクセスを制限する。
2. 自動情報収集検出メカニズムを強化する。
3. 大量データのエクスポートを最小限に抑える。

しかし研究者は、これらの措置でも完全な保護が保証されるわけではないと指摘しています。数年、あるいは数か月以内にAIがそのような操作を行うことを止めるのはますます難しくなるでしょう。

結論：

AIモデルはすでにフェイクアカウントを認識し、多くの場合において実際の所有者を特定できる能力があります。これは一般ユーザーだけでなく、匿名性に依存する人々のプライバシーを脅かします。保護対策を強化すればプロセスは遅延できますが、技術の進歩を止めることはまだできません