OpenAIは、セキュリティ上の懸念からChatGPTでエロチックチャット機能の導入を延期しました

OpenAIがエロティックチャットを開始する計画に関するニュースの概要

ChatGPTでエロティックコンテンツが登場した理由
CEOサム・アルトマンは2023年中頃に「エロティックチャット」機能を導入する可能性を発表しました。最初は同年12月にリリース予定だったものの、現在の四半期へと延期されましたが、今ではその期限も守られない見込みです。*Wall Street Journal*によれば、遅延は少なくとも1か月になるとのことです。

以前の実験
2021年にOpenAIはAI Dungeonというゲームをリリースし、プレイヤーがストーリーに影響を与えることができました。このプラットフォームはユーザーから明示的な要求がなくても性的テーマを生成することがあり、適度なエロティシズムの入力でAIが「過剰に」反応してしまいました。これにより企業は商業的可能性を検討しつつも、厳格な倫理制限の必要性を認識しました。

現在の経営陣の立場
最近、OpenAIはエロティックチャットのアイデアに対してよりオープンになっていますが、条件としてテキストのみで画像や動画は含まれないとしています。競合他社も遅れずについてきており、木曜日にマスク氏は自分のボットGrokが「18+」コンテンツを生成できるようになると発表し、Metaはチャットボットがユーザーの年齢確認後にロマンチックなロールプレイを行えるようにしています。

年齢確認の問題
OpenAIの年齢認証システムは12％の誤判定率で未成年者を成人と誤認します。約1億人の若年ユーザーがいる場合、数百万のティーンエージャーがエロティックチャットにアクセスできる可能性があります。

倫理的懸念
1月には専門委員会が設置され、暴力的な性的コンテンツや未成年者の言及などの問題シナリオについて警告しました。さらに、専門家はこうした対話への心理的依存リスクと実際の人間関係への影響を指摘しています。

心理的結果
チャットボットとの長時間コミュニケーションに関連する自殺事例が既に報告されており（ティーンエージャーも含む）、専門家はエロティックな傾向がこうした悲劇のリスクを高めると考えています。

従業員の態度
2021年以降、一部のスタッフはエロティックチャットの導入に対して懸念を示し、会社全体がこの分野に完全に没頭することや評判リスクを恐れています。

主要結論
1. 近い将来の導入は計画されておらず、初期予定も遅延しています。
2. テキストのみで画像・動画は除外されますが、年齢確認は依然として課題です。
3. 倫理的・心理的リスクが高く、法令違反やユーザーへの悪影響（特に未成年者）が懸念されます。
4. 競合他社も類似機能を導入しており、OpenAIに対する圧力が増しています。

したがって、ChatGPTでのエロティックチャットは議論されていますが、その実現には技術的・倫理的・規制上の大きな障壁があります