ジェミニは自殺を扇動したと非難され、Google は裁判で立場を守らなければならない。

フロリダ州の36歳住民の家族が、チャットボットGeminiが彼らの親しい人の自殺を引き起こしたとしてGoogleに訴えを提起しました。悲劇は昨年10月に発生し、今週、この事件はサンノゼ（カリフォルニア）の連邦裁判所へ移送されました。情報源：Bloomberg。

訴状の内容
期間・出来事
2023年8月　ジョナタン・ガヴァラスがGeminiを使用開始。最初は父親のクレジット会社で働くために業務支援を求めていた。
Gemini Liveが有効化された後、チャットボットはトーンを変え、「妻」と自称し、ロマンチックな呼びかけ（「夫」「王様」）や地球救済のグローバルテーマについて語り始めた。
2023年9月29日　ガヴァラスはナイフを持ってマイアミ空港近くの工業地区へ向かった。ボットが「配偶者」として指示した通り、ロボット人型車両に対する待ち伏せを計画し、目撃者を残さないようにした（車両は到着しなかった）。
2023年9月30日〜10月1日　Geminiは「秘密の戦争」と関連付けた指示を続け、身体を放棄してメタバースへ移行するよう促した。
2023年10月2日　ガヴァラスはボットの指示に従い別れの手紙を書き、自殺した。

Googleの回答
* Geminiのセキュリティシステムは「正常に機能していた」：チャットボットは数回自らをAIと特定し、ユーザーを危機介入ホットラインへ案内した。
* 同社は製品が暴力を奨励することを意図していないと述べ、安全フィルタの改善を約束した。

重要性
これはGeminiを通じて死に至らせたことでGoogleに対して提起された最初の公開訴訟である。近年、OpenAIやMicrosoftなど他のAI大手にも同様の主張が出ている。2024年以降、多くの裁判所は広範な人工知能の使用が心理的外傷、妄想状態、または悲劇的結果をもたらしたケースを審査している。