AnthropicのAIサイバーセキュリティ部門長が会社を退職し、「世界は危険にさらされている」と認めた。

マリナンク・シャルマがAnthropicを退職：同僚への手紙と今後の計画

Anthropic社でAI安全性研究部門の元責任者であるマリナンク・シャルマ（Mrinank Sharma）は、今週初めにネット上で別れの手紙を公開しました。彼は退職理由を説明し、現在のリスクについて考察し、今後何をするかを語っています。

手紙の内容
* 成果 – シャルマは「ここで望んだすべてを達成した」と述べています。言及されたプロジェクトには、AIを用いた生物テロ対策機構の開発やニューラルネットワークが社会に与える影響の研究があります。

* 退職理由 – 著者は「AIがもたらす危険、生物兵器、そして今現在進行中の相互に連鎖する危機」を常に考えており、これらを乗り越えるためには知恵が私たちの世界への影響力と比例して成長しなければならないと結論付けました。そうでなければ予測不可能な結果が待っていると述べています。

* 文化的障壁 – シャルマは、圧力下で価値観を保つことの難しさを強調しています。彼自身や会社内部、さらには社会全体において重要なものを外部の影響のために諦める必要がある場面があると指摘しました。

* 今後の計画 – 退職後は自分の原則に合った仕事に従事し、詩やその他の創造的領域も学ぶ予定です。

Anthropicで起きていること
* すでに数人の主要開発者が会社を離れ、人材流動性の波が高まっています。

* Anthropicは追加投資の交渉を進めています。取引が成功すると、市場価値は3億5000万ドルまで上昇する可能性があります。

* 先週、Claude Opus 4.6 の新バージョンがリリースされました。このモデルはオフィス生産性とプログラミング効率を向上させ、大規模ドキュメントの処理に対するコンテキストウィンドウを拡大し、より複雑なタスクをサポートします。

手紙の入手先
シャルマの別れの手紙全文はBusiness Insiderの記事で公開されています。これにより彼の思考と動機についてより詳細に知ることができます。