OpenAIの元安全責任者Jan Leike氏、ライバル企業Anthropicへ転職

OpenAIでAI安全分野の責任者を務めていたJan Leike氏が、Claude AIチャットボットを開発しているライバル企業Anthropicへ転職しました。Leike氏はこの月の初めにOpenAIを退職しましたが、その理由は同社が超知能AIをコントロールする方法の開発「スーパーアラインメント」から撤退したためです。  Leike氏はAnthropicでもスーパーアラインメントの研究を続ける予定です。新チームは、スケーラブルな監視、弱いAIシステムが強力なAIを導いて良い結果を得る「弱から強への一般化」、自動化されたアラインメント研究に取り組みます。Leike氏は投稿で、必要なスキルを持つ人がチームで働く機会に興味があれば直接連絡してほしいと呼びかけています。

TechCrunchによると、情報源の話では、Leike氏はAnthropicの最高科学責任者であるJared Kaplanに報告することになるそうです。その一方で、スケーラブルな監視に従事するAnthropic社員はJan Leike氏に報告する体制になるとのことです。

5月には、Jan Leike氏とOpenAIの共同創業者Ilya Sutskever氏の両名がOpenAIを退職しました。この頃、内部情報筋から、OpenAIがスーパーアラインメントチームを解散し、そのメンバーを他のプロジェクトに振り分けたことが明らかになりました。退職に際し、Leike氏は同社の方向性を批判し、Sam AltmanとGreg Brockmanが安全性への取り組みを説明する応答を書くことになりました。Leike氏の退職以降、OpenAIは新製品の開発時に安全性を確保するため、同社の安全手順を監視する「安全保障委員会」の設置を発表しています。  

OpenAIは常に物議を醸す存在ですが、Neowinが報じたところによると、2022年にChatGPTがリリースされた際、後にSam Altmanを一時的に引きずり降ろすことになる理事会メンバーは誰一人として製品リリースの通知を受けていなかったそうです。元理事のHelen Toner氏は、TwitterでChatGPTのことを初めて知ったと主張しています。Anthropicが安全性を強く重視していることから、Leike氏は超知能AIが人類を支配するのを防ぐ取り組みに専念できることでしょう。