OpenAI元AI安全責任者の翁荔、1.8兆円研究機関を創設──AIの「安心・信頼の設計」へ再出発

出典:https://mp.weixin.qq.com/s/6GGF239C94aCS-7VU5ZcDQ

翁荔とThinking Machines Lab
概要ポイント
  • 翁荔はOpenAIでAIの振る舞い制御や誤作動対策を主導。
  • OpenAI退社後、Mira Muratiと研究機関「Thinking Machines Lab」を創設。
  • 設立時に20億ドル(約3,100億円)を調達、評価額は120億ドル(約1兆8,600億円)。
  • 「安心して使えるAI」実現に向けて、透明性と社会的合意を重視。
  • 今後は多モーダルAIやオープンソース製品を順次公開予定。
本文

OpenAI元幹部の翁荔(Lilian Weng)は、AI安全の設計において世界的に著名な研究者。GPT-4などでのAIの振る舞い管理や誤作動対策を率い、OpenAI内で安全設計の中核を担ってきた。


2024年、商業化を加速させるOpenAIの方向性に対し懸念を抱き、Mira Muratiらと共に退社。2025年初頭に「Thinking Machines Lab」をサンフランシスコに設立した。


設立時点で20億ドル(約3,100億円)を調達し、評価額は120億ドル(約1兆8,600億円)に到達。OpenAI出身の研究者らが多数参加し、安全で説明可能な次世代LLMの開発に取り組んでいる。


同研究機関は「可検証性」「価値との整合性」「社会的合意」を原則とし、AIが信頼できる形で社会に根付くことを目指す。今後は多モーダルAIの開発に加え、研究成果の一部をオープンソースとして公開予定。