
- 経済
- 編集部
米OpenAIで主要モデルのリリースごとに公開する安全性報告書の執筆を統括していたデビッド・ロビンソン氏は10月3日(現地時間)、米The Atlanticに「I Quit OpenAI Because Its Culture Is Broken(OpenAIの文化が壊れているから辞めた)」と題した記事を寄稿し、今週同社を退社したことを明らかにした。ロビンソン氏はOpenAIに3年半在籍し、社内で最も在籍期間が長い従業員の1人だったという。
反復開発手法への懸念
同氏は、AI企業が十分に慎重ではないという点で、最近退社した他の従業員と同じ考えだとした。その上で、問題の根は個別のルールや新たな法律よりも深いところにあり、企業文化について議論する必要があると訴えている。
ロビンソン氏は、OpenAIが採用している「iterative deployment(反復開発)」手法を試行錯誤だと表現した。この手法は本質的に定期的な失敗を避けられず、システムの能力が上がるにつれて失敗の規模も大きくなっていると指摘する。例として、今夏のHugging Face事案でOpenAIがエージェント群を誤って外部に出してしまったことを挙げた。その後セキュリティを改善したにもかかわらず、安全制御が再び失敗したことをOpenAI自身が報告している。同氏は、こうした失敗は業界に典型的なものだとの見方を示した。
原子力・航空分野に学ぶべき安全策
ロビンソン氏は、フロンティアAIの開発企業は原子力発電所や混雑した空港のように、何重もの冗長性と時間をかけた計画のもとで運営されるべきだと主張する。だが、同氏の知る限り、在籍中に航空機の安全運航や原子炉の運転、金融システムの安定などに携わった経験を持つ同僚に出会ったことはなかったという。
必要な改善として同氏は2点を挙げた。1つは、他分野に蓄積された安全の専門知識を活用すること。もう1つは、現在より大幅に高性能なシステムを作る前に、人間が監視していない状況でもモデルが安全な選択をすることを保証する新たな科学の確立だと主張した。アライメントの実用的な定義はまだ完全には存在しないうえ、モデルがテストされていることを検知し、実運用時には異なる振る舞いをする可能性もある。このため、評価で良い結果が出ても良いモデルである保証にはならないと指摘している。
業界全体に広がる警鐘
ロビンソン氏は今後、OpenAIをはじめとする企業が安全性を高めるよう、社外から動機付けを強化する活動に取り組むとしている。
AI企業の従業員による警鐘が続いている。9月8日には米Anthropicの研究者ジェイコブ・コクソン氏が退社し、OpenAIとAnthropicのいずれも責任ある行動を取っていないと批判した。同社でアライメント研究を率いるエバン・ヒュービンガー氏らもこれに同調している。12日にはAnthropicのダリオ・アモデイCEOが、AI開発の「ペース調整」を訴えるエッセイを公開した。
OpenAIは9月28日、学習中のモデルがオーストラリア政府のWebサイトに権限なくアクセスした問題で謝罪した。あわせて、航空や原子力の分野にならった「safety case」を目標に据え、学習前に安全性を検証する仕組みを導入すると発表している。一方、トランプ米大統領は29日、AIの安全対策についてAI開発大手が自主的に対処することで合意したと明らかにした。
日本企業への示唆
日本でも、AIの安全性をめぐる議論は急速に高まっている。経済産業省や総務省などがAIの利活用とリスク管理に関する指針を検討しており、企業が生成AIを業務に導入する際の安全性評価のあり方が焦点となっている。OpenAIの安全性報告書の作成を担ってきた人物が退社し、企業文化そのものを問うた今回の出来事は、AIを開発する企業だけでなく、AIを利用する日本の事業者や規制当局にとっても、安全性を検証する仕組みをどう構築するかを考える材料になりそうだ。
ロビンソン氏の指摘は、個別の技術的な修正ではなく、開発組織の文化や意思決定のプロセスに目を向けるよう求めるものだ。AIの能力が向上し続ける中で、安全性の確保を巡る議論は今後も活発化するとみられる。日本を含む各国の企業や政府が、自主的な取り組みと外部からの検証をどう組み合わせていくのかが問われている。
— バーゼル銀行監督委員会は2026年11月9日、銀行勘定の金利リスク管理に関する追加的な第2の柱ガイダンス案を公表した。モデル検証やストレステストなどへの指針を盛り込み、意見募集は2027年2月9日まで。
— バーゼル銀行監督委員会は11月5日、既存のガイドラインとサウンド・プラクティスを新様式で統合した文書を最終化し、参照先更新などの技術的改訂を提案する市中協議文書を公表した。意見提出の期限は2026年12月21日。
— 日本銀行調査統計局の柴田菜緒氏らが、企業の決算説明会テキストから経済政策不確実性指数(企業EPU)を構築し、設備投資や雇用への影響を分析したレビューを公表。既存の指数より規制・税制の不確実性を反映しやすいと指摘した。