OpenAIの研究責任者は10月9日、元安全性研究者3人の書簡に対し、 OpenAI Newsroom post on Xで公に回答した。Associated PressとReutersによると、同社は内部調査で機微情報の取り扱い方針への違反が見つかり、書簡の内容にとどまらない「重大な信頼の毀損」があったと説明した。OpenAIは、解雇が安全性への懸念を訴えたことを理由とするものではないと否定した。投稿はまた、第三者の安全性評価者との契約を最終調整中で、数週間以内に詳細を示すとしている。同社は具体的な行為や対象の方針を明らかにしていない。

大きな変化

  • 何が変わったか： OpenAIの公開回答は、解雇についての説明に第三者の安全性評価者との契約をまとめる計画を結び付け、モデルのモニタリング可能性は業界全体の取り組みだと改めて表明した。
  • なぜ重要か：研究者たちの争いは、自分たちの扱いと外部の安全性団体との仕事の両方に関わる。OpenAIの約束は後者に具体的な次の段階を示すが、評価者の条件、アクセス権、業務範囲はまだ分からない。
  • 今後の注目点：OpenAIは数週間以内に詳細を示すと述べた。それにより、独立評価者が研究者の求めた継続的なアクセスを得るのか、また職員が機密資料を守りながらどう情報を共有するのかが分かる可能性がある。

これは、研究者の書簡をめぐるBIG CHANGEの報道に続く日付入りの記事だ。彼らはOpenAIの監督機関に宛てた当初の書簡で、三つの異なる状況を説明した。Tomek Korbakは、OpenAIのHugging Face事案の評価に関わった非営利団体METRとの連絡の仕方が解雇に関連すると口頭で告げられたと述べた。Mikita Balesniは、外部団体とのモニタリング可能性に関する仕事は自分の報告系統と調整されており、資料を共有する前に機微な詳細を削除したと説明した。Jasmine Wangは、採用業務のため幹部のメールへのアクセスを委任され、ITに権限の削除を頼み、機微なメッセージを誤ってクリックしたことを報告したと述べた。これらは研究者たちの説明であり、独立に確定した調査結果ではない。

OpenAIの投稿は書簡の中心的な要請二つに答えている。The Indian Expressが掲載した全文によると、同社は第三者の安全性評価者との契約を最終調整しており、外部レビュアーを組み込む方針も維持している。また、最先端モデルのモニタリング可能性を保つには業界全体の取り組みが必要だとOpenAIは考え、この作業への投資を続けるとしている。これは計画と優先事項についての会社側の説明であり、評価者の名前やアクセス権、契約条件は示されていない。

解雇についてOpenAIは、調査で情報取り扱い方針への違反が見つかり、安全性への批判が決定理由ではなかったと述べた。しかし公開投稿は、対象の情報や具体的な規則、結論を裏付ける証拠を特定していない。Associated Pressは、研究者を解雇した理由についてOpenAIはこれ以上詳しく説明しないと報じた。Reutersは、同社が疑われる違反を明らかにしなかったと報じた。どちらも調査資料を公表しておらず、どちらの説明が正しいかを独立に確定していない。

雇用をめぐる争いは、モニタリング可能性に関する別の技術的議論も解決しない。研究者は最先端モデルを監視する能力が低下していると主張し、OpenAIはその重要性に同意して投資を続けると述べている。10月9日の回答は、新しい測定値や評価結果を示していない。

出典・関連資料