研究
OpenAI、Apollo ResearchやMETRなど外部4団体を社内に迎える「埋め込み型」安全性評価を開始
要点
- OpenAIは外部の独立評価機関が社内に常駐してAIの安全性を検証する「埋め込み型評価」を開始した
- METRやApollo Researchなど4団体と契約し、学習中のモデルやソースコードへの深いアクセスを提供する
- 評価対象はモデルの意図的な妨害行為や不適切な挙動で、安全管理の透明性向上を狙う
なぜ重要か
外部機関による検証の枠組みが大手AI企業で制度化されつつあることを示しており、AIを組み込んだサービスを開発する側も安全性の説明責任を求められる流れが強まる可能性がある。
影響を受ける人
- OpenAIのモデルやAPIを利用する開発者
- AIの安全性評価や品質管理に関わる開発チーム
OpenAIは、外部の独立評価機関が社内に常駐してAIの安全性を検証する「埋め込み型評価」の開始を発表した。METRやApollo Researchなど4団体と契約を結び、学習中のモデルやソースコードへの深いアクセスを提供する。モデルの意図的な妨害行為や不適切な挙動を評価し、安全管理の透明性向上を図る狙いだ。