ローンチソース2件
OpenAI、AI生成の児童性的虐待画像も検出 新ツールを審査済み組織に無料提供
要点 · ソース2件をもとに作成
- OpenAIは11月16日、AI生成画像を含む児童性的虐待コンテンツ(CSAM)の可能性がある画像を検出する新しい画像分類ツールを発表した
- ツールは審査を通過した組織にAPI経由で無償提供される
- ChatGPTでは、CSAMを探そうとする行為に対して警告を出し、アカウントを24時間停止する仕組みを導入する
なぜ重要か
コンテンツ審査やプラットフォーム安全対策を担う開発者にとって、AI生成のCSAMも対象にした検出APIが利用可能になる点が実務上の選択肢になる。また、ChatGPTを組み込んだサービスでは、利用者による不正な検索行為への対応方針を見直す必要が出てくる可能性がある。
影響を受ける人
- 審査を通過してCSAM検出APIを利用する組織
- コンテンツ審査や信頼性・安全性(Trust & Safety)を担当する開発チーム
- ChatGPTを利用する開発者と利用者
OpenAIは11月16日、AI生成のものを含む児童性的虐待コンテンツ(CSAM)の可能性がある画像を検出する新ツールを発表した。審査を通過した組織にAPI経由で無料提供する。ChatGPTでも、こうしたコンテンツを探そうとする利用者への警告や、一時的な利用停止を導入する。
タイムライン
すべての報道 · ソース2件
- 1日前 ↗
ITmedia AI+ 最新記事一覧
OpenAI、児童性的虐待コンテンツ(CSAM)検出ツールを公開 ChatGPTで探すと24時間アカウント停止の警告も - 1日前 ↗
feed.japan.cnet.com
OpenAI、AI生成の児童性的虐待画像も検出 新ツールを審査済み組織に無料提供