ローンチソース2件
OpenAI、児童性的虐待コンテンツ(CSAM)検出ツールを公開 ChatGPTで探すと24時間アカウント停止の警告も
要点 · ソース2件をもとに作成
- OpenAIは11月16日、AI生成画像を含む児童性的虐待コンテンツ(CSAM)の可能性がある画像を検出する新しい画像分類ツールを発表した
- ツールは審査を通過した組織にAPI経由で無償提供される
- ChatGPTでは、CSAMを探そうとする行為に対して警告を出し、アカウントを24時間停止する仕組みを導入する
なぜ重要か
コンテンツ審査やプラットフォーム安全対策を担う開発者にとって、AI生成のCSAMも対象にした検出APIが利用可能になる点が実務上の選択肢になる。また、ChatGPTを組み込んだサービスでは、利用者による不正な検索行為への対応方針を見直す必要が出てくる可能性がある。
影響を受ける人
- 審査を通過してCSAM検出APIを利用する組織
- コンテンツ審査や信頼性・安全性(Trust & Safety)を担当する開発チーム
- ChatGPTを利用する開発者と利用者
OpenAIは、児童性的虐待コンテンツ(CSAM)を検出するための新たな画像分類ツールを発表した。従来は検出が困難だった新規画像やAI生成画像も対象とし、審査を通過した組織へAPI経由で無償提供する。同時にChatGPT上でのCSAM検索行為に対し、アカウントを24時間停止する警告機能も導入した。
タイムライン
すべての報道 · ソース2件
- 1日前 ↗
ITmedia AI+ 最新記事一覧
OpenAI、児童性的虐待コンテンツ(CSAM)検出ツールを公開 ChatGPTで探すと24時間アカウント停止の警告も
- 1日前 ↗
feed.japan.cnet.com
OpenAI、AI生成の児童性的虐待画像も検出 新ツールを審査済み組織に無料提供