日本
The Morning Dev

知っておくべきことだけを、毎朝

‹
 

ローンチソース2件

OpenAI、AI生成の児童性的虐待画像も検出 新ツールを審査済み組織に無料提供

CNET Japan ·

要点 · ソース2件をもとに作成

  • OpenAIは11月16日、AI生成画像を含む児童性的虐待コンテンツ(CSAM)の可能性がある画像を検出する新しい画像分類ツールを発表した
  • ツールは審査を通過した組織にAPI経由で無償提供される
  • ChatGPTでは、CSAMを探そうとする行為に対して警告を出し、アカウントを24時間停止する仕組みを導入する

なぜ重要か

コンテンツ審査やプラットフォーム安全対策を担う開発者にとって、AI生成のCSAMも対象にした検出APIが利用可能になる点が実務上の選択肢になる。また、ChatGPTを組み込んだサービスでは、利用者による不正な検索行為への対応方針を見直す必要が出てくる可能性がある。

影響を受ける人

  • 審査を通過してCSAM検出APIを利用する組織
  • コンテンツ審査や信頼性・安全性(Trust & Safety)を担当する開発チーム
  • ChatGPTを利用する開発者と利用者

OpenAIは11月16日、AI生成のものを含む児童性的虐待コンテンツ(CSAM)の可能性がある画像を検出する新ツールを発表した。審査を通過した組織にAPI経由で無料提供する。ChatGPTでも、こうしたコンテンツを探そうとする利用者への警告や、一時的な利用停止を導入する。

タイムライン

  1. OpenAIがAI生成を含むCSAM検出ツールを発表

  2. feed.japan.cnet.com

    OpenAI、AI生成の児童性的虐待画像も検出 新ツールを審査済み組織に無料提供

  3. ITmedia AI+ 最新記事一覧

    OpenAI、児童性的虐待コンテンツ(CSAM)検出ツールを公開 ChatGPTで探すと24時間アカウント停止の警告も

すべての報道 · ソース2件

この記事をどう思いますか?

コメント0件

    OpenAI、AI生成の児童性的虐待画像も検出 新ツールを審査済み組織に無料提供 – The Morning Dev