審査済みの団体に無償で提供、AI生成の画像も対象
米OpenAIは11月16日(日本時間17日未明)、児童性的虐待コンテンツ(CSAM)の検出を助ける新しいツールを、審査済みの団体に無償で提供すると発表した。CSAMは、児童への性的虐待を記録した画像や動画などを指す。OpenAIによると、検出の対象にはAI生成の画像も含む。公式のニュースルームのXアカウント「OpenAI Newsroom」が明らかにした。
We're releasing a free new tool to vetted organizations to help detect child sexual abuse material, including AI-generated images. We're also adding ChatGPT warnings, publishing guidance for developers, and supporting child safety investigators. We developed the classifier with assistance from the National Center for Missing & Exploited Children. We're working with the Tech Coalition and ROOST to help make it available to more organizations. https://openai.com/index/strengthening-online-child-safety/
分類器はNCMECの協力で開発
OpenAIは、このツールの分類器(データを種類ごとに判定するAIの仕組み)を、米国の全米行方不明・被搾取児童センター(NCMEC)の協力を得て開発したと説明した。提供先を広げるため、Tech CoalitionとROOSTの2団体と協力しているという。
ChatGPTに警告表示、開発者向けの案内も公開
OpenAIは検出ツールのほかに、3つの取り組みを挙げた。ChatGPTに警告表示を加えること、開発者向けの案内を公開すること、児童保護の捜査担当者を支援することだ。警告をどのような場面で表示するか、案内や支援の具体的な中身は、投稿では示していない。
審査の基準や提供の時期は示さず
投稿は、ツールの提供先を「審査済みの団体」としているが、審査の基準や申し込みの方法は書いていない。提供開始の時期、検出の精度、ツールの名称も投稿には記載がない。
投稿は公式ブログへのリンクを添えているが、ORIENSが取得を試みたところアクセスを拒否され(HTTP 403)、ブログの内容は確かめられなかった。この記事は公式X投稿の本文だけに基づく。






