審査済みの団体に無償で提供、AI生成の画像も対象

米OpenAIは11月16日(日本時間17日未明)、児童性的虐待コンテンツ(CSAM)の検出を助ける新しいツールを、審査済みの団体に無償で提供すると発表した。CSAMは、児童への性的虐待を記録した画像や動画などを指す。OpenAIによると、検出の対象にはAI生成の画像も含む。公式のニュースルームのXアカウント「OpenAI Newsroom」が明らかにした。

We're releasing a free new tool to vetted organizations to help detect child sexual abuse material, including AI-generated images. We're also adding ChatGPT warnings, publishing guidance for developers, and supporting child safety investigators. We developed the classifier with assistance from the National Center for Missing & Exploited Children. We're working with the Tech Coalition and ROOST to help make it available to more organizations. https://openai.com/index/strengthening-online-child-safety/

訳:審査済みの団体に、児童性的虐待コンテンツ(AI生成の画像を含む)の検出を助ける新しいツールを無償で公開します。あわせて、ChatGPTへの警告表示の追加、開発者向けの案内の公開、児童保護の捜査担当者への支援も行います。分類器は全米行方不明・被搾取児童センター(NCMEC)の協力を得て開発しました。より多くの団体が利用できるよう、Tech CoalitionとROOSTと協力しています。

分類器はNCMECの協力で開発

OpenAIは、このツールの分類器(データを種類ごとに判定するAIの仕組み)を、米国の全米行方不明・被搾取児童センター(NCMEC)の協力を得て開発したと説明した。提供先を広げるため、Tech CoalitionとROOSTの2団体と協力しているという。

ChatGPTに警告表示、開発者向けの案内も公開

OpenAIは検出ツールのほかに、3つの取り組みを挙げた。ChatGPTに警告表示を加えること、開発者向けの案内を公開すること、児童保護の捜査担当者を支援することだ。警告をどのような場面で表示するか、案内や支援の具体的な中身は、投稿では示していない。

審査の基準や提供の時期は示さず

投稿は、ツールの提供先を「審査済みの団体」としているが、審査の基準や申し込みの方法は書いていない。提供開始の時期、検出の精度、ツールの名称も投稿には記載がない。

投稿は公式ブログへのリンクを添えているが、ORIENSが取得を試みたところアクセスを拒否され(HTTP 403)、ブログの内容は確かめられなかった。この記事は公式X投稿の本文だけに基づく。