OpenAIは、ChatGPTを使って課題やエッセイを書いている学生を捕まえられる可能性のあるツールを構築した。しかし、このツールの一般公開は未定のままだ。テキストを透かしにする方法は、OpenAIが代替のアプローチを模索中であるため、まだ検討中である。このソリューションは、言い換えのような局所的な改ざんを検出するのには効果的だが、別の生成モデルによる完全な言い換えのような、より広範な改ざんには苦戦する。他の改ざん技術には、単語間に特殊文字を挿入したり、削除したりするようにモデルを変更することが含まれる。
OpenAIの広報担当者は、「OpenAI以外のエコシステムにも影響を与えそうな複雑さがあるため、意図的なアプローチをとっている」と述べた。私たちが開発しているテキスト透かしの方法は技術的には有望ですが、悪質な行為者による回避の可能性や、英語を話さない人のようなグループに不釣り合いな影響を与える可能性など、代替案を研究している間、私たちが重きを置いている重要なリスクがあります “と、広報担当者はさらに詳しく説明した。
しかし、AIが生成したテキストを検出するためのいくつかの過去の取り組みは、非常に非効率的であった。OpenAIは、その精度の低さから、以前のAIテキスト検出器を停止せざるを得なかった。ある意味、オープンAIは、透かしを入れる方法が調査済みのChatGPTユーザーを遠ざけてしまう可能性も危惧している。これらのユーザーは、透かしを使用した場合、ソフトウェアの利用が比較的少なくなるとOpenAIに言われたユーザーである。
OpenAIは、他社のモデルではなく、ChatGPTの書かれたテキストを検出することだけに集中する。また、透かしを利用することで、ChatGPTの単語選択時の動作にも変化が生じる。OpenAIは文章に目に見えない透かしを入れ、ユーザーは後で別のツールを使ってそれを検出できるようにする。
OpenAIが5月に発表したブログ記事には、AIが生成したコンテンツを検出する研究についての発表があった。この更新では、「テキスト透かしは、言い換えのような局所的な改ざんに対しては非常に正確で、効果的でさえある」ことが証明されているが、「翻訳システムの使用、別の生成モデルによる言い換え、各単語の間に特別な文字を挿入し、その文字を削除するようモデルに依頼するような、グローバル化した改ざんに対しては、あまり頑強ではない」ことが証明されている、と述べている。
その結果、OpenAIは、この方法が「悪意のある行為者によって容易に回避される」ことを認めている。さらに、OpenAIのアップデートは、英語を母国語としない人々に関する広報担当者の見解を支持し、テキスト透かしは “英語を母国語としない人々にとって有益な文章作成補助としてのAIの使用に汚名を着せることになるかもしれない “と指摘している。
この進展は、ChatGPTを業務に活用している数多くのマーケターやコンテンツクリエイターにとって、安心材料となるかもしれない。
電子透かしがなければ、AIが生成したコンテンツの使用や適応に汎用性が増す。しかし、これはまた、AIが支援するコンテンツ作成にまつわる倫理的配慮の重荷を、ユーザーの手にしっかりと負わせることになる。
OpenAIの決定は、AI分野における透明性とユーザー拡大のバランスをとることの難しさを強調している。AIが生成するコンテンツが普及するにつれ、業界は真正性の懸念に対処するための新たな戦略を模索しなければならない。現在、倫理的なAI利用の責任はユーザーと企業の双方にある。
倫理とユーザビリティの均衡を見出すことは、AIコンテンツを取り巻く環境にとって継続的な課題であるため、この分野でのイノベーションは、OpenAIまたは他の団体によって継続される可能性が高い。