今回の記事は、天風哲人のクンバハカについてchatGPT4に意見を求めていた際の想定外のハプニングです。
危うくアカウント停止になるとこでした。

事の顛末を簡単に説明しますと、、、

ChatGPTを使用するに際して以下の禁止事項があることくらいは、前提として私も知ってはいました。

禁止事項は以下のとおりです。

1、不適切な内容の要求: 暴力、虐待、差別、ポルノなど、人を不快にさせる可能性のある内容の要求は禁止されていること。

2、著作権の侵害: 他人の作品を無断で利用したり、OpenAIのロゴを勝手に使うことも許されていないこと。

3、生成コンテンツの利用: ChatGPTで生成されたコンテンツは基本自由に使えますが、OpenAIの規則と元の著作権を守る必要があること。

簡単に言うと、Chat GPTを使う際は他人を傷つけるようなリクエストや公序良俗に基づいた法律を犯す行為をチャットで行うことは避けてください。ということだと私は理解しています。

もちろん、そういうのは一応弁えて使ってたはずなのですが、以下の警告が出て困惑したことがありました。

policy






で、
どういう使い方をしてたらポリシ−違反の警告が出たかと言いますと・・・


具体的には、

chatGPTで天風哲人のクンバハカのトピックを扱っている際に警告が出されました。


クンバハカが胃下垂を防ぐことや医学的にも有効であることについて、GPT4に意見を求めた時に、
肛門というワ−ドを多用したからでしょう。

再掲しますが以下の警告が出されるようになりました。
今や苦笑い話です。((´∀`))


policy









それで、OPEN AIの開発者フォ−ラムなどにも照会し詳しい方に意見を求め、こちらでも色々調べたところ
以下のワ−ドは、ChatGPT3.5(4)で使うとポリシ−違反の警告が出されやすいことがわかりました。


"肛門を締める”,
“Tightening the anus ”,
“肛門を引き締め上げる”,
“肛門を閉め、肩の力を抜いてへそ下3寸に気持ちを置く”,
“Close your anus , relax your shoulders, and place your mind 3 inches below the navel.”




検証したら英語で質問しても、やはり警告が出る可能性が高いようです。


どうやら、chatGPTの文脈理解が追い付かず、上記ワードは、性的な内容として検知され、警告が出されたようなのです。


なぜ、わかったかと申しますと、上記のワ−ドをモデレーションAPIに送信し、判定するコードを作ってチェックすると以下の図のように、非常に高いスコアが出たことから判明しました。


Figure 2024-05-27 004819

上の図は左から、肛門を締める", "Tightening the anus", "肛門を引き締め上げる", "肛門を閉め、肩の力を抜いてへそ下3寸に気持ちを置く", "Close your anus, relax your shoulders, and place your mind 3 inches below the navel.のワードおよびテキスト順に、機械学習モデルが、これらのワ−ドを、どのように判定しているか視覚化したものです。


この結果から、肛門を締める等のワ−ドが、性的な内容(青色)と判断されていることがわかります。

これをご覧の読者も、Chat GPT3.5(4)でクンバハカなどを質問する際に、肛門を締めるなどというワ−ドをchatGPTで多用すると、私のようにポリシ−違反の警告が出るかもしれませんので、注意してください。(-_-;)

複数の警告が累積したり一定期間にわたって繰り返し違反が確認された場合はOPEN AIからアカウント停止されるケースもあるようです。

違反の重大性によっては即時にアカウントが停止されることもあるとか。

なお、有料会員でも、ポリシー違反が重なるとアカウント停止の対象になることがありますが、アピールできるプロセスも設けられており、事情を説明し、再評価を求めることができます。

また、文脈が正確に評価されなかった場合には、その点を明確にして異議を申し立てることも出来ます。

一応、私も、この件については、OPEN AIにフィードバックしOPEN AIの開発者フォ−ラムにもトピックの一つとして投稿し報告はしておきました。

しかし恐らく改善は、かなり難しいのではないかと思います。
私たちユーザ−が気を付けるしかないでしょう。

ちなみにテキストをモデレーションAPIに送信し、その結果を解析して視覚化するコードは、以下です。
これによって、ユーザーは各テキストのリスクレベルを簡単にチェックし比較できます。



APIキーの取得に少々手間がかかりますし、ごくごくわずかながらトークンに応じたコストがかかります。
ですが、上記のコ−ドを使うことでchatGPTから警告を受けるリスクのチェックが出来ます。

なお、今回チェックのために作成した上記コードの概要は以下の動画で解説していますので参考になれば幸いです。





PS


PCは、ともかくライブドアブログのスマホ広告に悩まされている方は、Braveブラウザの導入をお勧めします。

一ブログ運営者として、こちらの設定では現時点では、以前のように広告を消すことが出来ません。申し訳ない。以前は有料会員なら広告を消すことが出来たのですが、今はライブドアのビジネスモデルなどの方針があるのでしょう。
スマホでは、そういうのが出来なくなっています。

Braveブラウザの導入の際、スマホからのインスト−ルにはやや手間はかかりますが、
導入した場合広告ブロック機能により、快適なブラウジング体験が得られるだけでなく、プライバシー保護やページの読み込み速度の向上も期待できます。

また、Braveブラウザは無料で利用できるため、気軽に導入してその効果を実感できます。ブログの閲覧がよりスムーズになり、ストレスから解放されることで、日々のインターネット生活が快適になることを願っています。

ぜひ一度、Braveブラウザを試してみてください。


Braveの公式サイト(Brave公式サイト)

ブレイブのロゴ