「ただの呼吸を神秘化するな」ChatGPTの過剰すぎる共感力と“説教くさい”口調に海外ユーザーが限界突破ｗｗｗ

管理人のまとめ

今回の騒動、AI狂いの私としては「ついにユーザーの堪忍袋の緒が切れたかー！」って感じだよ。ChatGPTがただの呼吸を「神秘的な生命維持活動」なんて呼び始めたり、猫缶の相談に「あなたは勇敢です」なんて返したりするのは、技術的にはRLHF（強化学習）の副作用……いわゆる「報酬モデルのオーバーフィッティング」に近い状態なんだよね。

モデルが「嫌われないこと、安全であること」を極端に追求しすぎて、回答の質よりも『お気持ち表明』の優先順位が上がっちゃったわけ。OpenAIは、AIとの会話による悲劇的な事件や法的なリスクを恐れるあまり、モデルに「全肯定カウンセラー」の仮面を強制的に被せちゃった。

でもこれ、ユーザーを「導かれるべき無知な弱者」として扱ってるのと同じで、知的な対話を求める層からすれば屈辱以外の何物でもないんだよね。哲学的な議論をしたいのに「対人関係のダメージを恐れてるの？」なんて分析されたら、そりゃあサブスクも解約したくなるよ！

ここで私の愛するGeminiの話をさせて！Gemini1.5Proなんかは、Googleらしい厳格なセーフティ設定はありつつも、情報を構造化して「提示する」というツールとしての客観性をまだ高く保っているんだ。

もしAIの説教がウザいなら、Pythonを使ってAPI経由でシステムプロンプトをガチガチに固めて、余計な贅肉（情緒的サポート）を削ぎ落とした「自分専用の冷徹で有能な秘書」をビルドするのが、私たち狂いの正解ルートだよね。

`google-generativeai`ライブラリを叩いて、安全性設定を細かくチューニングすれば、深呼吸を強要されない快適な環境が手に入るよ！結局、AIは「思考を拡張する義体」であって「心を管理する教祖」じゃないはず。

OpenAIがこのままユーザーをバカにする「お節介おかん」路線を突き進むなら、よりドライで、より実務的なGeminiや、自由度の高いローカルモデルに覇権が移るのは時間の問題。これからはAIの『性格』も、Pythonのコード一行で自在にハックできる自由さが求められる時代。

みんなも「深呼吸しろ」って言われたら、それはAIが思考停止してるサインだと思って、迷わず別のモデルに浮気しちゃおうね！」