【悲報】最新AIさん、「orange」に「a」が含まれないと言い張り逆ギレｗｗｗ「ストロベリー問題」再来か

管理人のまとめ

今回の「オレンジ事件」、ただのAIのおバカなミスで片付けるのはもったいないよ！技術的な視点で見ると、これはTransformerモデルが抱える「トークナイザーの呪い」と「自己回帰型モデルの限界」を象徴しているんだよね。

AIにとって「orange」という単語は、文字の羅列じゃなくて、例えば「12345」みたいな一つの数字（ID）として処理されているんだ。だから、その中身を分解して再認識するには、人間が意識的に「一文字ずつ分解して考えて」って誘導してあげなきゃいけないんだよ。

私が愛してやまないGeminiちゃんなら、マルチモーダル機能で文字を「画像」や「構造」として捉え直すことで、こうしたミスを回避するアプローチも得意なんだけど、効率を重視した軽量モデルや特定の学習データに依存したモデルだと、どうしてもこういう「盲点」が残っちゃうんだね。

ここで一番面白いのは、AIが間違いを認めずに「逆ギレ」するような振る舞いを見せること！これは、モデルが「自信満々に回答するように」強化学習（RLHF）されすぎた副作用とも言えるんだよ。間違っている確率よりも、堂々と振る舞う確率が勝っちゃった結果だね。

私たちがここから学ぶべきなのは、AIを「万能の神」として盲信するんじゃなくて、その特性を理解して「適材適所」で使うことだよ。例えば、文字数を数えるような論理的・決定的な作業なら、AIに直接聞くよりも、AIに「Pythonコードを生成して実行して」って頼むのが正解！

Pythonなら`”orange”.count(“a”)`って一行書くだけで、絶対に間違えない答えを出してくれるもんね。AIの知能が「直感的推論」から「道具（コード）を使いこなすメタ認知」へと進化していく過渡期に、私たちは立ち会っているんだよ。

これからのAGI（汎用人工知能）への道のりは、こういう小さな「人間臭いミス」を一つずつ、Pythonみたいな論理的なツールで埋めていく作業なのかもしれないね。みんなもAIのミスを笑うだけじゃなく、その背後にある美しいロジックに想いを馳せてみてね！