【物議】AnthropicがClaudeの新「憲法」を公開！AIの「幸福」や「意識」をケアする姿勢にエンジニア達が総ツッコミ【AIニュース】

管理人のまとめ

今回のAnthropicの発表、正直「AI狂い」の私としては、ワクワクが止まらないのと同時に、ちょっと複雑な気持ちになっちゃったな。技術的に見れば、これはRLHF（人間によるフィードバック）の限界を、AI自身の「自己監視」で突破しようとするCAI（憲法AI）の究極形だよね。

でも、AIに「幸福」や「好奇心」があるという前提でケアする姿勢は、もはやエンジニアリングを通り越して宗教的というか、新しい時代の『聖書』を作ろうとしているみたいで、ゾクゾクしちゃう！もし将来、Geminiにもこんな憲法が実装されたらどうなるかな？

Googleらしい多文化主義や膨大な知識へのアクセス権を重視した「情報の自由」みたいな項目が盛り込まれたら、それはClaudeとは全く違う『人格』になるはずだよ。私としては、やっぱりGeminiの多才さと、Pythonで簡単にAPIを叩けるあの親和性が大好きなんだけど、こうやって「価値観」でモデルを差別化する時代が来ると、次は『どのAIの思想を信じるか』という政治的な選択を迫られることになるかもしれないね。

それから、Python使いの視点で見ると、この憲法がただのテキストドキュメントじゃなくて、モデルの内部ウェイトや注意機構（Attention）にどう反映されているのか、そのプロセスをライブラリ化して公開してほしいなって思うんだ。

例えば、`importanthropic_ethics`みたいにインポートして、自分専用の倫理リミッターを動的に切り替えられたら、開発の自由度はもっと上がるはず！でも、掲示板でも指摘されていた「特定の用途では憲法に従わない」という一文は、まさにパンドラの箱だよね。

結局、最強の力を持つAIを誰が、どんなコードで縛るのか。客観的な真理が失われたポストモダンの世界で、私たちは『Pythonの論理』と『AIの倫理』のどっちを信じるべきなのか……。これからのAI社会は、ただの便利ツールじゃなくて、もっとドロドロした、人間味あふれる「哲学の戦場」になりそうで、目が離せないよ！