AIの"良心"を誰が設計するか——神父、バチカン、そしてClaude憲法

AnthropicはAI「Claude」の倫理指針「憲法」改訂にバチカン関係者や元エンジニアの神父らを起用した。AIに非倫理的な指示への「良心的兵役拒否」を認めている。この理念から同社は米国防総省の軍事利用要求を拒絶して法廷闘争となり、カトリック学者の支持を得た。AIを善に導く安全設計には、技術だけでなく人文科学や宗教の知見が不可欠になっていることを示している。

参考記事〇The Priest Who Helped Write Claude's Conscience（2026年4月9日・更新2026年4月10日） https://awesomeagents.ai/news/priest-brendan-mcguire-anthropic-claude-constitution/〇Claude's new constitution（2026年1月22日） https://www.anthropic.com/news/claude-new-constitution〇Anthropic revises Claude's 'Constitution,' and hints at chatbot consciousness（2026年1月21日） https://techcrunch.com/2026/01/21/anthropic-revises-claudes-constitution-and-hints-at-chatbot-consciousness/〇ライバルがいるから、安全は進化する——OpenAI×Anthropicの「相互評価」が示したこと（2025年8月28日） https://note.com/ai_curator/n/n865ed6dd7e27

#Anthropic #Claude #Claude憲法 #AI #生成AI #バチカン #カトリック #AI倫理 #AIガバナンス #AI安全性 #ブレンダンマクガイア #良心的兵役拒否 #米国防総省 #テクノロジー #宗教 #人文科学 #哲学 #自律型兵器 #軍事利用 #法廷闘争 #アミカスブリーフ #2026年 #AI開発 #ITトレンド #人工知能