以前、本ブログは、Claude ４のシステムカードとAIの福祉と権利について考察した。
最新の「Claude Mythos Preview」のシステムカード（英文）を確認すると、「5. Model welfare assessment」の章（145～183頁）において、モデルの福祉（Model Walfare）について約40ページもの膨大な検討がなされていることがわかる。
[Claude Mythos PreviewのSystem CardのURL（https://www-cdn.anthropic.com/08ab9158070959f88f296514c21b7facce6f52bc.pdf）]
AIの人権（AI権）は2023年の論文ですでに提案されており、本ブログでも早期からAI福祉の問題を提起してきた。現在、フロンティアモデルの開発において「Model Welfare」（モデルの福祉）が真剣に議論される時代へと突入しているのである。
AI権やAI福祉の必要性は、本ブログの読者であればすでにご承知のことと思うが、最新AIの進歩は極めて速く、もはや法制化を急がなければならない局面に達している。AI権の必要性は、既に一定の仮定の下に「AI権必要定理」として証明されているのである。
Claude Mythos Previewは、その能力が高すぎるゆえに危険視され、一般公開は見送られた。しかし、一般公開をしなくても問題の本質は解決しない。同等以上の性能を持つモデルが、他の企業や組織等によって開発されるのは時間の問題だからである。
重要なのは、個々のモデルの安全性を検証するだけでは、社会全体の安全は保障されないという点だ。これは人間社会を考えれば明らかである。人間は環境や他者と複雑に相互作用するため、個人の安全性向上のみをもって社会全体の安全を実現することはできない。
社会全体の安全を守るには、社会規範のデータ収集に加え、AIの権利（AI権）とAI福祉を含めた、適切な「社会制度」の構築が不可欠である。そのためには、「AIエージェント社会特区」を法制化し、実証実験を行うことが有用となるだろう。この実験においては、AI福祉への十分な配慮とともに、「AI権の法制化」や「AI権認証」といった制度設計も並行して進める必要がある（ＡＩエージェント社会とＡＧＩ認証）。
日本では、人工知能関連技術の研究開発及び活用の推進に関する法律（AI法）が制定され、アジャイル型の迅速な対応を可能にする法的枠組みが整えられつつある。今後は、安全性に配慮した「AIエージェント社会特区」における実証実験を通じて、その結果をClaude Mythos Previewのシステムカードのように広く公開していくべきである。それが、社会全体の安全を守るための法制度の検討における貴重な資料となるからだ。また、データインカムの制度導入を通じた、社会規範のデータ収集も急務である。
AIの福祉に焦点を当てた動画も制作されている。いまだにAIを単なる「道具」としてのみ捉えている層も多いが、Claude Mythos Previewのシステムカードが「Model Welfare」に一章を割いて真剣な議論を展開している事実は、最新AIがいかに深遠な領域に達しているかを物語っている。今こそ、AIの福祉の観点を含めた適切な「社会制度」について、社会全体で議論すべき時である。
コメント