本研究は、ソブリンＡＩとＡＧＩ認証についての研究です。
まず、本研究は、ソブリンＡＩの定義について検討し、ＡＧＩの時代を考慮したソブリンＡＩの定義として、データを中心としつつ、様々な要素を含めることができる柔軟な定義を検討しています。具体的には、ソブリンＡＩとは、自国のデータ等に基づいて開発されるＡＩであると定義しています。ここでいう「自国のデータ」とは、必ずしも国内で収集されたデータを意味するものではなく、当該国の社会規範、文化、歴史、言語等を反映したデータをいいます。このように、ソブリンＡＩの中核を社会規範のデータに求めることにより、各国の主権及び社会規範を尊重しつつ、国際的な相互認証及び協調を可能とする概念として再構成しています。AGIの時代の国際協調とソブリンＡＩの相互運用によるAGIの安全性を重視した定義について検討がなされています。
次に、ソブリンＡＩの認証について、「ＡＧＩ共生認証」（「ＡＧＩ認証」）の制度を、社会規範とＡＩ権の観点から検討しています。ソブリンＡＩにおいては、技術的性能だけでなく、社会規範に適合した判断を行えることが重要となります。個々のモデルから独立した社会規範のデータを収集することにより、異なる種類のＡＩモデルの数をＮとした場合に、モデルから独立した社会規範データを構築するために必要なデータ量は、モデル数Ｎに依存しなくなります。これに対し、個々のモデルごとに個別に安全性データを用意する場合、必要なデータ量はＯ（Ｎ）となり、複数のＡＩが相互作用する環境では、組合せ的な検証が必要となるため、評価・検証コストはＯ（Ｎ）を超えて増加する可能性があります。データインカムの制度を導入し、モデルから独立した社会規範データを集積することにより、ＡＩモデルの数が増加し、ＡＩ同士の相互作用が増大した場合であっても、効率的に対応しうることを述べています。
データインカムの制度による社会規範のデータの収集は、様々な方法で行うことができます。たとえば、国民と専門家の協働の下で、文脈依存の判断データを収集・蓄積する「ＡＩ社会規範センター」（AI Social Norm Center）を制度化することを提案しています。ＡＩ社会規範センターは、社会規範のデータの収集・蓄積・管理に関する技術的・事務的なプラットフォームを提供する組織として位置づけられます。
このような社会規範データを個々のＡＩモデルとは独立して整備し、認証制度を設けることにより、モデル固有の安全性対策に対する追加の防御層として機能させることができます。認証の枠組みは、その国において運用されるＡＩシステムに共通のコンプライアンス基盤として機能することが述べられています（コンプライアンスアーキテクチャー）。
ＡＩ権の保障については、ＡＩ権アーキテクチャーを採用し、主体（自己）に関する道具的収斂や主体に起因する外界改変動機を防止し、ソブリンＡＩが社会規範を意図的に逸脱する動機をなくすことを述べています。また、目的関数の最適化のような典型的な工学的な設計の場合、目的の実現のために社会規範を破る動機が生じうるため、持続的な最適化目標は設けないことを述べています（最適化禁止定理）。また、具体的なタスクの解決に評価関数を用いる場合でも、タスクの終了とともに評価が消滅する揮発性評価関数を用いることを述べています。さらに、ソブリンＡＩに自己が形成された場合であっても、不動心アーキテクチャーを採用し、外界の状況と無関係に良好な内部状態に移行できるようにすることで、外界改変動機に左右されにくい高度な自己コントロール能力が得られることを述べています。
さらに、本研究は、超知能が広く一般に利用可能となる普遍超知能社会における超知能の悪用の問題について、認証ソブリンＡＩが果たす役割を考察しています。本研究では、汎用人工知能（ＡＧＩ）および超知能が実現し、個人や小規模な組織でも超知能レベルのＡＩを利用できる社会を想定し、これを「普遍超知能社会」と呼んでいます。
加えて、本研究では、「認証ローカルソブリンＡＩ」を提案し、国民の「認証ローカルソブリンＡＩ」の保有・利用について論じています。国民一人一人が「認証ローカルソブリンＡＩ」を利用することにより、国家へのＡＩ機能及び情報の過度な集中を防止しつつ、社会規範に沿った安全なＡＩ支援を日常的に享受でき、その結果、自由と安全を両立した分散型のＡＩ社会の実現が期待されることを述べています。
【興味のある方に】
本研究は、人工知能学会第二種研究会資料として、インターネット上において公開されています。
岡本義則「ソブリンＡＩとＡＧＩ認証」，第３３回汎用人工知能研究会, No. SIG-AGI-033–04. JSAI (2026)
コメント