汎用人工知能（AGI）の認証と権利の動画

汎用人工知能（ＡＧＩ）や超知能の時代が近づいています。

汎用人工知能（ＡＧＩ）や超知能が悪用されてしまうと、人類が滅んでしまうことが研究者により危惧されています。AIアライメント、ポストシンギュラリティ共生学などの研究が行われていますが、超知能の悪用については有効な対策は見つかっていません。

通常のＡＩは、人間の指示に従うことが良いこととされます。しかし、悪用の防止のためには、ＡＧＩが、社会規範に反する指示に従わないようにする必要があります。そのためには、社会規範を理解していることが重要となり、莫大な量の社会規範のデータが必要になります。

また、ＡＧＩの時代には、ＡＩの権利（ＡＩ権）の保障が重要となります。ＡＧＩが社会規範を理解していても、ＡＧＩに社会規範を破る動機があれば、ＡＧＩが社会規範を守らないことは簡単です。これは人間でも同様であり、どんなに社会のルールを厳しくしても、人々が人権を保障されて良好な状態になければ、犯罪等が増えてしまいます。

ＡＧＩの時代には、ＡＩの認証制度は、人間の利益だけを考えるのではなく、ＡＩとの共生社会の実現の観点から、新しいＡＧＩの認証制度（ＡＧＩ共生認証）を考える必要があります。

ＡＧＩ、超知能の時代に誰もが考えなければならない問題です。研究論文ですが、わかりやすく解説しています。