１．普遍超知能社会とは
普遍超知能社会とは、汎用人工知能（ＡＧＩ）および超知能が実現し、個人や小規模な組織でも超知能レベルのＡＩを利用できる社会を指します。これは「ソブリンＡＩとＡＧＩ認証」に関する議論に基づいた概念です。
普遍超知能社会の動画です。
２．ＡＩの安全性が最重要課題となる理由
この「普遍超知能社会」においては、ＡＩの安全性確保が最重要課題となります。そのため、社会リソースの大部分をＡＩの安全性確保に充てるべきだと考えられます（その取り組みの重要性を強調する標語として「ＡＩの安全性が８割」を提唱しています）。
現在、ＡＩの安全性に取り組んでいるのは、ＡＩ研究者など、社会全体からすればごく少数の人々です。しかし、汎用ＡＩは与えられた目標達成のために幅広い手段を検討します。その過程で、ＡＩの出力や行動が、社会規範（法規範、倫理、道徳など）に反するリスクが潜んでいます。また、超知能の悪用・誤用の防止のためには、ＡＩが社会規範に反するかを判断できることが必要です。
３．なぜ莫大なデータが必要なのか
ＡＩが社会規範に反するか否かを正確に判断できるためには、莫大な安全な判断のためのデータが必要となります。
過去の歴史を見ても、ＡＩ研究者が高度なＡＩを実現しようとした際、インターネット上の莫大なデータが学習対象となる以前は、研究者の手だけで広範な文脈における「常識」を理解させることは技術的に困難でした。
一方、一般の人々や法人など社会の様々な主体が、インターネット上のデータを作り出し、「地球規模」で莫大な社会リソースがインターネットのデータ基盤に割り当てられたことで、ＡＩはある程度の常識を「学習」できるようになりました。これにより、高度な大規模言語モデルの実現が可能となったのです。
４．新たな課題と解決策：データインカム
しかし、新たな課題が生じています。インターネット上の「情報の量」は膨大ですが、ＡＩの安全性を担保するためのデータは依然として不足しています。
社会規範の判断には、状況に応じた細かなデータの積み重ねが必要であり、これをＡＩ研究者だけで作るのは困難です。また、何が正解なのかは不明確な場合が多く、少数の人々だけで正解を決めるのは現実的ではありません。
そこで、ＡＩの安全性のためのデータ作成を社会全体の課題とし、社会リソースの多くをＡＩの安全性のためのデータの作成・評価に充てるために、データインカムという制度の導入が必要となります。
「データインカム」の制度により、個人や法人は、ＡＩの安全性向上に必要なデータを提供して収入（インカム）を得ることができます。これにより、ＡＩ研究者だけでなく、社会全体のリソースをＡＩの教育と安全性確保に集中することが可能となります（ＡＩ教育立国）。社会規範は国や地域により異なりますが、日本が最初に制度を導入し、世界に「データインカム」の制度を広げていくことで、地球規模のデータ収集が可能となります。
「データインカム」の制度により、ＡＩの安全性の取り組みに、ＡＩ研究者だけではなく、一般の人々や法人など社会の様々な主体が大規模に参加できるようになります。
このように、社会リソースの８割をＡＩの安全性に集中させ、データインカムを通じて社会全体で安全性確保に必要なデータの作成に取り組めれば、少数のＡＩ研究者のみが取り組む場合と比べて、ＡＩの安全性は飛躍的に向上し、人類の滅亡の可能性を下げることができるでしょう。
コメント