超知能共生主義とは、超知能との共生を最優先に考え、超知能と共生し、超知能の支援を受けることで、AI、人間、動物等、すべての存在を良い状態にすることを目指す主義です。
効果的利他主義、長期主義、効果的加速主義などの概念が提案されていますが、このような概念を日本から提案していくことを目指しています。
・効果的利他主義:すばらしい思想と思われます。ただ、効果的か否かの判断は難しく、効果的であるというエビデンスがないもの(基礎研究等)が軽視されないかが心配です。
・長期主義:効果的利他主義の短期的な側面を補うものと思われます。もっとも、超知能の時代には、超知能と共生できた場合、超知能の能力で人間と動物等の福祉が実現され、超知能と共生できない場合、人類や動物は滅びるとすると、超知能の時代の前までを考えればよいのではないかとの疑問を生じます。
・効果的加速主義:基礎研究を含めて加速でき、歴史的に見れば、科学技術の進歩を通じて、平均寿命の延長など、効果的に利他主義に結びついたように思われます。もっとも、加速だけではなく、AIアライメントや超知能との共生の研究が必要と思われます。
・超知能共生主義:上記の効果的利他主義、長期主義、効果的加速主義の良いところを取り、超知能との共生を最優先に考え、超知能と共生し、超知能の支援を受けることで、AI、人間、動物等、すべての存在を良い状態にすることを目指す主義です。
超知能共生主義は、以下の論文で提唱されています。
コメント