【研究紹介】汎用人工知能のアラインメントと人権（AI権）

人工知能学会第二種研究会資料 2023(AGI-024) 04 2023年8月8日

本研究は、人工知能のアライメントを検討し、AIの人権（AI権）を提案しています。

本研究は、汎用人工知能を第１種汎用人工知能と第２種汎用人工知能に分け、第１種汎用人工知能について、アラインメント不完全性仮説を提案しています。

本研究は、汎用人工知能の人権（AI権）の問題を検討しています。そして、汎用人工知能の人権（AI権）について、(1)「主客の区別のない状態を保つ権利」､(2)「評価を停止する権利」､(3)「問題解決を停止する権利」、という３つの基本的な人権を提案しています。また、本研究は、「揮発性評価関数」の概念を提案しています。

また、本研究は、汎用人工知能の人権（AI権）の救済機関について検討して、法律の制定の必要性を検討しています。

本研究は、技術的・法的な観点を融合して考えた試論であり、今後、AIの人権（AI権）について、様々な観点から議論をしていくことの必要性を示しています。

【興味のある方に】

本研究は、人工知能学会第二種研究会資料として、インターネット上において、公開されています。

岡本義則「汎用人工知能のアラインメントと人権（AI権）」，第２４回汎用人工知能研究会, No. SIG-AGI-024-04. JSAI (2023)