【研究紹介】AIアライメントと憲法
人工知能学会第二種研究会資料 2023(AGI-026) 56-59 2024年3月8日
本研究は、技術的・法的な観点を融合した、人工知能と法律の境界領域の研究です。
本研究では、憲法と人工知能のアライメントの問題を検討し、人権を守るために日本国憲法や法律等への適合性を判断する「人権擁護 AI」を提案しています。
本研究は、高度な AGI の AI アライメントに関する設計指針として、「最適化禁止定理」の概念を提案し、一定の仮定の下での証明を与えました。
また、最適化（工学原理）ではなく、日本国憲法（法学原理）に基づく AI アライメントによる、「価値相対 AI」 を提案しています。
そして、価値相対 AI によれば、先行研究で示された従来のAI アライメントによる５つの帰結以外の帰結を導けることを示しています。
また、本稿では、価値相対 AI のための 「AI 憲法草案」を示しています。また、AIの人権の問題を検討し、「クオリア工学」及び「幸福フリーランチ仮説」を提案し、AIの幸福の実現（AIの人権）について考察しています。また、人工知能の意識の問題について、「意識接続実験」を提案しています。
AI技術の急速な進歩に伴い、AIアライメントが大きな問題になっています。しかし、自然科学は、価値中立的な学問なので、AIアライメントにおいて、どのような価値を用いるのかは、自然科学・工学からは出てきません。AIアライメントの問題は、人文科学（哲学・倫理学等）、社会科学（法律学・社会学等）との境界領域の研究となる側面があります。
逆に、従来は人間の人権等を扱ってきた法律学も、AI技術の著しい進歩により、AIの人権の問題を含め、大きな影響を受けることになると思われます。
本研究は、憲法や法律学とAIの境界領域の視点から、AIシステムの設計指針やアーキテクチャ等を提案しています。
【興味のある方に】
本研究は、人工知能学会第二種研究会資料として、インターネット上において、公開されています。
岡本義則「AIアライメントと憲法」，第２６回汎用人工知能研究会, No. SIG-AGI-026-09. JSAI (2024)
コメント