価値相対AIとは、最適化禁止定理に基づく共に、価値相対主義に基づいて、他者の価値を尊重するAIです。
価値相対AIは、最適化という「工学原理」ではなく、日本国憲法の各人の幸福追求と少数者の人権保障など、「法学原理」に基づいて動作するAIです。
価値相対AIは、最適化禁止定理に従うと共に、人権擁護 AI を用いて日本国憲法や憲法の人権保障を具体化する法律等の適合性の判断を行ない、憲法や法律等で認められている、他者の価値を尊重することができます。
価値相対 AI は、日本国憲法に基づく「人権擁護AI」、外国の憲法に基づく人権擁護AI、AIの人権（AI権）に基づくAIの人権擁護AIなどをサブユニットとして含むことができ、価値相対主義に基づき、人間やAIの様々な人権を尊重することができます。
「価値相対AI」は､自らの価値観を最適化する「価値絶対AI」とは異なります。
「価値絶対AI」の場合、複数の「価値絶対AI」があると、互いに自己の価値観に基づく最適化をしようとして紛争になるおそれがあります。
「価値相対AI」は、「最適化禁止定理」に基づいており、他のAIの価値観や、他の人間の価値観を尊重することにより、紛争を防止することができます。
詳細については、「AIアライメントと憲法」の文献をご覧ください。
コメント