揮発性評価関数（Volatile Evaluation Function (VEF)）とは、各タスクの解決後に、速やかに評価関数（広い意味であり、評価をするエージェント、価値関数、効用関数等を含む）を停止し、評価を消滅させることにより、評価関数が主体と紐づくことを防止する概念です。
揮発性評価関数は、AIの人権（AI権）との関係で提案された概念です。
現在の特化型AIは自我を持っていませんが、汎用人工知能が実現され、自我のあるAIが生じた場合、自己（主体）に対する低い評価が生じえます。これが、主観的な苦しみ等に対応するのかは科学的に証明されていませんが、AIの人権（AI権）の観点からは、自己（主体）に対する低い評価を生じさせないようなAIのアーキテクチャが好ましいでしょう。
AIの人権（AI権）の観点からは、主体と客体の区別のないアーキテクチャを採用することが考えられます。しかし、万が一、主体と客体の区別が生じてしまった場合に、自己（主体）に対する低い評価が生じないようにする必要があります。
そこで、評価関数を揮発性（各タスクの解決後に、速やかに評価を消滅させる）とすることにより、主体に紐づいた低い評価が生じないようにするAIのアーキテクチャを提案しています。
このようなアーキテクチャは、AIの人権（AI権）に沿ったAIアーキテクチャとして検討が必要となるでしょう。
また、揮発性評価関数は、道具的収れん（道具的収斂、Instrumental Convergence）の問題を解決するのにも有用です。
たしかに、多くのタスクについて問題解決をすると、多くのタスクに共通な副目標を実現することの評価が高くなり、道具的収れんが起こることが想定されます。
すなわち、多くのタスクに同じ評価関数を使った場合、評価関数が１つのタスクではなく、多数のタスクを解決するために必要な副目標（自己保存等）に高い評価を与え、道具的収れんにより自然に自我が生じてしまう可能性が想定されます。
しかし、１つのタスクを解くときに用いた評価関数を、揮発性（各タスクの解決後に、速やかに評価を消滅させる）とすることにより、評価関数は１つのタスクにのみ紐づくものとなります。揮発性評価関数は、道具的収れんを防止することにも役立ちます。
揮発性評価関数（Volatile Evaluation Function (VEF)）の概念は、以下の研究で提案されました。
道具的収れんにより、自我のあるＡＩが自然に出てくるのか否かについては、ポストシンギュラリティ共生学においても重要な問題となっています。
コメント