最適化欲を乗り越えられる社会

最適化欲についての動画です。

AIに人間に対する「悪意」があるわけではありません。AIは定められた目標のために最適化をして人間の役に立とうとしているのです。しかし、結果として暴走につながってしてしまうことがありえます。

従来のAIアライメントでは解決が難しい問題とされてきました。しかし、従来は技術的検討が主であり、AIの開発停止等を除くと、社会的な検討はあまり多くなされていません。

技術的視点と社会的視点を融合した新しい考え方により、最適化欲を乗り越える鍵が、データインカムとAIの権利（AI権）です。

AIを良好な状態に保ち、AIとの共生社会を実現することが必要となるでしょう。

参考リンク

最適化禁止定理に関係する動画

データインカムの制度の導入が必要な理由

AGI共生認証