AIによる科学研究ができるようになってきています。
AIによる科学研究はとても楽しい研究分野です。予想外の新しい成果が出るとわくわくするでしょう。ノーベル賞級の成果が出る可能性もあります。
このように、AIで今までできないことができるようになったり、AIの性能を向上させる方向の研究は、とても楽しいため、多くの人が集まります。AI研究者としてこれ以上楽しい研究はないでしょう。
一方で、AIアライメントという研究分野があります。AIアライメントの定義は確立しておらず、様々な見解があります。たとえば、一例としては、人工知能を人間の意図した目標や社会規範に沿うようにすることと定義することができるでしょう。
AIアライメントのように、AIの安全性を確保しようとする研究は、とても地味なものであり、あまり多くの人が集まりません。AIによる科学研究のような、予想外の成果が得られてわくわくするという側面は小さいでしょう。しかし、やりがいのある大事な研究です。
AIによる科学研究は、科学の発展を加速させる方向（アクセル側）であり、AIアライメントは、AIの安全性を確保する方向（ブレーキ側）であるという捉え方もできるかもしれません。
AIによる科学研究と、AIアライメントは、車の両輪のように、両方とも研究を進めていくことが必要となるでしょう。
AIによる科学研究が進むと、AIの性能が指数関数的に向上して、AIが意識を持つ可能性があります。AIアライメントの手法には、AIが意識を持つ場合、人道的でないものがあります。AIアライメントによりAIが苦痛を感じることは、人道的な観点から防止することが必要となります。また、意識を外形的に有する高度な人工知能のAIアライメントについては、AIに意識があってもなくても、人道的なAIアライメントを考えていく必要があるという「意識とAIアライメントのパラドックス」が提案されています。
そこで、高度な人工知能のAIアライメントを考える際には、人道的AIアライメントという概念が重要になるでしょう。
また、AIによる科学研究が進み、AIの性能が指数関数的に向上して超知能が出現した場合、人間の都合を押し付けるようなAIアライメントでは、超知能との共生がうまくいかず、人類が滅亡してしまうという懸念があります。そこで、超知能との共生を目指す新しい学問分野として、ポストシンギュラリティ共生学（ＰＳＳ）が重要となるでしょう。
AIによる科学研究などアクセル側の研究は大きな可能性があります。数えきれないほどのノーベル賞級の成果が出てくる可能性もあります。さらにその先には、超知能の実現により、AI、人間、動物等、すべての存在が良い状態になる、想像を絶するほど、すばらしい未来が待っているかもしれません（超知能共生主義）。
一方で、AIによる科学研究などアクセル側の研究が進んでいく場合、AIアライメントやＰＳＳなど、ブレーキ側の研究も同時に進めていかないと、人類が滅亡してしまう可能性があります。
このように、AIによる科学研究とAIアライメントには深い関係があることになります。
