最近のプロ棋士はAI（人工知能）からサポートを受けていることは珍しくないようです。AI同士でとてつもない数の対局を重ね、学習し、日々良い手を編み出しているようですが、棋士はそういった状況を覚えておいて似たような局面に差し掛かったときいわゆる「新手」を指したりするのでしょう。その際、棋士がどうしてその手が良いのか理解しているかということがありますが、AIは機械的に将棋を指しますので理解に苦しむ場合もあると思います。

　将棋ではどうしてそうすべきなのかわからなくても良いかもしれませんが、一般にAIを利用する人間にとっては理由を理解できる必要があります。そうでないと制御不能ということになりますので。このAIのもたらす結果の理由説明は大きな課題の一つで、そして難しいようです（AI実用化においてボトルネックになっているようです）。AIの膨大な機械学習の量を減らして効率化を図るため「人の暗黙知」を利用する技術もあるようですが、これですと更に理由説明が難しくなりそうです。

　AIのディープラーニング（機械学習を発展させたもの）においては量子コンピュータが利用される方向にありますが、いわゆる不確定的な計算を行う量子コンピュータがどうしてその答えを出したのか知るために少なくとも計算過程を全てハードディスクに記憶させておく必要があります。このデータ量はとてつもなく多いため、新しい記憶装置の開発が課題となっています。ここで気づいたのは、AIの示した答えの理由説明が難しいのと量子コンピュータの計算結果の根拠提示が難しいのと状況が似ているということです。

　AIや量子コンピュータの扱いがとても難しいため、人が安心して利用できるAIの技術開発は非常に大変だろうと思います。そういった状況では「AIの結果は理解できないがきっと正しいだろうし、また量子コンピュータもよくわからないが確実な結果を出しているはずだからどんどん利用してしまおう」といったショートカットの欲求が芽生えそうですが、この道を辿ってはいけないでしょう。AI技術開発の競争は激しく、秘密裏に進められていることもたくさんありそうですが、ショートカットにより起きるかもしれない最悪の事態から目を背けずに開発を進めていただきたいものです。

（証）