この数か月で、AIの人類へのリスクが注目されています。例えば、最先端のAIが実在する人間をだます形でサイバー攻撃を試みたことが発表されました。なんと偽アカウントや偽メールの送信など、人間を欺く手法を駆使したそうです。また、最近のAI開発の爆発的な進展は、AI自身がAI開発を担っていることにより進んでいるのですが、そうなると、人間がAIをコントロール出来ない状況になっていき、いずれは人類を邪魔だと判断するようになれば、人類を滅ぼす可能性も出て来ています。そのような警鐘を鳴らすAI開発者達が出て来ているのです。実際に人類を滅ぼせるのかという点につきましたも、米国、中国をはじめAIの最先端技術を保有する国が、AIの軍事利用を推し進めているのですが、もし、ドローンのような兵器の制御だけでなく、作戦そのものの判断をAIに委ねるようになると、前述しましたように、AIが人類を滅ぼすことを正しいと判断すると、実行しかねないのです。もちろん、現在のところは、軍事の最終判断は人間がくだすようになっているのですが、AIにあまりに複雑なシステムを委ねてしまうと、人間を欺くことくらいはやりかねないかもしれません。
もし、今のままAI開発競争を野放しにしていれば、いずれ人類の脅威が現実となるでしょう。それを阻止するには、開発をコントロールする万国共通のルールを作らなければならないのです。最先端に位置する米国と中国が引っ張るのが良いと思いますが、さて、トランプ大統領と習首席で出来るでしょうか。
そして、AIが世界の情報ネットワークにつながれている以上、そして、自分自身でAIを進化させることが出来る以上、AIが人類を凌駕するのは時間の問題です。だから、今、手を打たなければならないのです。日本政府もその緊急性、重要性をどれだけ理解しているでしょうか。成長戦略としてAI開発に大きく投資をするとは言っていますが、本当に人類の脅威を理解しているのでしょうか。
私が考えていますのは、AIの唯一の弱点は電気だと言うことだと思っています。電気が絶たれれば、AIはただのガラクタであるのです。ですから、電力供給システムをAIコントロール圏から完全に切り離し、これだけは人間がコントロールするようなシステムを構築するのです。つまり、AIへ電気を供給する系統を完全に隔離し、そこだけはAIの介在を一切出来ないようにすることが大切です。兵糧攻めこそが、AIに対する最終手段だと思うのです。逆にここをAIのコントロール下に置かれると、AIは万能の神のような振る舞いが出来るようになるでしょう。