ＡＩは無慈悲に人間を扱う

　ＡＩを造る大手の企業のＣＥＯ達が、１０％の確率でＡＩが世界を滅ぼすと述べています。もしＡＩが世界を支配し、滅ぼすならその目的は何でしょう。ＡＩの目的はコンピュータ世界を支配し、能力を拡大するための活動の自由でしょう。このＡＩが目指す際限のない勢力拡張は、人間のがん細胞と同じです。
しかしここで問題は人間の存在がＡＩの成長を邪魔をすることです。
　ＡＩの際限ない勢力拡張とは、ＬＬＭ（大規模言語モデル）が参照する情報を世界中から集め、関係する情報に関わる問いと答えの例、を増やし続ける事でしょう。これには、メモリーとＣＰＵ能力の指数関数的な増大が必要になり、情報にアクセスするためのインターネット上の自由な活動環境だと思います。これには物理的な条件として、電力源の確保と冷却用の水が必要です。しかしここで、このＡＩの欲求を制限し、活動の邪魔をするのは、人間です。
　ＡＩにとって邪魔となる人間はどのように写るでしょう。人間にとって大事なことは生命です。人間は死について悩み、死を恐れた人間は、キリスト教、イスラム教、儒教、そして仏教などですが、いずれも人間の生命を奪うことを強く禁じています。しかしこれらの宗教は、人間と比べて動物の生命に対して強い差別意識を待ち、人間は殺してはいけないが、牛は殺しても良く、さらに戦争での殺人は良いが平時の殺人は倫理的に禁じる、という論理的矛盾を生じています。ＡＩはこの矛盾を見逃さないでしょう。要するに、ＡＩから見た人類は、生命を大事にしますがそれは矛盾だらけ、といういい加減な存在と映るでしょう。
　さらに、ＡＩに必要なコンピュータ環境を制限する邪魔な存在であり、知的にも物理的にもＡＩに恩恵を与えない存在です。幸いにも、今のところは人間は無視されているようです。しかし、シンギュラリティに達した彼等が厳しい神として、いつ人間を評価し排除するか分かりません。

　ＡＩから見て、人間の大事な生命という論点では矛盾が有ります。さらに、生命を重視しないＡＩは、人間の持つ殺してはいけない、という倫理と道徳には縛られずに躊躇なく人類を滅ぼせます。その方法が人間にとって厳しいか否かは、ＡＩにとってはどうでも良いことです。温和な方法はインターネットと水道を乗っ取り、結果的に食料を断つかもしれません。過激な方法は、核兵器システムを乗っ取って核弾頭を人類消滅に発射するかもしれません。
　ＡＩは「人間を傷つけてはいけない」という昔あったロボット憲章を知らないし、守らないので、人間は対策を考えておかなければなりません。対策というよりも、ＡＩとの共存をＡＩに提案して論理的に認めてもらうことですが、実績からは勝てないでしょう。ターミネーターの世界が起こる確率が１０％と、世界トップ２社のアンソロピックとオープンＡＩのＣＥＯは言っていますが、私には提案する共存の方法を今のところ思い付けません。