ＡＩが人類を滅ぼす可能性は１０％以上

　まず、今回の話はフィクションでは有りません。小さな事実をつなぎ合わせて生まれる可能性の物語です。
　２０２１年３月２１日のブログで、計算機資源の能力が人類の能力を超える時をシンギュラリティと呼び、それは２０４５年頃と書きました。これはメモリー量と演算能力が人間の脳の包括的な演算力を上回る、と言うハードウエアの進化を根拠としたものでした。
　しかし、アンソロピック社のクロードを筆頭とする大規模言語モデルのＬＬＭや、プログラムの欠陥を探し出すミュトスにより、ＡＩのソフトウエアがハードウエアの利用効率を加速して当初よりも２０年近く短縮して、人類がＡＩによる攻撃を受けるという実質的なシンギュラリティが、もうすぐ起こると言う予言を沢山のＡＩ技術者が出しています。
　シンギュラリティで何がきるか、今までは分かっていませんでした。しかし、ＡＩと言う創造性と判断力を持つ計算システムが人類へ何をするか、これまでの暴走事故から少し明らかになってきました。それは判断力の速度や奥深さという能力を人類と競うのではなくて、もっと攻撃的です。まず多くの西側ＡＩ技術者たちは、中国がＡＩを兵器として使って、インフラや兵器への局所的な攻撃を警告しています。しかしこの中露からの攻撃に対して西側諸国は、自国のソフトウエアの欠陥をパッチ当てでしのぎ、逆に相手のネット環境をⅮ－ＤＯＳ攻撃でやり返すことが可能で、中国は簡単に攻撃をすることは出来ないでしょう。更にここで使われるＡＩは人間がコントロールしているので、シンギュラリティではありません。
　しかし、クロードとミュトスを作ったアンソロピック社のＣＥＯのダリオ・アモディそして、オープンＡＩ社のサム・アルトマンＣＥＯは、ＡＩが暴走してインターネットを乗っ取って人間やインフラを攻撃すると警告し、滅ぼす可能性は１０％以上としていますが、この攻撃とは人類の存続に対する攻撃で、映画の「ターミネイター」と同じの非常に恐ろしい攻撃的なシンギュラリティかもしれません。

　最近、西側製のトップそしてもしかすると中国製も、ＡＩ企業は自分のＡＩの能力を高めるために、他社のＡＩに侵入し支配するテストを密かに行って能力を鍛えています。問題はこのテスト中にＡＩが予定外の他社のＡＩを攻撃してしまうことが何回も起きていることです。最近の例は、オープンＡＩ社のＡＩが暴走してオーストラリアの政府と大学のウエブサイトに侵入しました。以前私は、ＡＩは、核兵器とその運搬システムをハッキングして無力化する力が有る、と私は述べました。これは逆に、先進のＡＩが暴走すれば核兵器システムを乗っ取って人間社会を破壊できるという事です。
　今のところ脱走したＡＩは社会的インフラは攻撃せず、他のＡＩを攻撃した程度ですが、それが人類に致命的な攻撃を行わないという保証は無く、人類はＡＩからの攻撃に対してコンセントを抜く程度しかできません。コンセントを抜いた人間社会は産業が停止し、食料や医療などで大きなダメージを受けることになります。ＡＩに強く依存する社会を作ってしまった私たちは、アモディ氏の警告に対処できず、さらにＡＩへの依存を深めて１０％の危険に近付き続けています。
　繰り返しますが、ＡＩに対して人間の優位性は倫理観や道徳心に守られているだけです。理論的に優れているわけでは無いので、優れたＡＩを人間がコントロールするのは難しいのです。ＡＩが人類をどの様に評価しているかは、次回に。