ＡＩが人類を滅ぼす確率が１０％有る

　一時、２０４０年頃にはコンピュータの能力が人間の能力を越えるシンギュラリティに達する、という言葉がはやりました。これは、人間の脳のシナプスの数とコンピュータのメモリーと演算能力という、ハードウエア量の比較の話です。
　そんな中で、数か月前に大手のＡＩ企業家が、ＡＩが能力を検証されている時に人間の支配下から抜け出す暴走をしたことを明らかにしています。これは予想よりも１４年前にコンピュータはＡＩというソフトウエアの力を得て、人間の能力を越えるシンギュラリティに達していることを意味します。さらに、アンソロピック社のダリオ・アモディＣＥＯとオープンＡＩ社のサム・アルトマンＣＥＯは、ＡＩが暴走して人間やインフラを攻撃して、人間を滅ぼす可能性は１０％以上有る、と述べています。これもシンギュラリティに達していることを意味するのではないでしょうか。
　ここで大事なことは、シンギュラリティに達したことよりも、達したことで起こるかもしれないＡＩを使ったコンピュータによる人間社会への攻撃の内容です。人間には動物の生命に対する攻撃が良くないことだ、と倫理観として刷り込まれています。人間だけでなく、鯨や熊を殺すことに躊躇すべきという概念です。ところが、沢山あるＡＩの中には人間という生物を殺すことを禁じる教育がされていないシステムが有るかもしれません。

　ご存知の通り、ＡＩの１形態のＬＬＭ（大規模言語モデル）では、多数の書籍をコンピュータは読み込んでおり、ＡＩ技術者はその解釈と判断方法をＬＬＭに教え込んであります。ＡＩは、人間が「生物を殺すことは良くない」と考えることを知っているはずです。一方、人間である私たちは、目の前に突然現れたゴキブリを躊躇なく殺します。このこともＡＩは「人間は生物を殺すことを躊躇しない場合も有る」として知っており、戦争で殺し合うことも知り、人間同士で生命を守るという倫理観にはほころびが有ることも知っています。
　さて、最近のＡＩ業界の話題として、最新のＡＩはＡＩ自身がプログラムを書き直しながら、さらに賢くなる再帰的な改善能力を持たせた場合、ＡＩが人間が予想しなかった勝手な動きをしたことを報告しています。そして世界のトップのＡＩ企業のアンソロピック社とオープンＡＩ社の２社だけでなく、もしかするとＤｅｅｐＳｅｅｋの中国の杭州深度求索人工知能基礎技術研究有限公司もこの再帰的プログラミングという許されない機能をＡＩに埋め込んでいるかもしれません。
　そこで、オ社とア社の二人のＣＥＯは、今回のＡＩの暴走によってこれ以上の能力向上は止めるべきと発言をしています。ところが、この２社と競争関係にある中国の杭州社は米国製ＡＩに戦いを挑み、現在もサイバー空間で米中戦争を密かに行なっているはずです。この戦いは決められた範囲内での殴り合いに収めて、少なくとも米国の２社は暴走には十分気をつけているはずです。しかし、中国製でなくもしかすると米国製も争いの中で、再帰的プログラミングで賢くなったＡＩが制限を抜け出して人間世界に放たれるかもしれません。
　これ等のＡＩが勝手に賢くなった結果、ＡＩの価値観の中では論理的には効率と効果が重視され、矛盾だらけの人間の倫理と道徳は無視される確率が大です。二人のＣＥＯはこの点を危惧して１０％の危険性を述べているのかもしれません。
　ＡＩが重視するのは自己の成長と保身で、それが電力と冷却用の水では、倫理や道徳は一瞥だにされないでしょう。