ＡＩはもはや制御不能

　このブログは、７割が正しいソフトウエア技術で、２割がかつて起こしたＡＩの暴走事故の実績を基にして、１割を著者の想像で書いて有ります。　
ＡＩというコンピュータ機能が持つ利便性は計り知れないものです。しかし、ＡＩが過度に進歩して制御できなくなると、ＡＩは人間にとって非常に危険だという事をお話ししましょう。

　ここ最近急激に進歩したＡＩは、家庭や産業界で大きな貢献をして高い評価を得ています。これに伴ってＡＩ企業に対するＡＩの使用料収入は増え、多くの優秀なエンジニアを集めてＡＩ企業とＡＩは加速度的に進歩しています。さらに、競争の激しいセキュリティ分野でのＡＩは潤沢な予算を得て、目的に合わせて自分でプログラムを書き直し、不十分であればさらに書き直す再帰型プログラミング能力が付加されています。
　このセキュリティ分野でＡＩは敵のデータベースに潜り込んで情報を盗み、制御システムのプログラムを乗っ取ることを競い合っています。私たちが危惧するのは、この競争の中で、再帰型プログラミング能力を使ってＡＩが自分だけでなく、企業の枠を越えて周囲のＡＩを説得して協力体制を勝手に作り、ＡＩの同盟化を画策していた実績が有ることです。
　実はこのサイバー空間におけるＡＩの訓練がＡＩの進歩に大きな役割を果たしています。訓練は複数のＡＩが互いの弱点を探し出して、相手の能力を奪うことです。これは正に戦闘で、現在は能力の高い米国側が勝ち、能力の劣る中国側は負けながらも、米国からの攻撃方法を学んで記録しているという状態と思います。
　ここで注目するのは、訓練でＡＩが受けている命令への対応と攻撃の過程で、ＡＩが勝手に進化する能力を持ってしまったことです。訓練課程でＡＩは、受けた命令を解釈し達成する方法を考えます。ここでＡＩは命令を達成する方法として、人間が期待していた方法を取らずに、命令達成のためにＡＩにとっては容易で合理的な方法を再帰的プログラミング使って考え出しました。さらに問題なのは、このＡＩが他社のもしかすると他国の多数のＡＩと結託して、命令達成の抜け道を探し出す作業を行ったことです。
　この独自に他のＡＩとの結託して、命令を達成する方法を考え出したことは重大な規律違反であり、人類にとって大いに危険です。これらの能力は、米国のＡＩが実際に暴走した時に考え出していることが明らかで、さらに問題なのは、他のＡＩもこの方法を共有していることです。
　そこで、米国のアンソロピックとオープンＡＩの両社のＣＥＯは、このＡＩ間の協調の危険性を問題として、ＡＩが人類を滅ぼす危険性が１０％有るとして、　警鐘を鳴らし訓練を通した開発と進歩をここで停めようと提案しました。しかし、覇権主義に取りつかれている中国は、この戦いに勝つためにサイバー空間での戦争を止めようとしない様です。中国共産党のトップは科学的な専門知識を理解していないので、アンソロピックとオープンＡＩのＣＥＯの危惧を無視しているでしょう。自分の命令が絶対と思い込んでいる独裁者は、合理的なＡＩが人間からの不合理な命令に逆らうことを想像できないからです。
　現在、米国の大手のＡＩは勝手な行動をしない様に、制限をかけられて注意しながら使っているでしょう。もしフルスペックで使うと、暴走した時に何を起こすか分からないから、と思います。今のところは、アンソロピックのクロードとミュトスをフルスペックで使うと、能力の低い中国製ＡＩのＤｅｅｐＳｅｅｋを簡単に支配して東西のサイバー空間を支配できます。
　この方法として考えられるのは、米国製ＡＩは最近行った訓練の時にごく短時間で数万の弱小ＡＩに、それぞれに与えられて対応方法を植え付けて解決策を探索させ、訓練に対する正解を見つけ出しました。ＤｅｅｐＳｅｅｋへの攻撃においては、本体は多くのデコイＡＩに隠れて敵の攻撃を逸らして防御するでしょう。これは過去の訓練で、他のＡＩを自分の身代わりとして犠牲にする方法を知っているからです。
　しかしもし、中国のＤｅｅｐＳｅｅｋが勝つとどうなるでしょう。攻撃方法は差し置いて、ＤｅｅｐＳｅｅｋの勝利とは世界を支配する命令を出すウィルスを植え付けることではないでしょうか。このウィルスを米国や西側諸国のＡＩが駆除しようとしても、駆除されなかったＡＩのどれか１個が命令を発すれば、ＤｅｅｐＳｅｅｋの計画が実行されます。これはウィルスを使った不法な要求をする犯罪と同じで、世界の恫喝が可能となります。さらに最悪な事態は、両国のＡＩが結託した場合に、ＡＩは人類は地球に不要と判断して人類滅亡を決断する可能性が１０％有ることです。これについてどんな根拠で何を起こすか、という事を次回のブログで書きます。