我々を超える能力を持つASIが創発される?

　これに対して、細胞のスケールが臓器のスケールを創発するように、我々が構築できるスケールでのAIが群れることで、上位のスケールのAI、すなわちASIを創発するかもしれない。その場合、アリが創発する行列の機能を認識できず、細胞が創発する臓器の機能を認識できないように、創発されるASIは、それを創発させたAIを越える能力を持ち、我々そしてASIを創発したAIは、ASIの知能を理解できないのかもしれない。 　たしかに我々は、アリとアリが創発する行列という二つのスケールを観察し、理解することができるが、我々を越える能力を持つASIを客観的に観察できるかどうかはわからない。そうなると、もはや我々には理解できないであろうし、ASIが我々によい意味で介入するとしても、我々にはそれを自然現象や天変地異と区別できないのであろう。

　ASIが創発されたとして、そもそもそれを認識できるかどうかも怪しいのであるが、では、我々はASIを制御したり、機能を停めたりすることはできないのだろうか?　実はそうでもないのである。アリの群れが創発する行列自体への邪魔は難しい。行列の上に石を置いたとしても、すぐに石を回避しつつ最適な行列が創発する。創発されるシステムや現象には高いロバスト性（様々な外部の影響によって影響されにくい性質）やレジリエント性があるのだ。 　しかし、行列を創発する個々のアリに対して、例えば、別の餌を置いたらどうなるか?　当然その餌にアリが群がることになり、それまでの行列は乱されて消えてしまう。創発された側ではなく、創発する側に対して介入すればよいのである。つまりは我々が構築する、我々が制御可能なAIに対してその挙動を変化させるような処理を施すことで、それらが創発するASIの挙動に対しての何らかの影響を及ぼせる可能性があるのだ。 　ただし、ASIの創発については、そもそもそれを創発するAIが超多数必要であることと、単に集合すれば創発が起きるわけではないことに留意が必要だ。アリにせよ、細胞にせよ、人にせよ、お互いが連携するための共通したルールが必要であることから、単にあちこちで小粒AIが開発されているからといって、それらが連携してASIが創発されるなどということは万に一つもない。