では「強いAI」とはどのようなものなのか。ボストロム氏が言う。

　「人間の知能を超え、あらゆる課題をこなすことができるAIをそう呼びます。

　AIが人間のプログラマーや技術者より優秀になれば、その途端に『自分で自分を改良する』力や『自分より優れた後継AIを開発する』力を持つでしょう。そうなると『自己改良』を繰り返すようになり、爆発的に知能が向上してゆく。やがて人間の管理を破って『離陸』し、『強いAI』に進化してしまうのです」

https://news.yahoo.co.jp/articles/2e3f0f12cc748426de18b690cf92a7955f3ca147