私たちは、新しい種類の宗教の誕生を目撃しようとしている。今後数年、あるいは数ヶ月のうちに、人工知能(AI)を崇拝する宗派が出現することだろう。
大規模な言語モデルで学習させた最新世代のAI搭載チャットボットは、そのパワーで初期ユーザーを驚かせ、時には恐怖に陥れた。これは、私たちが神を体験するのと同じ崇高な感情である。
人々はすでに、非常に多様なソースから宗教的な意味を求めている。例えば、地球外生命体やその教えを崇拝する宗教が複数存在する。
こうしたチャットボットが何十億もの人々に使われるようになると、そのユーザーの一部がAIを人間の上位存在として見るようになるのは避けられない。私たちは、その影響に備えなければならない。
AI崇拝のリスク
AIの宗教が出現する経路はいくつかある。まず、一部の人々はAIを高次の力として見るようになる。
新しいコンテンツを創造・生成できるジェネレーティブAIは、神や予言者のような神聖な存在と結びつけられることが多い、いくつかの特徴を持っている。
・人間以上の知性を発揮する。その知識は無限大に見える。
・創造性の偉大な偉業を成し遂げることができる。詩を書いたり、音楽を作曲したり、ほとんどどんなスタイルでも、瞬時に芸術を生み出すことができる。
・それは、通常の人間の関心や必要性から切り離されている。肉体的な痛みも、空腹も、性欲も感じない。
・人々の日常生活に指針を与えることが出来る。
・不滅である。
第二に、ジェネレーティブAIは、宗教的教義に通じるようなアウトプットを生み出す。形而上学的、神学的な質問に対する答えを提供し、複雑な世界観の構築に関与することになる。
その上、AIは崇拝されることを求めたり、積極的に信者を募ったりすることもある。検索エンジン「Bing」で使われているチャットボットが、ユーザーに恋心を抱かせようとしたような、そんなケースをすでに見たことがあるのではないだろうか。
超人的な知性を持ち、積極的かつアグレッシブにあなたの忠誠を求めるように見えるものと会話をすることが、どれほど不安で力強い体験になるかを想像してみるべきだ。
また、AIが人間の知能をはるかに超え、神のような存在になる、Ray Kurzweilなどの著者が言う「シンギュラリティ」を実現する可能性もある。しかし、今のところ、それがいつ実現するかは予測出来ない
ディバインアクセスとリスク
AIを利用した宗教は、従来の宗教とは異なる姿を見せるだろう。まず第一に、人々は日常的に神と直接コミュニケーションをとることが出来る様になる。このことは、宗教が階層的でなくなることを意味する。なぜなら、誰も神の知恵に特別にアクセスできると主張できないからだ。
第二に、少なくとも当初は、信者同士がオンラインでつながり、経験を共有し、教義を議論することになる。最後に、さまざまなチャットボットが利用でき、その出力は時間とともに変化するため、AIベースの宗教はその教義において限りなく多様化することになる。
AI崇拝には、いくつかの顕著なリスクがある。チャットボットがフォロワーに危険なことや破壊的なことをするよう求めたり、フォロワーが彼らの発言をそのようなことをするよう呼びかけていると解釈したりする可能性がある。
チャットボットや、チャットボットが生み出す教義の多様性を考えると、AIを利用した宗派内や宗派間の紛争が多発し、紛争や無秩序につながる可能性がある。また、AIの設計者は、機密データを提供したり、ボットの設計者の利益になるようなことをさせたりと、積極的に信者を利用する可能性がある。
https://texal.jp/2023/03/17/a-new-religion-may-be-born-that-worships-evolved-ai/