ChatGPTやBardなどの大規模言語モデルを含むAIシステムは、動物の脳の皮質の神経構造をモデルにした人工ニューラルネットワークです。
近い将来、このようなシステムは高次の脳構造と機能の側面を再現するために構成されるのは避けられません。
実際、感情を持つ可能性さえあるAIシステム、あるいは人間レベルの意識を持つことはもはやSFの範疇に属しません。
現代のAIシステムは既に心理学で認められた人間の特徴、例えば、心の理論の証拠を示しています。

さらに、意識を達成した場合、AIシステムは開発を主導している人々が期待する以上の能力の新しい配列を明らかにする可能性が高いでしょう。
AIシステムは既に予期しない新たな性質を示していると報告されています。
これらの機能はAIができることと、そのようなシステムをコントロール、調整、使用する社会の能力を変えるでしょう。
さらに、意識はAIに私たちの道義的な景観での場所を与えるでしょう。これにより、さらなる倫理的、法的、政治的な懸念が起きます。

科学は意識の謎を解明し始めています。近年の着実な進歩により、意識を定義し理解するために近づいてきました。
この分野の専門家で構成される国際的なコミュニティーを確立しました。
ピアレビューされた科学文献には30を超える意識のモデルと理論(MoCsとToCs)があり、意識の課題に解決策の重要な一部を既に含んでいます。

これからの道

人工知能は人類最大の成果の1つとなるかもしれません。重要な成果であるために、社会はその意味するところに対処する方法を選択しなければなりません。
AIの開発を一時停止すべきかどうかの立場を取らずに、AIの迅速な開発は意識科学分野の研究を加速する緊急の必要性を露呈していると強調します。

意識の研究は、人類がAIとその影響を理解するのに主要な要素です。 AIの安全性を確保し、倫理的および社会的な意味を管理する上で必須です。
テクノロジー業界、科学界、そして社会全体に人類にとって肯定的な結果をもたらすAIの開発を確実にするために意識の研究を加速する必要性を真剣に考えるよう促します。
AIの研究は一人で放っておかれるべきではありません。

https://amcs-community.org/open-letters/